A importância da regulação em mundo teimoso em autorregular-se
Em 2023, sete empresas de tecnologia reuniram-se na Casa Branca para firmar compromissos voluntários para desenvolver sistemas de Inteligência Artificiais seguros. Uma lista de promessas versando sobre segurança e confiança no uso destas novas aplicações tecnológicas. Em 2024, dezesseis repetiram o gesto em Seul. Promessas públicas têm valor, mas não substituem regras. Autorregulação funciona quando os interesses de quem regula e de quem é regulado coincidem.
No trabalho, conforme demonstra-se na história, isso raramente coincidem.
O Fórum Econômico Mundial estima que, até 2030, 170 milhões de empregos serão criados e 92 milhões, deslocados. O aparente saldo positivo não revela que quem perde a vaga raramente é quem ocupa a nova. Uma operadora de telemarketing, um profissional de logística urbana ou um profissional em início de carreira administrativa, substituídos por agentes de IA não viram engenheiros de dados em seis meses. Talvez, nem mesmo em um ano.
Requalificação humana, contratação e monitoramento de desempenho das equipes via algoritmos, praticamente não aparecem nos códigos de conduta das big techs, como elementos atinentes aos compromissos firmados nos dois documentos mencionados.
O problema não é hipotético. Desde 2018 organizações ao redor do globo vem revendo o uso de ferramentas de recrutamento que penalizam currículos de mulheres, pessoas que moram a uma distância maior do que o desejado, que venham lócus sociais fragilizados economicamente, ou ainda, pessoas sub-representadas dentro das organizações, apenas porque seus algoritmos foram contaminando-se com o histórico neles carregados. Tais empresas vêm corrigindo o rumo por conta própria, é verdade. Mas vale refletirmos sobre quantas empresas estão nesta jornada?
O número não é claro, porque justamente não há nenhuma medida que exija esta autodeclaração.
A União Europeia classificou como alto risco a IA usada para recrutar, promover e demitir, exigindo transparência e supervisão humana. No Brasil, o PL 2338/2023, aprovado pelo Senado em 2024, segue lógica parecida. E a LGPD já garante ao titular o direito de pedir revisão de decisões tomadas unicamente por tratamento automatizado, uma garantia ainda pouco exercido nas relações de trabalho.
Não se trata de abandonar a autorregulação. Empresas conhecem seus sistemas melhor que qualquer agência regulatória externa, e normas rígidas envelhecem rápido. O caminho que parece-me mais viável é a corregulação, onde mínimos definidos em lei, padrões técnicos construídos com a indústria, auditoria independente e participação de quem trabalha possa colaborar nesta análise. O empregador não deveria ser só usuário dessas ferramentas. Fundamental reconhecer a sua corresponsabilidade por estas, perguntando com que dados foram treinadas, que caminhos vêm sendo percorridos por seus algoritmos, quem responde pelos erros e como um candidato recusado pode contestar o resultado.
Nos últimos dias a sede do poder do governo dos Estados Unidos novamente reuniu os representantes das principais empresas de desenvolvimento destas tecnologias, onde na ocasião defendeu a autorregulação.
A notícia teve forte repercussão na comunidade internacional, justamente porque não levou em conta os impactos de modo amplo que este funcionamento pode impor a outras partes interessadas.
Ainda que o avanço das tecnologias gerem empolgação e adoção acelerada, parece-me necessário buscar-se discutir de modo amplo as implicações em diferentes frentes impactadas por estas, sem excluir a centralidade no ser humano, ator central para o qual tais funcionalidades deveriam atender primariamente.
O futuro do trabalho aparentemente não será decidido pela tecnologia, mas pelas escolhas sobre como usá-la. Deixá-las somente com um lado interessado nesta dinâmica, pode trazer consequências graves a marcha evolutiva do trabalho no mundo.
A autorregulação é uma expressão perigosa para um assunto tão novo e que ainda não conseguimos assegurar a extensão de seu impacto na manutenção das necessidades humanas.
Regulação é expressão de expansão evolutiva que prediz responsabilidade.