IA: olhar crítico de seu papel ao desenvolvimento da sociedade e sua influência nas relações de trabalho

A inteligência artificial tem se apresentado como uma das grandes pautas tecnológicas da atualidade e vem transformando o mercado de trabalho, criando tanto novas oportunidades, como alguns desafios. Vale destacar, que a IA tem sido vista como um grande elo transformador, para alavancar negócios, otimizar sistemas operacionais e, até mesmo, escalar vendas, mediante sistemas de atendimentos inteligentes.

Ao argumento de sua imparcialidade na análise de diversos dados para fins decisórios, tem-se cogitado a aplicação da inteligência artificial como uma ferramenta hábil para substituir os seres humanos na elaboração de decisões judiciais e istrativas, bem como na redação de peças jurídicas, o que seria um grande marco para os entusiastas do Direito 4.0.

Citamos a título exemplificativo o estudo realizado pelos autores José Luiz Bolzan de Morais e Lígia Kunzendorf Mafra de onde se extrai a seguinte conclusão:

“A inteligência artificial tem o potencial de revolucionar muitos aspectos do sistema judiciário, mas essa revolução precisa ser conduzida com prudência e respeito aos princípios que são a base de nosso sistema de justiça. Afinal, a solução de conflitos humanos deve permanecer inerentemente humana, mesmo na era da inteligência artificial. MORAIS, José Luis Bolzan de; MAFRA, Lígia Kunzendorff. Inteligência artificial em decisões judiciais: opacidade versus garantias processuais. Novos Estudos Jurídicos, Itajaí (SC), v. 28, n. 3, p. 516-535, 2023. DOI: 10.14210/nej.v28n3.p516-535.”

Em contraponto, em abril de 2025, tive o privilégio de participar, como Delegado, do “XVII Encuentro Internacional de Abogados Laboralistas y Del Movimento Sindical”, oportunidade em que o dr. João Guilherme Wlaski trouxe ao debate uma importante reflexão sobre esse avanço tecnológico, que seria a “discriminação algorítma”.

Partindo da premissa que os algoritmos são um conjunto de códigos por seres humanos, para otimizar o resultado de um determinado objetivo, foi defendida a possibilidade de que determinadas empresas criem critérios objetivos para discriminar alguns grupos de trabalhadores, em detrimento de outros, ou penalizar certos perfis — independentemente do resultado entregue na companhia — por não se enquadrar no padrão comportamental almejado pelas lideranças.

Uma espécie de discriminação semelhante se observa em alguns aplicativos, como 99 Taxi, Rappi e Uber, nos quais o trabalhador que negar três corridas/atendimentos consecutivos, é remetido ao final da fila, ou a ele serão destinadas apenas corridas, ou entregas, de baixo valor – não obstante o argumento de eles seriam autônomos e possam escolher seus próprios horários de trabalho e adotarem suas próprias decisões.

Além do trabalho em plataformas, é possível imaginar que outras grandes empresas, sobretudo Grandes Conglomerados Multinacionais, utilizem algoritmos para tomada de decisões de caráter trabalhista, seja para contratar, demitir, promover ou pagar bônus. Os padrões utilizados para criação dos algoritmos, entretanto, podem conter conteúdo discriminatório como: impedir ou dificultar a contratação de mulheres ou pessoas filiadas à sindicatos; demitir pessoas idosas, que possuam filhos ou que tenham a saúde fragilizada; ou, ainda, pagar bônus a quem trabalhar em jornadas extenuantes, acima do limite legal.

Desta reflexão surge o seguinte questionamento: Como auditar e impedir o comportamento predatório das empresas que fazem uso desse tipo de tecnologia?

O artigo 20 da Lei de Proteção de Dados Pessoais estabelece que o titular dos dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade. Ou seja, a legislação de dados brasileira, inspirada na legislação europeia, já garante o direito de o trabalhador ter o aos critérios utilizados pelas empresas em decisões que as envolva, sendo clara sua aplicação para relações de trabalho.

O dr. João Guilherme, com quem concordo plenamente neste artigo, ainda acrescentou que será uma das grandes pautas das relações de trabalho neste século: a proteção do direito dos trabalhadores, as eventuais desigualdades, discriminações e descumprimentos normativos, decorrentes de algoritmos que foram programados para este fim, tendo sintetizado a apresentação com uma citação do espanhol Antonio Baylos: “A negociação coletiva deve ser o espaço para desmantelar a opacidade destas tecnologias. Não podemos permitir que grandes empresas tecnológicas imponham as suas regras nas sombras”.

Este tema é de extrema relevância, para que a sociedade civil fique atenta e se prepare para defender seus direitos diante das inovações que se apresentam a diante.

A dialética de trabalho não poderá ficar restrita, tão-somente, à análise de fatos objetivos, sem antes entender a origem deles. É necessário que as associações civis tenham um corpo técnico capaz de averiguar se a dita inteligência artificial está tomando suas decisões “lógicas” com base na legislação vigente, sem beneficiar ou discriminar determinado grupo.

Ou seja há de se aproximar a Ética da inteligência artificial.

Assim, não se desconhece a relevância e os avanços advindos da inteligência artificial. Contudo, é importante, porém, que tenhamos um olhar crítico, para que essa seja uma conquista de toda a sociedade, e não uma ferramenta que promova privilégios a um grupo de pessoas, tampouco um instrumento que imponha um único padrão comportamental, discriminando todas as outras.