Riscos da IA à justiça tributária: alucinação e hermenêutica

O escopo do presente artigo busca relacionar conceitos de áreas científicas interdisciplinares como Ciência Jurídica, Filosofia, Linguística e Ciência da Computação de modo a buscar compreender a denuncia do professor Lenio Streck materializada no artigo “O robô, a invenção de precedentes e o viés de perspectiva” [1].  Nesse sentido, aborda conceitos de alucinações, modelos de linguagem de grande escala, viragem lingüístico-ontológica (Heidegger-Gadamer), a reforma tributária e Lei Complementar 214.

A progressiva sofisticação dos Modelos de Linguagem de Grande Escala (LLMs), a exemplo do ChatGPT (ferramentas de inteligência artificial (IA) generativa, bem como outras IA, tem propiciado avanços notáveis em diversas esferas do conhecimento, isso é um fato. No entanto, emerge um fenômeno crítico que impõe cautela à sua adoção irrestrita: a propensão à geração de informações não verificáveis ou patentemente equivocadas, as denominadas alucinações. Tal comportamento intrínseco aos LLMs representa um obstáculo significativo à sua implementação em domínios que demandam acurada fidedignidade informacional como a do direito [2].

A literatura especializada em Processamento de Linguagem Natural (NLP) define o conceito de alucinação como a geração de fatos ou citações desprovidas de lastro em dados confiáveis, mesmo que superficialmente plausíveis. As alucinações podem ser classificadas em intrínsecas, quando há contradições diretas com o contexto de entrada, e extrínsecas, quando ocorrem inclusões de informações não verificáveis nem no contexto nem em bases de treinamento – por exemplo, quando uma IA jurídica “inventa” ementas ou artigos de lei inexistentes, frequentemente motivada por um viés de confirmação que faz a IA priorizar dados que reforcem a tese do solicitante. [3] Arvind Narayanan, professor de ciência da computação na Universidade de Princetonafirma que “a curto e médio prazo, acho improvável que as alucinações sejam eliminadas. Acredito que, em certa medida, elas são intrínsecas à maneira como os LLMs funcionam” [4]

Nesse contexto, a análise do professor Lenio Streck lança luz sobre uma manifestação particular desse fenômeno no âmbito jurídico. Em seu artigo “O robô, a invenção de precedentes e o viés de perspectiva” [5], o jurista adverte para a tendência IAs de aplicação jurídica em “inventar” ou adaptar precedentes normativos de maneira a favorecer a consulente. Tal observação revela um viés de confirmação ou de perspectiva que inerentemente distorce a objetividade do direito (na terminologia técnica da NLP, uma forma específica de alucinação extrínseca enviesada.).

O uso inadvertido da inteligência artificial aplicada ao Direito não é uma exclusividade da realidade em terraebrasilis, parafraseando Streck, especialmente na obra Hermenêutica e Ensino Jurídico em TerraeBrasilis [6], que será abordada adiante. Farquhar relata um caso ocorrido nos Estados Unidos: “dois advogados foram multados em US$ 5 mil por um juiz norte-americano após um deles itir ter utilizado o ChatGPT para redigir uma petição inicial. Ele confessou que o chatbot havia incluído citações falsas no documento, referindo-se a precedentes que, na realidade, jamais existiram” (tradução livre) [7].

Retornando para o artigo “O robô, a invenção de precedentes e o viés de perspectiva”; o presente artigo irá focar na área tributária, levando em conta, sobretudo a relação entre as agens em que as “teses defensivas em matérias tributárias principalmente, em que estão em jogo maiores valores pecuniários” com “sabe-se que a IA é largamente utilizada pelos órgãos estatais (os advogados também usam, é claro). A IA acaba, por vezes, inventando precedentes ou fazendo adaptações estranhas, tudo para atender o viés de perspectiva estatal”. O professor Lenio constrói a argumentação explicitando claramente a alucinação extrínseca enviesada que nesse caso pode vir a afetar frontalmente direitos fundamentais do contribuinte. Claro que o artigo é muito mais profundo e aborda diversas áreas e nesse sentido se recomenda fortemente sua repetida leitura.

Não há aqui, contudo, o objetivo de demonizar a IA; há, sim, o de clarificar aspectos que vêm sido reiteradamente negligenciados por quem a utiliza. O que se quer provocar — novamente parafraseando o professor Lenio Streck — é a “angústia epistemológica”, no sentido de investigar uma ferramenta muitas vezes manejada de forma amadora. A IA pode servir como instrumento de pesquisa; no entanto, é preciso observar que ela não substitui o pensamento humano. Nesse sentido, uma das estratégias para mitigar eventuais erros no contexto jurídico, resultantes das alucinações, é a supervisão humana especializada, traduzida na revisão obrigatória por juristas antes da submissão de petições ou decisões que envolvam IA, cuidado esse reforçado pelo Procedimento de Controle istrativo nº 0000416-89.2023.2.00.0000, relatado por João Paulo Santos Schoucair [8].

Enquanto isso, no Senado, o Projeto de Lei nº 2.338/2023 — de autoria do senador Rodrigo Pacheco — vem desenhando regras para o uso de inteligência artificial no Brasil, buscando garantir transparência e responsabilidade. E não é só no Legislativo: em 2021, o CNJ mapeou 41 projetos de IA em 32 tribunais, [9] o que mostra o quanto essas tecnologias já fazem parte do nosso dia a dia jurídico e reforça a urgência de um marco normativo consistente.

Uma vez que a utilização da IA no campo jurídico é fomentada pelo CNJ e considerada inevitável, por que não implantar no currículo acadêmico, de modo a evitar os crescentes desastres jurídicos provocados pelo amadorismo na utilização das LLM, incluindo novas disciplinas voltadas para o uso de IA? Essas novas disciplinas devem abordar não apenas os fundamentos técnicos de modelos generativos e suas limitações—como o viés, a alucinação e a responsabilidade pelos resultados produzidos—mas também princípios éticos como transparência, justiça e respeito à dignidade humana, além de estudar o arcabouço normativo em formação no Brasil e no exterior. Assim, forma-se-á profissionais do Direito capazes de empregar ferramentas de IA de maneira crítica e responsável, assegurando a conformidade com normas legais, a proteção dos direitos fundamentais e a preservação da confiança pública no sistema judiciário.

Diante do panorama complexo da IA generativa, especialmente dos LLMs, é fundamental reconhecer que tanto a hermenêutica jurídica quanto essas arquiteturas compartilham uma condição basilar: a linguagem não é um mero instrumento, mas o substrato ontológico onde se produzem e interpretam os sentidos. Por outro lado, Streck, quando aborda a viragem lingüístico-ontológica em Hermenêutica e Ensino Jurídico em TerraeBrasilis, retoma a grande virada de Heidegger e Gadamer ao mostrar que o sentido não mora mais ‘lá fora’, nas coisas, nem apenas na mente de quem pensa, mas nasce e se renova na própria linguagem. Assim, a crise da hermenêutica jurídica não é só um embate entre objetividade e subjetividade, mas uma constatação fundamental: não existe significado fora do diálogo entre texto e intérprete.

Os LLMs, por sua vez, são sistemas cuja “compreensão” e “produção” textual emergem de redes neurais treinadas em vastos repositórios de linguagem humana. Ao estimarem probabilisticamente a próxima palavra com base em padrões extraídos do corpus de treinamento, esses modelos não replicam regras fixas; antes, eles operam num fluxo contínuo de reconstrução de sentido, gerando textos que se autovalidam no interior de seu próprio contexto estatístico [10]. Dependem extremamente da capacidade humana de estabelecer parâmetros que determinem o escopo de sua busca.

Esse confronto entre hermenêutica jurídica e IA generativa aponta para um desafio comum: se, para o intérprete humano, o significado resulta da tensão entre horizonte pré-concebido e revelação do texto, para o LLM ele nasce da oscilação entre os vetores de probabilidade e o dado estatístico. Em ambos os casos, a linguagem assume função ontológica, e a validação do sentido não repousa em fundamentos absolutos, mas na coerência interna ao processo interpretativo – ora humano, ora algorítmico. Reconhecer essa convergência é crucial para repensar a autoridade e o critério de verdade no uso de IAs jurídicas, pois, tal como na hermenêutica pós-metafísica, a estabilidade do enunciado jurídico torna-se objeto de contínua disputa interpretativa.

Ora, o professor Lenio Streck constatou a “invenção de precedentes e jurisprudências” por IAs jurídicas, destacando o agravante da atuação estatal em matéria tributária, na qual honorários e prerrogativas conferem ao ente público vantagem interpretativa, resultando em estratégias que ignoram prescrições e decadências. Além disso, Streck adverte sobre o risco de contestações automatizadas ferirem o devido processo legal ao recomendar a negação de provas favoráveis ao cidadão. Se tal constatação se observa no microcosmo, imagine-se, em escala macro, um cenário em que as alucinações da IA interagem com a Emenda Constitucional nº 132/23, regulamentada pela Lei Complementar nº 214/25, de 16 de janeiro de 2025, que institui o IBS, a CBS e o IS, além de criar o Comitê Gestor do IB, e que ainda carece de uma série de regulamentações e debates, como bem observam os professores Letícia de Mello e Marciano Buffon: “é necessário considerar que a reafirmação deste direito fundamental no bojo do texto constitucional, apesar da imensurável importância, necessita, para a efetividade de seu comando, de produção legislativa infraconstitucional …”. Tal quadro poderia configurar uma verdadeira catástrofe para o contribuinte, especialmente o hipossuficiente, ao ensejar a violação de direitos fundamentais basilares, notadamente o direito à dignidade da pessoa humana e à garantia do mínimo existencial…” [11]

Ao fim e ao cabo, esse artigo buscou reforçar o posicionamento do professor Lenio Streck quanto aos cuidados necessários com a utilização das Ias, sobretudo na área jurídica. Evidenciou que a “invenção de precedentes” “alucinações das LLM” por IAs jurídicasrepresentam desafios significativos para a prática jurídica no Brasil.Ademais, a combinação das alucinações inerentes às IAs jurídicas com as ambiguidades da Lei Complementar nº 214/2025 pode acarretar insegurança jurídica, manifestada na proliferação de precedentes carentes de fundamento e em interpretações divergentes da nova legislação, bem como gerar inequidade, conferindo vantagens indevidas às partes com o a ferramentas de IA mais sofisticadas, e, por fim, comprometer a responsabilidade profissional de advogados e juízes, que podem inadvertidamente fundamentar suas argumentações em premissas inexistentes, em flagrante violação de seus deveres éticos.

Para mitigar os riscos abordados neste artigo, propõem-se três diretrizes integradas. Primeiro, a supervisão humana obrigatória: juristas devem validar decisões geradas por IA, garantindo conformidade com o ordenamento jurídico e os direitos fundamentais. Segundo, é essencial instituir um marco regulatório e compliance algorítmico, assegurando que sistemas de IA sigam normas legais, princípios éticos e diretrizes de governança, com transparência, rastreabilidade e responsabilização. Por fim, destaca-se a formação jurídica, desde a graduação, para que futuros operadores do Direito compreendam os limites, os vieses e a “angústia epistemológica” destacada por Streck, utilizando a IA com ética e discernimento. Aliadas a pesquisas empíricas sobre o impacto das alucinações nos litígios — especialmente os tributários — tais medidas visam transformar a IA em instrumento de aprimoramento da justiça, e não em ameaça à sua integridade.

[1] STRECK, Lenio Luiz. O robô, a invenção de precedentes e o viés de perspectiva. Consultor Jurídico, 22 abr. 2025. Disponível em: /2025-abr-22/o-robo-a-invencao-de-precedentes-e-o-vies-de-perspectiva/. o em: 23 abr. 2025

[2] FARQUHAR, S. et al. “ScientistsDevelop New Algorithmto Spot AI ‘Hallucinations’”. Time, 16 ago. 2024. Disponível em: https://time.com/6989928/ai-artificial-intelligence-hallucinations-prevent/. o em: 23 abr. 2025.

[3] HUANG, Lei; YU, Weijiang; MA, Weitao; ZHONG, Weihong; FENG, Zhangyin; WANG, Haotian; CHEN, Qianglong; PENG, Weihua; FENG, Xiaocheng; QIN, Bing; LIU, Ting. A surveyonhallucination in largelanguage models: principles, taxonomy, challenges, and open questions. arXivpreprint arXiv:2311.05232, 2023. Disponível em: https://arxiv.org/abs/2311.05232. o em: 23 abr. 2025.

[4] FARQUHAR, S. et al. “ScientistsDevelop New Algorithmto Spot AI ‘Hallucinations’”. Time, 16 ago. 2024. Disponível em: https://time.com/6989928/ai-artificial-intelligence-hallucinations-prevent/. o em: 23 abr. 2025.

[5] STRECK, Lenio Luiz. O robô, a invenção de precedentes e o viés de perspectiva. Consultor Jurídico, 22 abr. 2025. Disponível em: /2025-abr-22/o-robo-a-invencao-de-precedentes-e-o-vies-de-perspectiva/. o em: 23 abr. 2025.

[6] Streck, L. L. (2007). HERMENÊUTICA E ENSINO JURÍDICO EM TERRAE BRASILIS. Revista Da Faculdade De Direito UFPR, 46. https://doi.org/10.5380/rfdufpr.v46i0.13495/. o em: 23 abr. 2025.

[7] FARQUHAR, S. et al. “ScientistsDevelop New Algorithmto Spot AI ‘Hallucinations’”. Time, 16 ago. 2024. Disponível em: https://time.com/6989928/ai-artificial-intelligence-hallucinations-prevent/. o em: 23 abr. 2025.

[8] BRASIL. Conselho Nacional de Justiça. Procedimento de Controle istrativo nº 0000416-89.2023.2.00.0000. Relator: João Paulo Santos Schoucair. Julgado em: 25 jun. 2024. Disponível em: https://www.cnj.jus.br/pjecnj/Processo/ConsultaDocumento/listView.seam?x=24062511261416900000005110138. o em: 24 abr. 2025.

[9] O uso de inteligência artificial na tomada de decisão judicial. Revista de Investigações Constitucionais. Disponível em: https://doi.org/10.5380/rinc.v10i1.86319. o em: 24 abr. 2025.

[10] HUANG, Lei; YU, Weijiang; MA, Weitao; ZHONG, Weihong; FENG, Zhangyin; WANG, Haotian; CHEN, Qianglong; PENG, Weihua; FENG, Xiaocheng; QIN, Bing; LIU, Ting. A surveyonhallucination in largelanguage models: principles, taxonomy, challenges, and open questions. arXivpreprint arXiv:2311.05232, 2023. Disponível em: https://arxiv.org/abs/2311.05232. o em: 23 abr. 2025

[11] MELO, Letícia de; BUFFON, Marciano. Reforma tributária e lei complementar: da (des)conformidade com o texto constitucional. Consultor Jurídico, São Paulo, Opinião, 28 jan. 2025. Disponível em: /2025-jan-28/reforma-tributaria-e-lei-complementar-critica-a-partir-da-desconformidade-com-o-texto-constitucional/. o em: 24 abr. 2025.