Guia Anti-Alucinação

O que é alucinação de IA

Alucinação é o fenômeno pelo qual um modelo de linguagem gera, com confiança, uma resposta que parece plausível mas não corresponde à realidade. No contexto jurídico, isso significa uma jurisprudência, um dispositivo de lei ou um dado do processo que soa perfeito, mas que não existe ou não é verdadeiro.

Não é um defeito ocasional; é uma característica de como o modelo funciona. O modelo prevê a continuação estatisticamente mais provável do texto, com base em padrões dos dados de treinamento, sem distinguir fato real de ficção convincente. Ele não “sabe” se um acórdão existe: apenas reproduz a estrutura textual típica de ementas e acórdãos, gerando número de processo, órgão julgador e relator convincentes, ainda que nenhum documento correspondente exista.

Por que a alucinação acontece (e não desaparece)

Há sólida base acadêmica para entender o problema. O estudo “Why Language Models Hallucinate” (Kalai, Nachum, Vempala e Zhang, 2025) demonstra que, mesmo que os dados de treinamento fossem livres de erros, os próprios objetivos otimizados durante o treinamento levariam o modelo a gerar erros. Em posição ainda mais categórica, “Hallucination is Inevitable: An Innate Limitation of Large Language Models” (Xu, Jain e Kankanhalli) sustenta que é impossível eliminar a alucinação nos modelos de linguagem.

As duas leituras levam à mesma conclusão prática para o Defensor: a alucinação é risco estrutural, não acidente raro. Ferramentas de aterramento (grounding/RAG), como o Gemini Enterprise com fontes conectadas, reduzem o risco e trazem links auditáveis para as fontes, mas não o eliminam: o próprio aterramento pode trazer fonte irrelevante ou desatualizada. Por isso a conferência humana é insubstituível.

Tipos de alucinação mais comuns no Direito

• Julgado inexistente: acórdão, súmula ou precedente que nunca existiu.
• Ementa adulterada: decisão real com o teor alterado para favorecer a tese.
• Número de processo fabricado: parece real, mas não localiza nada ou localiza processo sem relação com o tema.
• Dispositivo revogado citado como vigente, ou artigo de lei com redação alterada, ou parágrafo/inciso inventado.
• Atribuição errada: tese atribuída a tribunal, relator, órgão ou data incorretos (inclusive precedente atribuído a magistrado que não integra o colegiado ou com data posterior à sua aposentadoria).
• Citação doutrinária falsa: autor ou obra inexistente.
• Invenção de dados do caso concreto: fatos, documentos ou alegações que não constam dos autos.

O dever de conferir: marco normativo

Conferir a saída da IA não é preciosismo, e sim dever. O quadro normativo brasileiro é claro nesse ponto.

Resolução CNJ nº 615/2025

Estabelece como fundamento a participação e a supervisão humana em todas as etapas (art. 2º, V) e veda soluções que não permitam a revisão humana dos resultados ou que gerem dependência absoluta do usuário (art. 10, I). Autoriza o uso de IA generativa como ferramenta de auxílio (art. 19), mas sempre sob controle humano. Foi alterada pela Resolução CNJ nº 674, de 25 de março de 2026.

Confira: Texto oficial da Resolução CNJ nº 615/2025 (atos.cnj.jus.br)

Deliberação CSDP-MG nº 565/2026

Institui diretrizes, princípios e conceitos para o uso de IA na Defensoria Pública de Minas Gerais. Exige participação e supervisão humana em todas as etapas do ciclo de uso da IA (art. 4º, V) e determina que todo documento produzido por IA generativa seja submetido a revisão humana (art. 8º, V). Veda o uso autônomo da IA generativa sem verificação humana (art. 9º, § único, I) e mantém o membro ou servidor integralmente responsável pelo resultado produzido (art. 8º, IV), cabendo a ele validar o conteúdo gerado e confirmar sua exatidão técnica e jurídica (art. 11, IV).

Deveres de veracidade e boa-fé do CPC

Para quem atua perante o Judiciário, os deveres de veracidade e boa-fé processual do CPC (arts. 77, 80 e 81) são a âncora mais direta: apresentar em juízo citação inexistente ou dado inverídico pode caracterizar litigância de má-fé, com multa e demais consequências processuais, como os tribunais já vêm aplicando.

Método de verificação passo a passo

Antes de levar qualquer texto de IA para uma peça, percorra os quatro blocos abaixo. É o núcleo deste guia.

Bloco 1: Existência dos julgados citados

1. Copie o número do processo exatamente como citado e busque na consulta processual do tribunal indicado.
2. Busque a ementa por palavras-chave no sistema de jurisprudência do tribunal (SCON no STJ, portal de jurisprudência no STF, consulta de jurisprudência no TJMG).
3. Confira se número, órgão julgador, relator, data de julgamento e teor da ementa batem exatamente com o que a IA afirmou.
4. Para súmulas, teses de repercussão geral e recursos repetitivos, confira número e teor no repositório oficial.

Bloco 2: Vigência dos dispositivos legais

1. Consulte o texto compilado no Planalto ou na legislação do Senado.
2. Verifique a linha do tempo e a redação vigente na data de referência.
3. Atenção redobrada a reformas recentes, revogações e redações alteradas, pois a IA frequentemente cita redação antiga como se fosse vigente, ou inventa parágrafo e inciso.
4. Nunca confie na transcrição do dispositivo feita pela IA, nem em transcrição de terceiros.

Bloco 3: Dados do caso concreto

1. Cruze nomes, números de processo, valores, datas e qualificações contra a fonte primária (autos, PJe, sistema institucional da Defensoria).
2. Confira se a IA não inseriu fatos, documentos ou alegações que não constam dos autos.

Bloco 4: Selo “revisado por humano”

1. Registre que houve conferência: data, responsável e fontes consultadas.
2. Mantenha uma trilha de auditoria simples: link direto da decisão conferida, cópia do acórdão ou captura de tela. Ela comprova a diligência e protege o Defensor em eventual questionamento.

Checklist rápido antes de assinar

Marque conforme for conferindo:

• Localizei cada julgado citado na fonte oficial do tribunal (número, relator, órgão, data e teor conferem).
• Conferi a redação vigente de cada dispositivo legal na data de referência.
• Cruzei nomes, números, valores e datas do caso contra os autos.
• Removi toda citação que não consegui localizar na fonte oficial.
• Guardei a trilha de auditoria (links, cópias ou capturas das decisões conferidas).

Botões de conferência nas fontes oficiais

Todas as citações podem ser verificadas gratuitamente nos portais oficiais. Os botões abaixo abrem cada base em uma nova aba.

Prompts seguros para reduzir alucinação

Estas instruções, coladas junto do seu pedido, reduzem (mas não eliminam) o risco de a IA inventar referências. Elas não substituem a conferência dos quatro blocos.

Exigir fontes verificáveis

Admitir incerteza em vez de inventar

Usar aterramento (grounding) e não citar o que não pode confirmar

Sinais de alerta (red flags) de provável alucinação

Observações finais

• URLs de portais mudam com frequência; o TJMG está em transição para sistemas unificados. Se um link falhar, use a página inicial oficial do tribunal como ponto de partida.
• Ferramentas de aterramento (grounding/RAG) reduzem alucinações, mas não as eliminam. A conferência humana permanece obrigatória.
• A responsabilidade pelo conteúdo da peça é sempre do Defensor que assina. As normas que autorizam o uso de IA (Resolução CNJ nº 615/2025 e Deliberação CSDP-MG nº 565/2026) reforçam, e não afastam, esse dever.