Advogado é multado por usar IA que inventou testemunhas em caso real

Um advogado de Novo México, nos Estados Unidos, foi multado em US$ 5 mil depois que um tribunal descobriu que ele usou o ChatGPT para preparar um recurso de um caso de assassinato. O problema: a IA inventou testemunhas e citações que nunca existiram. O juiz considerou que o advogado agiu com negligência ao não verificar as informações geradas pelo modelo.

Esse não é o primeiro caso do tipo — em 2023, outros advogados já haviam sido penalizados por usar IA em documentos legais sem checar os fatos. A diferença é que agora o uso de IA generativa está mais difundido, e o risco de alucinações (respostas falsas apresentadas como verdade) continua sendo um desafio. O episódio ganhou destaque porque envolve um caso criminal grave.

Para quem está aprendendo IA no Brasil, essa notícia é um alerta prático: modelos de linguagem não são fontes confiáveis de fatos. Eles geram texto plausível, mas podem inventar dados, nomes e referências. Isso é especialmente perigoso em áreas como direito, medicina e jornalismo, onde a precisão é crucial. Aprender a identificar e mitigar alucinações é uma habilidade fundamental.

Imagine que você está usando um assistente de IA para escrever um trabalho acadêmico. Ele cita um artigo que parece real, mas o link não existe. Se você não verificar, pode ser acusado de plágio ou de má conduta. O mesmo vale para relatórios de trabalho, e-mails importantes ou qualquer conteúdo que exija veracidade. Sempre cruze as informações com fontes oficiais.

A lição é clara: trate a IA como um assistente criativo, não como uma enciclopédia. Antes de usar qualquer informação gerada por IA em contextos sérios, confirme com fontes confiáveis. Aprenda a pedir que o modelo mostre a origem dos dados e use ferramentas de verificação. No futuro, modelos devem ficar melhores em citar fontes, mas por enquanto a responsabilidade é sua.

real desk with a laptop screen showing a legal document with highlighted fake witness names and a red error symbol, a gavel and a judge's robe on the side, with a person's hand pointing at the screen