Alucinações de IA no Direito: Crises Judiciais e Batalhas Coletivas se Multiplicam

A profissão jurídica enfrenta desafios sem precedentes com a adoção de ferramentas de IA generativa, onde dois casos recentes expuseram vulnerabilidades sistêmicas na interseção entre inteligência artificial e processos judiciais.

Num desenvolvimento chocante, advogados da Autoridade de Habitação de Chicago apresentaram petições contendo citações de jurisprudência inexistente, gerada pelo ChatGPT. Os precedentes fabricados - com nomes de casos plausíveis, datas e citações judiciais - passaram por revisões iniciais até que juízes e advogados adversários não conseguiram localizar as decisões citadas. O caso lembra o escândalo Mata vs Avianca em 2023, mostrando que o problema persiste apesar dos alertas sobre alucinações de IA.

Paralelamente, um juiz federal homologou uma ação coletiva contra a Anthropic, permitindo que autores contestem em grupo as alegadas violações de direitos autorais pelos modelos de linguagem da empresa. Os autores afirmam que as IAs foram treinadas com suas obras protegidas sem consentimento ou remuneração. A decisão cria um precedente para litígios coletivos contra desenvolvedores de IA e pode redefinir a aplicação das leis de propriedade intelectual em sistemas de machine learning.

Implicações em Cibersegurança:

1. Crise de Verificação: O Direito carece de mecanismos técnicos para detectar conteúdos fabricados por IA em petições judiciais. Os sistemas atuais não possuem detectores especializados em jurisprudência artificial.

1. Responsabilidade dos Modelos: Não há padrões claros para auditar saídas de IA em ambientes críticos como processos judiciais.

1. Proveniência de Dados: O caso Anthropic revela questões não resolvidas sobre documentação de dados de treinamento e conformidade com direitos autorais.

Especialistas alertam que, sem intervenção imediata, esses problemas podem corroer a confiança no sistema judiciário e expor escritórios a processos por erro profissional. As soluções propostas incluem:

• Exigência de declaração sobre uso de IA em petições
• Sistemas de verificação de jurisprudência baseados em blockchain
• Treinamento especializado em IA para profissionais do Direito
• Rastreamento padronizado de dados de treinamento de modelos

Os casos mostram como cibersegurança, ética jurídica e governança de IA estão se tornando indissociáveis em contextos profissionais onde desinformação gera consequências graves no mundo real.