O Tribunal Superior do Estado do Novo México, nos Estados Unidos, tomou uma decisão inédita ao multar um advogado de defesa por apresentar documentos contendo depoimentos policiais e testemunhas totalmente inventados por uma inteligência artificial. A penalidade foi aplicada na última quarta-feira, dia 10 de outubro, após constatar que o advogado Stephen Aarons, responsável pelo recurso de um cliente condenado por homicídio, não verificou a veracidade do material utilizado em sua argumentação judicial.
A ação judicial envolvia o recurso de Oscar Renee Sandoval, que havia sido condenado à prisão perpétua pelo assassinato da mãe de seus filhos. Aarons, advogado particular com sede em Santa Fé, foi responsável por elaborar a apelação, a qual foi atribuída posteriormente à defensora pública Kim Chavez Cook. No processo, Aarons apresentou um documento que continha depoimentos de testemunhas e declarações policiais, todos eles fabricados por uma ferramenta de inteligência artificial, especificamente pelo ChatGPT, desenvolvido pela OpenAI.
O tribunal afirmou que o conteúdo do processo “continha depoimentos falsos de testemunhas totalmente inventadas”. Como consequência, Aarons foi considerado culpado de desacato por não ter realizado a devida verificação da precisão do material apresentado. Além da multa de US$ 5.000, o advogado foi encaminhado a um conselho disciplinar de advogados para uma investigação mais aprofundada sobre sua conduta.
A Suprema Corte do Novo México destacou ainda a postura de Aarons, que demonstrou “falta de remorso e de preocupação com seu cliente”, ao não reconhecer o erro na utilização de informações geradas por uma inteligência artificial sem validação. O advogado declarou à Reuters que utilizou o ChatGPT para resumir os procedimentos do julgamento ao assumir o recurso no ano passado, alegando que não tinha plena compreensão de como a tecnologia poderia “alucinar” fatos ou criar depoimentos falsos.
A decisão do tribunal reforça uma tendência crescente de punições a advogados que utilizam ferramentas de inteligência artificial sem a devida checagem das informações. Nos últimos meses, diversos profissionais do direito nos Estados Unidos foram sancionados por apresentarem documentos judiciais que continham citações de casos ou leis incorretas, ou ainda, depoimentos e declarações que simplesmente foram inventados por softwares de IA.
No caso específico de Aarons, o conteúdo fabricado incluía até detalhes aparentemente triviais, como a descrição de que o atirador estaria usando calças escuras e uma camisa branca, elementos que foram utilizados na petição principal do recurso. Segundo o próprio advogado, ele forneceu ao ChatGPT uma transcrição do caso e outros materiais relacionados, acreditando que a inteligência artificial geraria um resumo confiável, sem imaginar que ela pudesse criar depoimentos fictícios.
Durante uma audiência realizada em 21 de agosto, o tribunal questionou Aarons sobre a origem do material, ao que o advogado respondeu que utilizou uma transcrição gerada por computador, presumindo que o resultado fosse “à prova de balas”. Os juízes demonstraram incredulidade diante da falta de conhecimento do advogado sobre os riscos de confiar cegamente em ferramentas de IA, com a juíza C. Shannon Bacon comentando que as notícias sobre os erros de inteligência artificial estão na mídia diariamente.
A OpenAI, responsável pelo desenvolvimento do ChatGPT, ainda não se manifestou oficialmente sobre o caso. A decisão do tribunal do Novo México evidencia a necessidade de maior cautela por parte dos profissionais do direito na utilização de tecnologias de inteligência artificial, especialmente no contexto de processos judiciais, onde a precisão e a veracidade das informações são essenciais para garantir a justiça.
