Hannes P Albert/Dpa - Arquivo
MADRID 14 set. (Portaltic/EP) -
Um advogado norte-americano foi punido por usar de forma irresponsável o ChatGPT para redigir o recurso principal de seu cliente e por não verificar as informações contidas nele antes de apresentar o documento ao tribunal.
O advogado Stephen D. Aarons reconheceu perante a Suprema Corte do Estado do Novo México (Estados Unidos) o uso do ChatGPT, um “chatbot” baseado na inteligência artificial da OpenAI, para redigir o recurso principal de seu cliente, um homem condenado à prisão perpétua em fevereiro de 2025 pelo assassinato de sua companheira e mãe de seus filhos.
O ChatGPT falsificou fatos e jurisprudência, ao incorporar depoimentos e testemunhas inventados, além de casos imprecisos, o que é conhecido na inteligência artificial como “alucinação”. Aarons apresentou esse documento em agosto do ano passado ao tribunal sem verificar nem conferir seu conteúdo, conforme consta no documento judicial publicado recentemente.
Pouco depois, o estado do Novo México solicitou a retirada de algumas partes do documento apresentado, e o advogado foi finalmente intimado a depor no último dia 21 de agosto. Na ocasião, ele reconheceu o uso do ChatGPT e não ter verificado o resultado apresentado pela IA antes de assiná-lo e apresentá-lo.
Esse fato, somado à falta de notificação ao seu cliente sobre o conteúdo do documento e a intimação, levou o tribunal a punir Aarons com a proibição provisória de exercer a advocacia perante ele e com o pagamento de uma multa de 5.000 dólares.
Este caso demonstra o desconhecimento que muitas pessoas, inclusive profissionais, têm sobre o uso de ferramentas como o ChatGPT ou similares, projetadas justamente para resumir textos longos e redigir documentos, entre outras funções.
Em declarações à ArsTechnica, Aarons explicou que utilizou o ChatGPT para resumir as atas do julgamento. “Redigi o documento, mas o índice e o resumo continham inúmeros erros. Naquele momento, eu não sabia que a IA poderia inventar fatos não apenas no meu documento, mas também nos documentos apresentados por outros advogados”, disse ele.
Mesmo com o resultado, ele afirmou que é “uma lição aprendida para todos os profissionais que dependem dessa tecnologia, poderosa, mas às vezes instável”.
Esta notícia foi traduzida por um tradutor automático