Mahjong Ways

THE WASHINGTON POST — Zachariah Crabill estava há dois anos fora da faculdade de direito, esgotado e nervoso, quando seus chefes acrescentaram outro caso à sua carga de trabalho em maio deste ano. Ele trabalhou durante horas escrevendo uma moção até ter uma ideia: Talvez o ChatGPT pudesse ajudar?

Em segundos, o chatbot de inteligência artificial (IA) concluiu o documento. Crabill o enviou ao seu chefe para revisão e o apresentou ao tribunal do Colorado.

“Eu estava muito animado só pela dor de cabeça que isso me poupou”, disse ele ao The Washington Post. Mas seu alívio durou pouco. Enquanto examinava o resumo, ele percebeu, horrorizado, que o chatbot de IA havia inventado várias citações falsas de processos judiciais.

Crabill, 29 anos, pediu desculpas ao juiz, explicando que havia usado um chatbot de IA. O juiz o denunciou a um escritório estadual que lida com reclamações de advogados, disse Crabill. Em julho, ele foi demitido de seu escritório de advocacia em Colorado Springs. Olhando para trás, Crabill não usaria o ChatGPT, mas diz que pode ser difícil resistir a um advogado novato sobrecarregado.

“Tudo isso é muito novo para mim”, disse ele. “Eu simplesmente não tinha ideia do que fazer e nem a quem recorrer.”

Analistas de negócios e empreendedores há muito tempo previram que a profissão jurídica seria interrompida pela automação. À medida que uma nova geração de ferramentas de linguagem de IA varre o setor, esse momento parece ter chegado.

Advogados estressados estão recorrendo a chatbots para escrever resumos tediosos. Os escritórios de advocacia estão usando ferramentas de linguagem de IA para examinar milhares de documentos de casos, substituindo o trabalho de associados e paralegais. Os assistentes jurídicos com IA estão ajudando os advogados a analisar documentos, memorandos e contratos em minutos.

O mercado de software jurídico com IA pode crescer de US$ 1,3 bilhão em 2022 para mais de US$ 8,7 bilhões até 2030, de acordo com uma análise do setor feita pela empresa de pesquisa de mercado Global Industry Analysts. Um relatório do Goldman Sachs em abril estimou que 44% dos empregos jurídicos poderiam ser automatizados, mais do que qualquer outro setor, exceto o trabalho administrativo.

Mas essas ferramentas que economizam dinheiro podem ter um custo. Alguns chatbots de IA são propensos a fabricar fatos, fazendo com que os advogados sejam demitidos, multados ou tenham seus casos rejeitados. Os profissionais da área jurídica estão correndo para criar diretrizes para o uso da tecnologia, a fim de evitar que imprecisões prejudiquem casos importantes. Em agosto, a American Bar Association lançou uma força-tarefa com duração de um ano para estudar os impactos da IA na prática jurídica.

“É revolucionário”, disse John Villasenor, membro sênior do centro de inovação tecnológica da Brookings Institution. “Mas não é mágica.”

As ferramentas de IA que leem e analisam documentos rapidamente permitem que os escritórios de advocacia ofereçam serviços mais baratos e aliviem a carga de trabalho dos advogados, disse Villasenor. Mas essa vantagem também pode ser um campo minado ético quando resulta em erros de alto nível.

Na primavera, Lydia Nicholson, uma advogada de habitação de Los Angeles, recebeu um resumo jurídico relacionado ao caso de despejo de seu cliente. Mas algo parecia errado. O documento citava ações judiciais que não lhe diziam nada. Nicholson, que usa os pronomes eles/elas, fez algumas pesquisas e percebeu que muitos eram falsos.

Eles discutiram o assunto com colegas e “as pessoas sugeriram: ‘Ah, isso parece algo que a IA poderia ter feito’”, disse Nicholson em uma entrevista.

Nicholson entrou com uma ação contra o escritório de advocacia Dennis Block, um importante escritório de despejo da Califórnia, apontando os erros. Um juiz concordou após uma investigação independente e aplicou ao grupo uma multa de US$ 999. A empresa culpou uma jovem advogada recém-contratada em seu escritório por usar “pesquisa on-line” para redigir a moção e disse que ela havia se demitido logo após a apresentação da reclamação. Vários especialistas em IA analisaram o briefing e o consideraram “provavelmente” gerado por IA, de acordo com o site de mídia LAist.

A empresa Dennis Block não retornou um pedido de comentário.

Não é de surpreender que os chatbots de IA inventem citações legais quando solicitados a escrever um resumo, disse Suresh Venkatasubramanian, cientista da computação e diretor do Centro de Responsabilidade Tecnológica da Brown University.

“O que é surpreendente é o fato de eles produzirem algo remotamente preciso”, disse ele. “Não é para isso que eles foram criados.”

Em vez disso, os chatbots, como o ChatGPT, são projetados para fazer conversas, tendo sido treinados em grandes quantidades de textos publicados para compor respostas plausíveis a praticamente qualquer solicitação. Assim, quando você pede ao ChatGPT um resumo jurídico, ele sabe que os resumos jurídicos incluem citações, mas não leu de fato a jurisprudência relevante, então inventa nomes e datas que parecem realistas.

Os juízes estão tendo dificuldades para lidar com esses erros. Alguns estão proibindo o uso de IA em seus tribunais. Outros estão pedindo aos advogados que assinem compromissos para revelar se usaram IA em seu trabalho. A Ordem dos Advogados da Flórida está avaliando uma proposta para exigir que os advogados tenham a permissão do cliente para usar IA.

Um ponto de discussão entre os juízes é se os códigos de honra que exigem que os advogados jurem a precisão de seu trabalho se aplicam à IA generativa, disse John G. Browning, ex-juiz do tribunal distrital do Texas.

Browning, que preside a força-tarefa da Ordem dos Advogados do Estado do Texas sobre IA, disse que seu grupo está avaliando várias abordagens para regulamentar o uso, como exigir que os advogados façam cursos de educação profissional em tecnologia ou considerar regras específicas para quando as provas geradas pela IA podem ser incluídas.

Lucy Thomson, advogada e engenheira de segurança cibernética da área de Washington, que está presidindo a força-tarefa de IA da American Bar Association, disse que o objetivo é educar os advogados sobre os riscos e os possíveis benefícios da IA. A Ordem dos Advogados ainda não tomou uma posição formal sobre se a IA deve ser banida dos tribunais, acrescentou ela, mas seus membros estão discutindo ativamente a questão.

“Muitos deles acham que não é necessário ou apropriado que os juízes proíbam o uso de IA”, disse Thomson, “porque é apenas uma ferramenta, assim como outras ferramentas de pesquisa jurídica”.

Enquanto isso, a IA está sendo cada vez mais usada para “e-discovery” - a busca de evidências em comunicações digitais, como e-mails, chats ou ferramentas de trabalho on-line.

Embora as gerações anteriores de tecnologia permitissem que as pessoas pesquisassem palavras-chave e sinônimos específicos em documentos, os modelos de IA atuais têm o potencial de fazer inferências mais sofisticadas, disse Irina Matveeva, chefe de ciência de dados e IA da Reveal, uma empresa de tecnologia jurídica com sede em Chicago. Por exemplo, as ferramentas de IA generativas podem ter permitido que um advogado no caso da Enron perguntasse: “Alguém se preocupou com a avaliação na Enron?” e obtivesse uma resposta com base na análise dos documentos feita pelo modelo.

Wendell Jisa, CEO da Reveal, acrescentou que acredita que as ferramentas de IA nos próximos anos “trarão a verdadeira automação para a prática da advocacia - eliminando a necessidade de interação humana dos advogados no dia a dia, clicando em e-mails”.

Jason Rooks, diretor de informações de um distrito escolar do Missouri, disse que começou a ficar sobrecarregado durante a pandemia do coronavírus com solicitações de registros eletrônicos de pais que litigavam em batalhas de custódia ou de organizações que processavam escolas por causa de suas políticas contra a covid-19. Em um determinado momento, ele estima que estava gastando cerca de 40 horas por semana apenas examinando os e-mails.

Em vez disso, ele encontrou uma ferramenta de descoberta eletrônica chamada Logikcull, que diz usar IA para ajudar a examinar os documentos e prever quais deles têm maior probabilidade de serem relevantes para um determinado caso. Rooks podia então revisar manualmente esse subconjunto menor de documentos, o que reduzia em mais da metade o tempo que ele gastava em cada caso. (A Reveal adquiriu a Logikcull em agosto, criando uma empresa de tecnologia jurídica avaliada em mais de US$ 1 bilhão).

Mas até mesmo o uso de IA para trabalhos legais pesados, como a descoberta eletrônica, traz riscos, disse Venkatasubramanian, o professor da Brown: “Se eles forem intimados e produzirem alguns documentos e não outros por causa de um erro do ChatGPT - não sou advogado, mas isso pode ser um problema.”

Esses avisos não impedirão pessoas como Crabill, cujas desventuras com o ChatGPT foram relatadas pela primeira vez pela estação de rádio KRDO do Colorado. Depois que ele apresentou a moção repleta de erros, o caso foi arquivado por motivos não relacionados.

Ele diz que ainda acredita que a IA é o futuro do direito. Agora, ele tem sua própria empresa e diz que provavelmente usará ferramentas de IA projetadas especificamente para advogados para ajudar em sua redação e pesquisa, em vez do ChatGPT. Ele disse que não quer ser deixado para trás.

“Não faz sentido ser um pessimista”, disse Crabill, “ou ser contra algo que invariavelmente se tornará o caminho do futuro”. / TRADUÇÃO POR GUILHERME GUERRA