Diante de casos recentes de uso do ChatGPT em sentenças, torna-se cada vez mais urgente discutir a necessidade de regulamentação concreta da inteligência artificial na decisão judicial
A implementação da IA nas sentenças judiciais representa um avanço significativo na modernização do sistema legal, permitindo a análise automatizada de extensas quantidades de dados legais e factuais. Entre os benefícios frequentemente apontados para tecnologias dessa natureza, incluem-se a diminuição da carga de trabalho dos juízes, o aprimoramento da uniformidade das decisões e a eficácia na administração dos casos judiciais. No entanto, o uso de algoritmos no âmbito jurídico também apresenta desafios consideráveis que não devem ser ignorados. Temas como a proteção da privacidade dos dados dos indivíduos envolvidos nos processos, o risco de preconceito algorítmico que perpetue desigualdades existentes, e a necessidade de interpretação e supervisão humanas das decisões automatizadas são preocupações que requerem cautela. A partir disto, afigura-se crucial desenvolver regulamentações legislativas concretas que assegurem a conformidade ética e legal dos modelos algorítmicos usados no Poder Judiciário – e, sobretudo, que poderem o ato de julgar com todas as suas especificidades.
A título ilustrativo, em 2023, ao menos dois casos de utilização da ferramenta ChatGPT em sentenças judiciais foram amplamente divulgados na mídia, demonstrando a gravidade do problema gerado pela ausência de delimitações concretas ao uso de algoritmos na tomada de decisão judicial. Na Colômbia, um magistrado incluiu em sua decisão questionamentos feitos à IA acerca da regulamentação legal daquele país sobre a possibilidade de isenção de custas médicas a uma criança autista1, abertamente trazendo fundamentação decisória construída por inteligência artificial. Alguns meses depois, um juiz federal brasileiro também publicou sentença originada no ChatGPT, que continha um precedente supostamente firmado pelo STJ. No entanto, o julgado não existia: tratava-se de criação do próprio ChatGPT, embora o magistrado tenha minimizado a ocorrência como “erro corriqueiro”2.
A situação ensejou a divulgação da Circular COGER 33/23 pelo Corregedor Regional da Justiça Federal da 1ª região, que reforçou “os deveres de cautela, de supervisão e de divulgação responsável dos dados do processo, quanto ao auxílio de IA para a elaboração de decisão judicial” e recomendou “que não sejam utilizadas para a pesquisa de precedentes jurisprudenciais ferramentas de IA generativa abertas e não-homologadas pelos órgãos de controle do Poder Judiciário”3. Contudo, a única medida concreta resultante do documento foi a advertência sobre a responsabilidade do julgador por decisões proferidas com auxílio de instrumentos de inteligência artificial, o que reflete uma questão deveras maior do que um único caso pontual de uso do ChatGPT: a inexistência de disposição legal sobre o assunto, de modo a permitir o controle de risco e a minimização dos impactos negativos.
Atualmente, não há nenhuma vedação normativa que explicitamente proíba este tipo de comportamento pelo magistrado, sendo suficiente que a decisão alcance os critérios mínimos de fundamentação dispostos no art. 489, § 1º, do CPC, ou no art. 315, § 2º, do Código de Processo Penal. Inobstante, não se desconhece que o CNJ editou a Resolução 332/20, que traz algumas determinações sobre a inteligência artificial no Poder Judiciário. É cediço, porém, que o ato administrativo não tem a mesma força vinculante do que uma lei – e é justamente isto que, em cotejo com a realidade da utilização de modelos algorítmicos não regulamentados disponíveis no mercado, gera a imprescindibilidade de observar o princípio da legalidade e regulamentar a matéria de forma concreta e centralizada.
Noutras palavras, significa dizer que as duas sentenças judiciais que, em alguma medida, valeram-se do ChatGPT não são hipóteses isoladas. Partindo-se do exemplo ocorrido no Brasil, não teria sido possível identificar a participação da inteligência artificial na construção da sentença se não fosse percebido o erro pontual no “julgado” trazido pela inteligência artificial. Certamente, inúmeras outras decisões judiciais estão sendo fomentadas com o apoio de ferramentas algorítmicas disponíveis no mercado; no entanto, pela natureza comercial do ChatGPT e assemelhados – que não foram pensados para atuar nas atividades inerentes ao Poder Judiciário e que servem aos interesses das companhias que os projetaram -, o risco de erros judiciais se torna ainda mais premente. Por óbvio, a fixação de balizas legais para a implementação do “juiz-robô” (ainda que apenas como auxiliar na tomada de decisão) não isentará a possibilidade de descumprimento das normas propostas ou de más práticas em sua utilização. É, no entanto, um ponto de partida para viabilizar um controle jurisdicional concreto que permita a redução dos impactos negativos destas tecnologias.
Mais do que isto, ainda que inúmeras propostas legislativas sobre inteligência artificial estejam em trâmite no Congresso Nacional, tal qual o PL 2.338/234, a inevitabilidade do uso destas ferramentas no Poder Judiciário5 exige um olhar crítico sobre o tema para reconhecer que regulamentações genéricas contra tecnologias algorítmicas não são suficientes para resguardar os direitos e garantias inerentes à esfera jurídica. Exemplificativamente, não basta determinar que a não discriminação deve ser preceito central no desenvolvimento de ferramentas algorítmicas, pois isto não abrange a complexidade do direito ao julgamento por um magistrado imparcial6. Assim, “(…) os desafios jurídicos dizem respeito, em cada caso, a áreas distintas do ordenamento jurídico e exigem, além de regulamentações abrangentes, muitas vezes também respostas específicas para áreas diversas”7.
Regulamentações sólidas são essenciais para lidar com essas preocupações, promovendo práticas éticas no desenvolvimento e implementação, garantindo conformidade com padrões de segurança e privacidade, e fortalecendo a confiança do público na utilização responsável da inteligência artificial. Outrossim, a regulação desempenha um papel crucial ao estabelecer estruturas que definem claramente as responsabilidades legais em situações de danos causados por sistemas de IA, e ao proteger os direitos individuais diante de decisões automatizadas. Dificilmente um ato administrativo (Resolução 332/20 do CNJ) ou legislativo, mas excessivamente abrangente (PL 2.338/23) será capaz de garantir a observância de diversas garantias constitucionais que resguardam o processo como um todo. A incorporação responsável dessa tecnologia exige não apenas avanços técnicos, mas também um compromisso firme com os princípios essenciais de justiça, equidade e respeito pelos direitos individuais. Não se deve pensar, pois, em substituir o juiz humano, mas em otimizar a implementação da inteligência artificial como ferramenta de auxílio na construção da decisão e, fazendo-o, modular seus riscos e apreciar seus benefícios8-9.
————————-
1 AGENCE FRANCE-PRESSE. Juiz usa robô ChatGPT para redigir sentença em caso de criança autista na Colômbia: utilização de inteligência artificial em sentença é inédita na Justiça colombiana. G1, [S.l.], 03 fev. 2023. Tecnologia. Disponível em: https://g1.globo.com/tecnologia/noticia/2023/02/03/juiz-usa-robo-chatgpt-para-redigir-sentenca-de-caso-de-crianca-autista-na-colombia.ghtml. Acesso em: 17 jun. 2024.
2 LIMA, Daniela. Juiz usa inteligência artificial para fazer decisão e cita jurisprudência falsa; CNJ investiga caso. G1, [S.l.], 13 nov. 2023. Política. Disponível em: https://g1.globo.com/politica/blog/daniela-lima/post/2023/11/13/juiz-usa-inteligencia-artificial-para-fazer-decisao-e-cita-jurisprudencia-falsa-cnj-investiga-caso.ghtml. Acesso em: 19 jun. 2024.
3 BRASIL. Tribunal Regional Federal da 1ª Região. Circular COGER nº 33/2023. Inteligência artificial generativa – Utilização não recomendada para pesquisa jurisprudencial – Deveres de cautela, de supervisão e de divulgação responsável dos dados do processo quanto ao uso de IA em decisões judiciais. Brasília: TRF1, 03 nov. 2023. Disponível em: https://portal.trf1.jus.br/dspace/bitstream/123/340971/1/SEI_19283798_Circular_Coger_33.pdf. Acesso em: 19 jun. 2024.
4 BRASIL. Senado Federal. Projeto de Lei nº 2.338, de 2023. Dispõe sobre o uso da Inteligência Artificial. Brasília, 03 mai. 2023. Disponível em: https://legis.senado.leg.br/sdleg-getter/documento?dm=9347622&ts=1718749259776&disposition=inline. Acesso em: 19 jun. 2024.
5 TOLEDO, Cláudia. Capítulo III – Inteligência artificial e sua aplicabilidade em decisões judiciais. p. 57-90. In: PEIXOTO, Fabiano Hartmann. Inteligência Artificial: estudos de inteligência artificial. (Org.). Curitiba: Alteridade, 2021. p. 62.
6 “O juiz poderá até julgar de uma maneira formalmente imparcial (não ser parte), mas isso de longe suprime sua neutralidade subjetiva no processo, aquela projetada sobre o processo que diz das vivências pessoais do juiz, seus gostos e desgostos, suas paixões, seu eu, seu modo de ser no mundo, pois o sentido da compreensão não acontece sem a sobreposição sobre o objeto a ser analisado, sem a vivência do ser com seu entendimento singular, pousado sobre a realidade. A verdadeira compreensão do sentido daquilo que nos é dado deve extrapolar uma mera exegese prática de afirmação literal do sentido, porquanto deve ocupar-se das próprias condições de possibilidade do horizonte do entendimento” (GIACOMOLLI, Nereu José; DUARTE, Liza Bastos. O mito da neutralidade na motivação das decisões judiciais: aspectos epistemológicos. Revista da Ajuris: doutrina e jurisprudência, Associação dos Juízes do Rio Grande do Sul, Porto Alegre, v. 33, n. 102, p. 287-307, jun./2006. p. 288).
7 HOFFMANN-RIEM, Wolfgang. Inteligência Artificial como oportunidade para a regulação jurídica. RDU, Porto Alegre, v. 16, n. 90, p. 11-38, dez. 2019. p. 13.
8 HARTMANN, Fabiano; BONAT, Débora. Direito, inteligência artificial e impactos em Direitos Fundamentais. p. 37-54. In: SAMPAIO, José Adércio Leite. (Coord.). FURBINO, Meire; BOCCHINO, Lavínia Assis; LIMA, Maria Jocélia Nogueira. A Inteligência Artificial: a (de)serviço do estado de direito. Belo Horizonte: RTM, 2023. p. 46.
9 ROSA, Alexandre Morais da. A questão digital: o impacto da Inteligência Artificial no Direito. Revista de Direito da Faculdade Guanambi, Guanambi, v. 6, n. 02, e259, jul./dez. 2019. p. 04-05.
Fonte: Migalhas
Deixe um comentário