Opinião e Análise

Paula Guedes Fernandes da Silva

André Boselli

A <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a>, se usada ética e responsavelmente, pode gerar muitos benefícios e ser uma grande aliada do Judiciário, aumentando a produtividade e tornando a justiça mais efetiva, acessível e de maior qualidade. Por isso, é fundamental olhá-la a partir de suas potencialidades, evitando demonizações simplistas, mas também não a entender a partir de uma visão tecnosolucionista, como a panaceia de todos os problemas.
Hoje, é evidente como o Judiciário brasileiro está empenhado na adoção dessa tecnologia. Em 2023, 94 órgãos judiciários possuíam projetos de IA, totalizando 140 – aumento de 26% em comparação com 2022.<a href="#_ftn1" name="_ftnref1">[1]</a> Tais números ressaltam a importância de discutir a regulação do uso de IA por um ramo do poder que gera impactos diretos sobre direitos humanos.
<h3><a href="https://conteudo.jota.info/marketing-lp-newsletter-por-dentro-da-maquina">Quer saber os principais fatos ligados ao serviço público? Clique aqui e se inscreva gratuitamente para receber a newsletter Por Dentro da Máquina</a></h3>
Em 2020, o CNJ criou a Resolução 332, que dispõe sobre a ética, a transparência e a governança na produção e no uso de IA no Judiciário, atualmente em processo de revisão<a href="#_ftn2" name="_ftnref2">[2]</a> pelo Grupo de Trabalho sobre Inteligência Artificial no Poder Judiciário (GTIA).
A minuta de atualização,<a href="#_ftn3" name="_ftnref3">[3]</a> que passou por audiência pública em setembro, adequadamente converge com o <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">PL 2338/23</a>,<a href="#_ftn4" name="_ftnref4">[4]</a> pois adota: (i) abordagem baseada em riscos e em direitos com foco na proteção de direitos fundamentais; (ii) categorização dos riscos, com hipóteses de risco excessivo (vedadas); (iii) as mesmas definições; (iv) medidas de atualização do rol de riscos; (v) ferramentas de governança compatíveis (Cap. III-B), em especial a obrigação de Avaliações de Impacto Algorítmico (AIA) inclusivas, prévias e contínuas (art. 7º-G) para sistemas de alto risco.
A centralidade dada à obrigação de transparência é também destaque da minuta. Considerando a inerente assimetria entre Estado e cidadãos, é indispensável o reforço das obrigações de governança do Judiciário para que haja maior equilíbrio do fluxo informacional<a href="#_ftn5" name="_ftnref5">[5]</a> por meio de medidas reforçadas de transparência, acesso à informação e prestação de contas.
Nesse sentido, seria importante que nova regulação fizesse menção direta à Lei de Acesso à Informação, já que os órgãos do Judiciário se submetem a ela e, portanto, o uso de soluções de IA no âmbito desse ramo do poder deve, igualmente, estar alinhado a esse diploma legal.
Não se trata apenas de questão de hierarquia normativa. Conferir transparência aos processos de desenvolvimento, governança, auditoria e uso de soluções de IA no âmbito do Judiciário – em outras palavras, garantir à cidadania o direito de acesso a essas informações – é uma maneira de possibilitar um controle democrático sobre a tecnologia e, consequentemente, assegurar legitimidade perante os jurisdicionados.
Aliás, merece destaque o art. 24 da proposta, que determina a utilização preferencial de software de código aberto pelos modelos de IA do Judiciário. Nesse ponto, é recomendável a retirada do termo “preferencialmente”, para que a regra geral dos modelos desenvolvidos e utilizados pelo Judiciário seja de código aberto, possibilitando a obtenção de maior grau de transparência e cooperação com a sociedade civil.
Ademais, os sistemas de IA do Judiciário devem ser explicáveis em suas respostas, em linguagem acessível e inteligível, o que é uma das medidas de governança adequadamente listadas no VII do art. 7º-F. Tais medidas de transparência e de explicação são essenciais para a efetiva prestação de contas do Judiciário na adoção de IA, o que deve ser complementado por outros instrumentos, como as AIAs para os casos de alto risco e auditorias (Cap. IX), que devem ser independentes.
Para que haja maior legitimidade na atuação do Judiciário, também deve haver ampliação dos canais de diálogo e participação da sociedade, com a inclusão de mecanismos de participação pública nos processos de governança, como na elaboração de AIAs e nas propostas de atualização das hipóteses de categorização de riscos. Isso permite maior escrutínio público nos processos de tomada de decisão, permitindo a supervisão democrática da atuação do Judiciário, além de garantir que os sistemas sejam mais adequados para as realidades sociais em que serão implementados, com especial atenção para grupos vulneráveis.
Também é fundamental que, dentre os membros do Comitê de Inteligência Artificial do CNJ, haja representação de organizações da sociedade civil e academia e que essa inclusão considere a multidisciplinaridade e respeite critérios de raça, gênero e região.
No que se refere à categorização de riscos, é importante a inclusão no rol de riscos excessivos (art. 7º-B) das soluções de IA que, sem supervisão humana, tomem decisões materiais, principalmente quando afetem de forma significativa direitos fundamentais. A delegação de decisões judiciais de mérito para sistemas de IA viola uma série de princípios constitucionais processuais, como o do juiz natural, imparcialidade e motivação das decisões judiciais, além de próprios direitos fundamentais, já que a máquina é incapaz de fazer avaliações éticas e de raciocínio humano<a href="#_ftn6" name="_ftnref6">[6]</a>, que vão além de mera aplicação lógica. Isso sem mencionar as violações das competências indelegáveis de servidores públicos do Judiciário, sujeitos a deveres e responsabilidades específicos.<a href="#_ftn7" name="_ftnref7">[7]</a>
<h3>Especificidades para desenvolvimento, contratação e uso de GenAI pelo Judiciário</h3>
Atualmente, por volta de 50% de magistrados e servidores utilizam essas ferramentas, a maioria de forma individual e em versões abertas, com considerável uso para atividades do tribunal.<a href="#_ftn8" name="_ftnref8">[8]</a>
Diante desse contexto de popularização dessas ferramentas, é elogiável a inclusão de um capítulo na minuta sobre uso e contratação de modelos de LLM e GenAI (Cap. IV-B) e, em especial, a obrigação de que sua utilização seja apenas de forma institucional, a partir de acesso habilitado, fornecido e monitorado pelos tribunais (art. 8º-E). Tal obrigação é fundamental para que haja um controle mínimo do tribunal e maior garantia de adequação quanto aos padrões de segurança da informação, transparência e demais regramentos aplicáveis, inclusive previstos na própria minuta.
Ademais, a partir do pressuposto de que não há como garantir a total acurácia e veracidade dos resultados de LLMs, que não raro criam respostas disparatadas, é recomendável que a utilização dessa ferramenta como instrumento autônomo de tomada de decisões judiciais seja listada como um dos usos proibidos do art. 7º-B, sem prejuízo da manutenção total da responsabilidade do magistrado pelas decisões por ele proferidas.
Neste ponto, dispositivos da minuta, como o § 5º do art. 8º-E, que criam obrigações para que os membros do Judiciário passem por treinamentos e capacitações periódicas, são de grande relevância para impedir que haja a utilização irrazoável, antiética e indiscriminada dessas ferramentas. Nesse contexto, reforça-se a necessidade de inclusão da obrigação de checagem dos resultados<a href="#_ftn9" name="_ftnref9">[9]</a> quando magistrado ou servidor fizer uso dessas ferramentas, devendo sempre se orientar pelo manual de boas práticas que será elaborado pelo Comitê de IA do CNJ (§ 2º do art. 8º-F).
Por isso, recomenda-se a modificação do art. 8º-F para que conste a obrigação clara de que, quando houver contratação de empresas privadas para fornecimento de LLMs,<a href="#_ftn10" name="_ftnref10">[10]</a> a versão institucional do tribunal tenha mecanismos de bloqueio da utilização dos dados para treinamento ou aperfeiçoamento dos sistemas, além do isolamento dos dados do tribunal.
Considerando que a maioria dos sistemas de GenAI hoje disponíveis são de empresas privadas estrangeiras do norte lobal, esta questão está diretamente relacionada à soberania nacional, já que se trata de dados sensíveis e estratégicos do Judiciário brasileiro sobre seus cidadãos.
Em suma, o Judiciário já está utilizando diferentes ferramentas de IA, de diversas maneiras e para fins variados. Outras tantas estão em desenvolvimento. Regular seu uso é tarefa urgente, antes que ele esteja tão disseminado a ponto de se gerar um “fato consumado” difícil de ser revertido.<a href="#_ftn11" name="_ftnref11">[11]</a> E, enquanto a nova regulação setorial não for criada, não se pode perder de vista a existência da Resolução 332/20, que já contém vedações importantes, e da necessidade de aprovação da regulação geral na forma do PL 2338 no Congresso Nacional.
*
A autora participou da audiência pública do CNJ como consultora do Programa Ecossistemas de Tecnologias de Informação e Comunicação, da Artigo 19 Brasil
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> CNJ. Pesquisa uso de inteligência artificial IA no Poder Judiciário 2023. CNJ; Programa das Nações Unidas para o Desenvolvimento. – Brasília: CNJ, 2024.
<a href="#_ftnref2" name="_ftn2">[2]</a> Assim como ocorreu com projetos de lei em tramitação no Congresso Nacional, há hoje mais maturidade e acúmulo sobre o tipo de regulação que melhor se adequa aos sistemas de IA, além de mudanças no próprio cenário tecnológico, a exemplo da disponibilização de uso geral de sistemas de Inteligência Artificial Generativa em novembro de 2022, o que tornou necessário a atualização das normativas de 4 anos atrás, como a Resolução 332/20.
<a href="#_ftnref3" name="_ftn3">[3]</a> Minuta de atualização da Resolução 332/2020 disponível em: <a href="https://www.cnj.jus.br/wp-content/uploads/2024/09/minuta-proposta-resolucao-332-cnj-rev.pdf">https://www.cnj.jus.br/wp-content/uploads/2024/09/minuta-proposta-resolucao-332-cnj-rev.pdf</a>.
<a href="#_ftnref4" name="_ftn4">[4]</a> No que tange à governança e à regulação de tecnologias emergentes, o cenário ideal é que as iniciativas não aconteçam em isolamento entre os três poderes e, por isso, é elogiável que a minuta de atualização da Resolução 332/2022 tenha similaridades e elementos de convergência com o atual PL 2338/2023, atualmente discutido no âmbito da Comissão Temporária de Inteligência Artificial do Senado.
<a href="#_ftnref5" name="_ftn5">[5]</a> BIONI, Bruno Ricardo; SILVA, Paula Guedes Fernandes da; MARTINS, Pedro Bastos Lobo. Intersecções e relações entre a Lei Geral de Proteção de Dados (LGPD) e a Lei de Acesso à Informação (LAI): análise contextual pela lente do direito de acesso. In: CONTROLADORIA-GERAL DA UNIÃO. Coletânea de Artigos da Pós-Graduação em Ouvidoria Pública. Brasília: 2022, v. 1, p. 8-19. Disponível em: &lt;https://revista.cgu.gov.br/Cadernos_CGU/issue/view/39/46&gt;. Acesso em: 25 set.. 2024.
<a href="#_ftnref6" name="_ftn6">[6]</a> CUKIER, Kenneth; MAYER-SCHÖNBERGER, Viktor; VÉRICOURT, Francis de. Framers. Human Advantage in an Age of Turmoil. New York: Penguin Randon House LLC, 2021; FRAZÃO, Ana. Decisões algorítmicas x decisões humanas. Jota, Coluna Constituição, Empresa e Mercado. Publicado em 06 abr. 2022. Disponível em: <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/decisoes-algoritmicas-x-decisoes-humanas">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/decisoes-algoritmicas-x-decisoes-humanas</a>. Acesso em 25 set. 2024.
<a href="#_ftnref7" name="_ftn7">[7]</a> FRAZÃO, Ana. Inteligência artificial no Poder Judiciário. Jota, Coluna Constituição, Empresa e Mercado. Publicado em 20 jun. 2024. Disponível em: https://professoraanafrazao.com.br/files/publicacoes/2024-06-20-Inteligencia_artificial_no_Poder_Judiciario_Como_prevenir_conflitos_de_interesse_e_uso_indevido_de_dados_pessoais_e_informacoes_privilegiadas.pdf. Acesso em 25 set. 2024.
<a href="#_ftnref8" name="_ftn8">[8]</a> Dados da recém lançada pesquisa sobre a utilização da Inteligência Artificial Generativa (IAG) na Justiça brasileira, apresentada pelo Sr. Juliano Maranhão na Audiência Pública da manhã do dia 25 de setembro de 2024; CNJ. Audiência Pública - Inteligência Artificial no Poder Judiciário - 27/9 (Manhã). YouTube. Disponível em: https://www.youtube.com/watch?v=ec7kXBP7lms&amp;ab_channel=ConselhoNacionaldeJusti%C3%A7a. Acesso em 25 set. 2024.
<a href="#_ftnref9" name="_ftn9">[9]</a> Obrigação de chegacagem dos resultados (fact-checking obligation) foi sugestão do professor Philipp Hacker em audiência pública realizada na manhã de 25 de setembro de 2024; CNJ. Audiência Pública - Inteligência Artificial no Poder Judiciário - 25/9 (Manhã). YouTube. Disponível em: https://www.youtube.com/watch?v=ec7kXBP7lms&amp;ab_channel=ConselhoNacionaldeJusti%C3%A7a. Acesso em 25 set. 2024.
<a href="#_ftnref10" name="_ftn10">[10]</a> Diferentemente do que acontece com as LLMs e GenAI, atualmente, a maior parte dos sistemas de IA tem a sua ideação e fases subsequentes de desenvolvimento e produção pela própria equipe interna dos tribunais, além de alguns feitos com universidades brasileiras; Dado de pesquisa realizada pela FGV em 2023 no Brasil; SALOMÃO, Luis Felipe; TAUK, Caroline Somesom et al. Inteligência Artificial: tecnologia aplicada à gestão de conflitos no âmbito do Poder Judiciário brasileiro. 3a ed. Rio de Janeiro: FGV, 2023.
<a href="#_ftnref11" name="_ftn11">[11]</a> Por outro lado, a urgência não deve implicar debates açodados e sem participação. Seria importante que, para além da audiência pública já realizada, o CNJ continue dialogando com a sociedade.

inteligência artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Regular seu uso é tarefa urgente, antes que esteja disseminado a ponto de ser um 'fato consumado' difícil de se reverter

Regulação de IA no Judiciário não pode prescindir de requisitos exigentes de transparência

Regular uso da IA no Judiciário é tarefa urgente, antes que esteja disseminado a ponto de ser um 'fato consumado' difícil de se reverter