Opinião e Análise

Alana Engelmann

Em tempos hodiernos, não restam dúvidas de que o direito e a tecnologia estão andando de mãos dadas. Isso muito influencia o direito processual, que caminha lado a lado das transformações sociais, acompanhando todas as mudanças ocorridas na sociedade tecnológica em que se encontra inserido.
Assim, acaba sendo importante para o direito processual o debate acerca de uma das ferramentas mais comentadas dos últimos tempos. Trata-se do sistema inteligente <a href="https://www.jota.info/tudo-sobre/chatgpt">ChatGPT</a>, uma ferramenta de inteligência artificial associada à ideia de um chatbot, que utiliza o modelo de inteligência artificial GPT-3.5, desenvolvido pela norte-americana OpenAI, instituição sem fins lucrativos com sede em San Francisco (EUA) para pesquisa e desenvolvimento colaborativo de modelos de inteligência artificial.
O ChatGPT é um modelo de linguagem de grande porte treinado pela OpenAI, capaz de produzir textos de forma autônoma, com base em exemplos de texto fornecidos durante o treinamento, podendo ser utilizado para tarefas como geração de texto, tradução, resumo e muito mais<a href="#_ftn1" name="_ftnref1">[1]</a>.
Ocorre que a sigla GPT significa Generative Pre-Training Transformer, e se trata de um modelo de IA de 3ª geração (GPT-3) que usa uma técnica de processamento de linguagem natural (PLN) do tipo autorregressiva, valendo-se de dados e informações disponíveis na internet, contando atualmente com 175 bilhões de parâmetros de aprendizagem de máquina. Dessa forma, a tecnologia não utiliza dados e informações dos usuários, garantindo-se a proteção de dados exibida pela <a href="https://www.jota.info/tudo-sobre/lgpd">LGPD</a><a href="#_ftn2" name="_ftnref2">[2]</a>.
No dia 14 de março de 2023, houve a apresentação do modelo mais recente da nova ferramenta, o GPT-4 que – de acordo com a apresentação realizada – possui uma capacidade de processamento mais avançada, bem como uma base de dados múltiplas vezes maior do que o modelo anterior. Apesar de o sistema ter sofrido um incremento, não há como afirmar que o desempenho da máquina, agora, será totalmente satisfatório. O que se sabe é que será mais eficiente do que o seu antecessor.
Como toda tecnologia inserida no mercado, o debate acerca da sua aplicabilidade está movimentando – e muito – todos os segmentos possíveis. Tratando-se de uma ferramenta de elaboração de texto, várias são as funcionalidades que podem ser dadas para o referido sistema que se utiliza de Inteligência Artificial.
Tanto é verdade que, baseando-se no sistema acima referido, o Tribunal de Justiça do Estado de Minas Gerais (<a href="https://www.jota.info/tudo-sobre/TJMG">TJMG</a>) criou o sistema de Inteligência Artificial chamado de SAVIA, baseada na tecnologia do ChatGPT. O objetivo geral de implementação da nova ferramenta diz respeito ao desenvolvimento de atividades administrativas, de modo que ele possa auxiliar, futuramente, magistrados e servidores na redação de e-mails, portarias, resoluções, relatórios e textos em geral<a href="#_ftn3" name="_ftnref3">[3]</a>.
Em um primeiro momento, pode não ser tão nítido o problema que pode acarretar o uso da presente ferramenta. Por outro lado, serão abordadas algumas questões técnicas no presente texto. O ChatGPT, na versão GPT-3.5 – e, provavelmente, na versão GPT-4 também – possui certas limitações, como o fato de o banco de dados ser alimentado com informações passadas. Tanto é verdade que, caso seja perguntado ao sistema “qual é a previsão do tempo hoje?”, o sistema não saberá responder.
Agora, surge uma inquietação: como um sistema que possui como um dos principais pontos de exploração a redação de texto, sendo que referido sistema está sendo alimentado com dados passados, poderá ser utilizado junto ao processo judicial, fruto de constantes mudanças, tendo em vista a sua necessidade de estar em compasso com o avanço da sociedade?
Não se está afirmando, aqui, que a funcionalidade do sistema é ruim. Ao contrário, ele pode ajudar seus usuários nos mais diversos segmentos. Por outro lado, muito há o que se avançar em desenvolvimento da referida tecnologia com a finalidade de aplica-la junto ao processo judicial.
Cabe ressaltar aqui que, como pode ser visto, nos últimos dias, um juiz atuante na Colômbia afirmou que utilizou o sistema do ChatGPT para redigir uma decisão em um caso envolvendo um menino autista, sendo que o caso se tratava de um pedido, da mãe da criança, para que seu filho autista fosse isento do pagamento de consultas médicas, terapias e transporte até os centros de saúde, diante da insuficiência de recursos financeiros da família para arcar com as despesas médicas. Assim, o juiz afirmou que utilizou o sistema, como se fosse um assessor, com a finalidade de fundamentar e sustentar a sua decisão<a href="#_ftn4" name="_ftnref4">[4]</a>.
Primeiramente, o fato pode não gerar grandes discussões pois se tratou de um único caso isolado, o qual foi devidamente revisado pelo magistrado. Por outro lado, o que se busca demonstrar é que o uso em massa do sistema pode gerar grandes problemas. Não se sabe ao certo quais são os algoritmos utilizados pelo sistema para geração do texto, o que se sabe é que vários são os equívocos encontrados, principalmente quando o sistema é utilizado com o objetivo de produzir textos acadêmicos.
Como exemplo, podem ser citados a reprodução na íntegra de textos disponibilizados na internet, a criação de bibliografias não existentes, bem como o fato da imprecisão de certos conceitos jurídicos criados pelo sistema na medida em que ele é questionado sobre eles. Assim, como pode haver uma confiabilidade para proferir decisões judiciais em um sistema de Inteligência Artificial que já apresentou tantas falhas?
A atitude do magistrado, ao se utilizar do sistema, foi extremamente desatenta, tendo em vista que, apesar de o sistema ter sido utilizado apenas como um meio de apoio, a confiabilidade em seus resultados pode gerar resultados desastrosos, através do uso não supervisionado da ferramenta com o objetivo de reduzir o número de demandas cuja a única pendência diz respeito à redação da decisão.
Isso não quer dizer que, talvez, a última atualização do sistema não possa gerar resultados mais precisos e que o sistema de Inteligência Artificial não possa ser utilizado com um meio de apoio com o objetivo de redigir mais peças processuais. Trata-se de uma versão recente do sistema e que demanda maiores testes. Por outro lado, da forma como nos é apresentado atualmente, mostra uma certa deficiência em sua base de dados para que seja utilizada com a finalidade de proferir decisões judiciais.
O que traz um certo conforto é que o TJMG foi mais cuidadoso ao criar a ferramenta SAVIA, tendo em vista que o objetivo dela é mais administrativo, ou seja, para resolver e agilizar a redação de textos internos. Por outro lado, caso haja a habilitação do uso do sistema para proferir despachos, o problema é um pouco mais profundo. Independente se utilizado como um sistema de apoio, ou não, deve-se atentar que o processo judicial precisa respeitar o princípio do devido processo legal<a href="#_ftn5" name="_ftnref5">[5]</a>. E, com a finalidade de respeitar tal princípio, é necessário que haja uma transparência judicial.
A transparência judicial tem o objetivo de dar maior segurança ao usuário do sistema de justiça que terá acesso aos métodos e ferramentas utilizadas pelo magistrado para a condução processual, tudo em conformidade com o Estado Democrático de Direito. No momento em que uma ferramenta tecnológica, mesmo sendo uma ferramenta de redação de texto, é utilizada no processo, ela precisa ser transparente, ou seja, que sua programação (ou seu código-fonte), seja liberado para os usuários do sistema e que o mesmo sistema ainda possibilite a sua fiscalização, efetivando assim uma accountability.
Considerando que o Poder Judiciário sempre buscou meios de obter um processo mais célere, justo e com um resultado efetivo (ressaltando aqui que a efetividade possui relação não apenas com o resultado útil do processo, mas com sua concretização no plano material), resta claro que sistemas inteligentes podem ser utilizados como suporte para o problema relacionado ao número excessivo de demandas em detrimento do número de serventuários da justiça.
Por outro lado, não se pode esquecer da necessidade de respeito dos princípios constitucionais inerentes ao processo quando se fala da aplicabilidade de qualquer tecnologia junto ao processo judicial. No caso do juiz colombiano, quando houve a utilização do referido sistema, ele simplesmente ignorou esse cuidado necessário. Esse alerta é trazido exatamente com o objetivo de que não ocorra o mesmo em nosso sistema judiciário.
E a preocupação do nosso ordenamento jurídico com a transparência é algo muito forte, tendo em vista que várias são as tentativas de regulamentação junto ao ordenamento jurídico pátrio da Inteligência Artificial, estipulando-se parâmetros para a sua utilização, como no caso do PL 5.051/2019<a href="#_ftn6" name="_ftnref6">[6]</a>, PL 21/2020<a href="#_ftn7" name="_ftnref7">[7]</a> e PL 872/2021<a href="#_ftn8" name="_ftnref8">[8]</a>, e do <a href="https://www.trf5.jus.br/index.php/lgpd/lgpd-direitos-do-titular#:~:text=os%20setores%20espec%C3%ADficos.-,Art.,os%20aspectos%20de%20sua%20personalidade.">art. 20</a> da Lei Geral de Proteção de Dados, bem como no caso da Resolução nº 332/2020, do Conselho Nacional de Justiça, que buscou regulamentar critérios éticos, de transparência e governança, na produção e no uso de Inteligência Artificial no Poder Judiciário.
Assim, conclui-se que o debate acerca da transparência algorítmica<a href="#_ftn9" name="_ftnref9">[9]</a> se intensifica cada dia mais com a criação de novas tecnologias, que podem ser aplicadas junto ao processo judicial, tendo em vista a necessidade de respeito do devido processo legal. Enquanto não houver uma consciência geral acerca da opacidade algorítmica e das consequências que ela pode trazer mediante a inobservância da transparência e da accountability, o próprio sistema judicial como um todo será refém das decisões que podem ser, ou não, enviesadas, uma vez que elaboradas e redigidas por um algoritmo o qual necessita de um aprimoramento e de correções em sua programação para executar o seu fim principal com êxito, necessitando uma maior supervisão.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> ChatGPT: Optimizing Language Models for Dialogue. Disponível em: <a href="https://openai.com/blog/chatgpt/">https://openai.com/blog/chatgpt/</a>. Acesso em: 28 jan. 2023.
<a href="#_ftnref2" name="_ftn2">[2]</a> TJMG apresenta SAVIA, nova ferramenta de Inteligência Artificial baseada em ChatGPT. Diponível em: https://www.tjmg.jus.br/portal-tjmg/noticias/tjmg-apresenta-savia-nova-ferramenta-de-inteligencia-artificial.htm#. Acesso em: 28 jan. 2023.
<a href="#_ftnref3" name="_ftn3">[3]</a> TJMG apresenta SAVIA, nova ferramenta de Inteligência Artificial baseada em ChatGPT. Diponível em: https://www.tjmg.jus.br/portal-tjmg/noticias/tjmg-apresenta-savia-nova-ferramenta-de-inteligencia-artificial.htm#. Acesso em: 28 jan. 2023.
<a href="#_ftnref4" name="_ftn4">[4]</a> Juiz usa robô ChatGPT para redigir sentença em caso de criança autista na Colômbia. Coluna G1 Tecnologia. Disponibilizado em: 03 de fevereiro de 2023. Disponível em: https://g1.globo.com/tecnologia/noticia/2023/02/03/juiz-usa-robo-chatgpt-para-redigir-sentenca-de-caso-de-crianca-autista-na-colombia.ghtml. Acesso em: 12 fev. 2023
<a href="#_ftnref5" name="_ftn5">[5]</a> Que pode aqui ser referido como o modelo constitucional de processo. ALMEIDA, Luciana Robles de. Princípios formativos do processo: das substantialia às normas fundamentais processuais. Revista de Processo. vol. 329. ano 47. p. 87-100. São Paulo: Ed. RT, julho 2022.
<a href="#_ftnref6" name="_ftn6">[6]</a> BRASIL. Senado Federal. Projeto de Lei n° 5051, de 2019. Estabelece os princípios para o uso da Inteligência Artificial no Brasil. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/138790. Acesso em: 11 fev. 2023.
<a href="#_ftnref7" name="_ftn7">[7]</a> BRASIL. Senado Federal. Projeto de Lei n° 21, de 2020. Estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil e dá outras providências. Disponível em https://www25.senado.leg.br/web/atividade/materias/-/materia/151547. Acesso em: 11 fev. 2023.
<a href="#_ftnref8" name="_ftn8">[8]</a> BRASIL. Senado Federal. Projeto de Lei n° 872, de 2021. Dispõe sobre os marcos éticos e as diretrizes que fundamentam o desenvolvimento e o uso da Inteligência Artificial no Brasil. Disponível em https://www25.senado.leg.br/web/atividade/materias/-/materia/147434. Acesso em: 11 fev. 2023.
<a href="#_ftnref9" name="_ftn9">[9]</a> O termo “transparência algorítmica” pode ser compreendido de duas formas distintas, pois o termo pode ser entendido pela transparência do funcionamento do próprio sistema, e também pode ser entendido como a transparência de como os dados são aplicados. Sobre o assunto: LUCON, Paulo Henrique dos Santos. Processo Virtual, Transparência e Accountability. In: NUNES, Dierle; LUCON, Paulo Henrique dos Santos; WOLKART, Erik Navarro. Inteligência Artificial e Direito Processual: Os Impactos da Virada Tecnológica no Direito Processual. Salvador: Editora JusPodivm, 2020; VALE, Luís Manoel Borges do. A Tomada de Decisão por Máquinas: A Proibição, no Direito, de Utilização de Algoritmos não Supervisionados. In: NUNES, Dierle; LUCON, Paulo Henrique dos Santos; WOLKART, Erik Navarro. Inteligência Artificial e Direito Processual: Os Impactos da Virada Tecnológica no Direito Processual. 2. ed. rev. atual. e ampl. Salvador: Editora JusPodivm, 2021; FERRARI, Isabela. Accountability de Algoritmos: a falácia do acesso código e caminhos para uma explicabilidade efetiva. Disponível em https://itsrio.org/wp-content/uploads/2019/03/Isabela-Ferrari.pdf. Acesso em 15 ago. 2021; ALVES, Isabella Fonseca. Dos vieses algorítmicos e a falta de transparência algorítmica. In PINTO, Henrique Alves; GUEDES, Jefferson Carús; CÉSAR, Joaquim Portes de Cerqueira. Inteligência Artificial Aplicada ao Processo de Tomada de Decisões. 1. ed. Belo Horizonte, São Paulo: D’Plácido, 2020

ChatGPT, inteligência artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Precisamos, cada vez mais, falar sobre a transparência algorítmica

ChatGPT e o direito processual

Muito há o que se avançar em desenvolvimento da referida tecnologia com a finalidade de aplica-la junto ao processo judicial.