Gabriel Frias Araújo

Desde a recente chegada ao mercado de grandiosas e poderosas plataformas e ferramentas de Inteligência Artificial Generativa (IAG) temos assistido a uma rápida e vertiginosa disseminação do uso desses serviços de <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">Inteligência Artificial</a> por todos os campos da vida e da sociedade, para as mais diferentes atividades, pessoais ou profissionais, seja por empresas ou mesmo pelo poder público.
Na era da conectividade e do uso frenético de redes, a inteligência artificial vem ocupando um papel importante na geração, disseminação e abastecimento da altíssima demanda por “conteúdo” – termo da moda capaz de se referir a uma diversidade de coisas: de memes a vídeos de entretenimento, de “publis” a informação.
<h3><a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a></h3>
Mas, para além de seu uso recreativo e comercial, a IA vem assumindo cada vez mais usos, atribuições e mesmo “responsabilidades”. Mesmo que pareça ser um caminho sem volta, precisamos admitir que em pouco tempo a inteligência artificial tomou um espaço até então inimaginável e vem afetando nossas vidas de uma forma que ainda não somos capazes de mensurar e que vai para além da substituição de habilidades humanas e tomada de empregos.
Por isso, sem querer entrar numa discussão generalizada sobre ganhos, riscos e eventuais limites ao uso da IA, aparentemente incontornável, quero aqui refletir sobre uma questão pontual: o uso dessas ferramentas para auxiliar, ou mesmo interferir, em processos decisórios, em especial, ao seu uso pelos órgãos de justiça.
Cabe então indagar: seria essa uma ferramenta neutra? Haveria impactos e riscos no uso, ainda que limitado, nesse contexto? Não se pode, nem se pretende negar a conveniência e as facilidades que a IA oferece, sobretudo em termos quantitativos. Porém, delegar parte do trabalho de análise ou decisão a ferramentas desprovidas de subjetividade e, de outro lado, investidas de “credibilidade” e “poder”, não poderá nos conduzir a uma justiça cada vez mais desumanizada?
De acordo com os próprios órgãos de justiça, os sistemas de IAG, por ora, são utilizados com a finalidade de auxiliar na análise de processos e produção de textos, tais como relatórios de processos – sendo, em tese, capazes de resumir autos, pareceres e decisões – bem como gerar automaticamente modelos de decisões, manifestações e mesmo minutas de ementas. Entretanto, para além desse uso interna corporis – a partir de plataformas oferecidas pela própria administração pública com possibilidade de alguma fiscalização e regulamentação – existe ainda uma dimensão do problema que escapa a qualquer possibilidade de controle: o uso dessas ferramentas, em âmbito particular e pessoal, por parte de um número cada vez maior de profissionais das mais diversas áreas, seja no setor público ou no privado.
Exemplo disso é o uso já disseminado da IA em escritórios de advocacia. Encontrar petições elaboradas, em algum grau e medida, por IA tornou-se comum, o que vem merecendo, inclusive, atenção e preocupação por parte do Poder Judiciário quanto à criação artificial de doutrinas e julgados.
Assim é que, diante de tal cenário preocupante, peço licença para propor um debate, ainda que nós, profissionais do direito, não sejamos afetos à área da tecnologia.
A primeira das observações a se fazer é que a adoção e uso dessas ferramentas em âmbito jurídico-institucional se faz ao arrepio de qualquer debate público com os milhares de profissionais da área a respeito dos impactos, diretos e indiretos, nas vidas de milhões de jurisdicionados. Mas não só. Trata-se de uma “novidade” que impacta sobre todo o sistema de justiça – e, portanto, sobre toda a sociedade. Infelizmente, porém, tamanha mudança tem se dado de forma pouco democrática.
Não obstante tais questões, a indiscriminada implementação de sistemas de IA é crescente. E tudo isso porque muitos acreditam que estaríamos diante de uma ferramenta neutra de “risco zero”.
Assim, dois são os principais argumentos, seja como objetivo ou justificativa, que têm levado órgãos de justiça à utilização de ferramentas de IAG: modernização e eficiência.
Em primeiro lugar, deve-se notar que a novidade, anunciada sob um espírito quase “iluminista” pelos seus entusiastas, é vendida como uma proposta irresistível ou um reflexo inevitável da modernidade que ainda, ainda por cima, promete uma verdadeira modernização (e racionalização) do processo decisório. Posta dessa forma, não há quem ouse se opor ao progresso.
Mas, para além de uma certa lógica positivista que orienta tal pensamento, de outro lado, é preciso ter em mente que a tecnologia e ferramentas digitais  têm sido cada vez mais objeto de debate, controvérsias e de estudo.
Não se trata, com isso, de demonizar o progresso e a tecnologia, mas, sim, de (tentar) compreender seus impactos mais profundos e ponderar se tais ferramentas podem ou não ser empregadas, onde, de que modo e em que medida.
Nesse sentido, o crescente debate sobre regulação de redes e da IA lança luzes sobre os muitos problemas, desafios e os diversos aspectos contraditórios e ambíguos dessas ferramentas em diversos aspectos da vida e da sociedade.
Portanto, cabe indagar: o que é “modernização” judiciária? Ganho de eficiência? Aumento de produtividade e de estatísticas? Maior capacidade de processamento de informações? Utilização de mecanismos de automação nos processos decisórios? Adoção de modelos de padronização decisória?
Aliás, a prometida modernização pela tecnologia não implica necessariamente racionalização das decisões, uma vez que aquilo que a IA oferece é nada além de uma racionalidade instrumental, técnica, e, muitas vezes, falha. Trata-se de uma “inteligência” construída a partir de padrões, repetições e processamento de dados e estatísticas nem sempre feita com adequada ponderação ou avaliação jurídica dos fatos e argumentos, tampouco atenção às particularidades de cada caso.
Isto nos leva, aliás, a uma outra indagação: teremos com isso decisões mais acertadas?
Pois penso que uso dessa ferramenta não levará a decisões mais bem fundamentadas ou atentas
Em uma prática judiciária já marcada pela dificuldade de se chamar a atenção e suscitar o devido cotejo de cada caso concreto, a IA funcionará como um pretexto para reduzir ainda mais o nível e profundidade da análise “humana” dos processos, eliminando ou encurtando o tempo dedicado pelo julgador a cada caso.
Haverá quem a defenda em termos de economia de tempo mirando as milhares de páginas resumidas por um computador, ainda sob o argumento de que as ferramentas de IA não elaboram propriamente decisões, mas apenas relatórios e minutas.
Contudo, tratar a leitura, análise e síntese de casos como sendo um mero trabalho repetitivo e mecânico que poderia ser feito de forma automática por uma máquina é negligenciar os inúmeros fatores humanos e subjetivos envolvidos no processo de interpretação e tomada de decisão.
Embora não se negue o volume de trabalho e a alta demanda do Judiciário, o imperativo da economia não pode servir de pretexto para uma simplificação das demandas judiciais e um empobrecimento das decisões.
Adotando-se acriticamente a IA, como ferramenta neutra ou solução fácil para questões complexas, corre-se o risco de se cair em uma produção mecanizada de decisões homogeneizadas, com pouco ou nenhum espaço para revisões, reanálises e discussão de (novas) teses, conduzindo a uma verdadeira dispensabilidade dos esforços humanos, tornando apelos teóricos e intelectuais meros dados que podem ser simplificados e sintetizados. Aliás, talvez não seja exagero evocar a velha e justificada ameaça da substituição do homem pela máquina.
Acreditar que resumos seriam capazes de preservar, reproduzir e apresentar aos julgadores toda a complexidade de um caso ou debate jurídico é tratar com descaso um problema linguístico de primeira ordem.
Há ainda que se levar em conta as possíveis falhas de processamento (conhecidas por “alucinações” no jargão tecnológico) e a impossibilidade de que uma IA compreenda e interprete como nós, seres humanos, fatos, ideias e argumentos. Nenhuma IA é dotada de lógica perfeita e infalível e delegar a ela função tão importante no processo decisório, ainda que aparentemente auxiliar, é algo a ser visto, no mínimo, com cautela, especialmente em estágio tão incerto e experimental de implementação de IAs.
Passamos assim a ter de lidar com o desafio de tentar contornar filtros e algoritmos para merecer alguma atenção e escapar assim de análises automáticas e impessoais impostas pela máquina. Infelizmente não é de causar espanto que em uma prática judiciária por vezes tão fria e desumanizada, a mecanização industrial seja celebrada como um avanço.
Porém, a verdade é que se de um lado a velocidade das atuais ferramentas de processamento de dados pode, sim, ser útil a processos produtivos e trabalhos mecânicos, por outro, para a Justiça ainda precisamos e continuaremos a precisar de filtros e leituras humanas.
Bem-vindos à era da hermenêutica digital.
Já em relação ao argumento da eficiência, não é de hoje que a morosidade e o volume de processos são utilizados como pretextos para mudanças ou determinações que pouco ou nada “mexem” efetivamente com a justiça ou os julgadores. Ainda que existam diferentes opiniões e sugestões para enfrentar os problemas e desafios do sistema de justiça, sabemos todos que também ele – o Poder Judiciário – carece de mudanças, profundas.
No entanto, o que comumente se observa são apenas mudanças que buscam simplificar processos – ainda que ao custo de direitos – impondo e transferindo a terceiros os ônus pela ineficiência ou pela morosidade do sistema de justiça.
De outro lado, sem a devida mea culpa por parte do Poder Judiciário ou “autocriticas” de seus membros, a justificativa do estado de coisas quase sempre se limita a números e estatísticas fazendo por vezes parecer que o judiciário seria como que uma vítima do sistema, resistindo com ânimo heroico para entregar a justiça a jurisdicionados e advogados com seus intermináveis recursos e “expedientes protelatórios”.
Mas que modelo de eficiência se está a buscar por meio de uma ferramenta de IA?
A propósito, esta não é a primeira vez que medidas de grande impacto são tomadas e justificadas sob o argumento da eficiência. Ocorre, porém que a perseguição de tal nobre objetivo nem sempre tem se refletido na qualidade das decisões ou na melhoria da prestação jurisdicional e exemplos não faltam.
Qualquer advogado hoje sabe como é se deparar com decisões genéricas, despachos-padrão, bem como da dificuldade cada vez maior de se chegar às Cortes, onde casos e discussões de grande complexidade são muitas vezes barrados por análises simplistas feitas por sistemas e ferramentas digitais, algo que a IA tenderá a amplificar.
Assim é que aderir, cega e acriticamente, a mecanismos de simplificação com vistas a uma facilitação do processo decisório é fechar os olhos aos apelos de milhares de cidadãos que, por meio de seus advogados, tentam cada vez mais sem resposta, se fazer ouvir.
É preciso ainda ter em mente que facilidades geram comodidades das quais, por conforto ou conveniência, dificilmente abrimos mão. Exemplo disso é o caso das audiências e sustentações orais virtuais que, impulsionadas por uma necessidade no contexto da pandemia, praticamente se tornaram a regra. Desde então, os Tribunais, sem condições de eliminar tal comodidade, têm necessitado fazer verdadeiro esforço para retomar e priorizar atividades presenciais.
Não é de se duvidar que, em breve, a IA, tendo comprovado sua pretensa eficiência por meio de números, estatísticas e outros parâmetros produtivistas, tenderá a se tornar a regra no Judiciário.
Por fim, apenas como um argumento filosófico, destaco a questão do apagamento dos sujeitos e o distanciamento entre homem e processo – neste caso, literalmente.
Se as modernas técnicas e ferramentas distorcem nossa própria relação com o mundo e com o tempo, talvez precisemos voltar um pouco nele, para compreendermos que essa relação já vem se distorcendo muito antes do advento da IA.
Já há algumas décadas, o filósofo Edmund Husserl apontava que nossos modelos de ciência, técnica e, especialmente, de progresso têm um quê de desumanizador.
Essa relação profunda entre tecnologia, máquina e a crise do homem revela ambiguidades e ambivalência já de muito anunciadas por autores ao longo desse último século. Albert Camus, em uma conferência em 1946, atribuía à crise do homem uma das causas da guerra.
Wittgenstein, ainda antes, dizia que o fim da humanidade seria consequência da substituição do espírito pela máquina. Paul Valery em seus “ensaios quase políticos”, escritos no entre guerras alertava: “creio que o espírito esteja se transformando em coisa supérflua". Como eles, diversos outros autores e intelectuais seguem nos alertando sobre as falhas e perigos de uma razão meramente instrumental.
<h3><a href="https://conteudo.jota.info/marketing-lp-newsletter-jota-principal-lancamento">Informações direto ao ponto sobre o que realmente importa: assine gratuitamente a JOTA Principal, a nova newsletter do JOTA</a></h3>
Fato é que com a ascensão e fortalecimento da sociedade de massas, da industrialização e, mais recentemente, das ferramentas de IA, também nós nos tornamos, cada vez mais, homens mecânicos, com um inevitável apagamento do sujeito, tornando espírito e pensamento instâncias supérfluas e até mesmo incompatíveis com uma realidade cada vez mais acelerada e virtual, a qual tem permitido uma crescente instrumentalização e controle da subjetividade, suplantada e silenciada pelas tecnologias, com nossos espíritos domesticados e adestrados pela técnica e suas ferramentas.
Os efeitos nefastos dessa profunda alteração na nossa sensibilidade para além da perda de autonomia do sujeito são o enfraquecimento da crítica, o comprometimento da faculdade do juízo, a obediência e submissão incondicionais em um processo crescente que nos leva cada vez mais próximos a uma alienação.
A distopia, porém, parece se tornar ainda mais alarmante quando adentra e gradualmente se apossa de processos, faculdades e atividades, até então fundamentalmente humanas, afetando, por exemplo, nossa capacidade de decidir ou, ainda mais grave – especialmente no caso de julgadores – interferindo no próprio labor do processo decisório, (re)orientando e (re)definindo, deste modo, inclusive nosso sistema judiciário e nossa compreensão da Justiça.

inteligencia artificial uniao europeia

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

A prometida modernização pela tecnologia não implica necessariamente racionalização das decisões

IA e 'hermenêutica digital': uma distopia judiciária?

A prometida modernização pela tecnologia não implica necessariamente racionalização das decisões