Gustavo Artese

Há um ponto que o debate atual sobre inteligência artificial generativa no sistema jurídico ainda não absorveu com clareza suficiente. O foco dominante vinha recaindo sobre alucinações, jurisprudência inexistente, referências fabricadas. É verdade que esses riscos são concretos e importantes: 1.500 casos documentados pelo mundo em 2026 confirmam isso. Mas eles descrevem um problema de saída: a IA produzindo um resultado incorreto num caso específico.
<a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a>
O que os episódios recentes revelam é outra coisa: não a IA errando pontualmente, mas a IA já integrada ao funcionamento operacional do Judiciário antes da existência de estruturas formais capazes de governá-la. A distinção implica em riscos de outra ordem.
<h2>Duas situações, dois vetores, uma só transformação</h2>
O primeiro tipo de episódio já começou a aparecer recentemente: publicações involuntárias de interações assistivas produzidas por IA dentro do fluxo de produção jurisdicional. Em um dos casos mais simbólicos até aqui, o <a href="https://www.jota.info/trabalho/magistrado-esquece-prompt-de-ia-em-acordao-do-trt1-do-rio-de-janeiro">Diário da Justiça publicou inadvertidamente um prompt</a> de continuação gerado por uma assistente virtual utilizada durante a redação de decisão judicial.
O sistema sugeria adaptação do texto ao padrão decisório do magistrado responsável pelo caso. Trata-se, evidentemente, de situação de uso de IA como mecanismo informal de aumento de produtividade (aceleração cognitiva) no contexto da atividade jurisdicional.
O segundo episódio, mais recente, é qualitativamente diferente. <a href="https://www.jota.info/trabalho/juiz-multa-em-r-84-mil-advogadas-por-prompt-injection-para-manipular-ia-usada-no-trt8">Advogadas inseriram instruções ocultas</a> numa petição por meio de texto branco sobre fundo branco; técnica conhecida como prompt injection. O objetivo era influenciar sistemas automatizados que eventualmente processassem aquele documento. Aqui o problema muda de natureza: não é mais aceleração operacional. É a possibilidade de influência oculta e indevida sobre sistemas que participam do fluxo de decisão jurídica.
Os dois casos representam vetores distintos da mesma transformação. Num, a IA entra pelo lado de dentro, como ferramenta de quem produz decisões. No outro, tenta entrar pelo lado de fora, como mecanismo de manipulação do processo. O que os une é a mesma realidade subjacente: a inteligência artificial generativa começou a permear, de maneira prática e progressiva, a infraestrutura operacional do sistema jurídico.
<h2>Diagnósticos e sentenças</h2>
Nesse debate, costumo recorrer à medicina como analogia porque existe uma proximidade estrutural importante entre um diagnóstico médico e uma sentença judicial. Ambos são processos de decisão produzidos a partir de informação incompleta, interpretação técnica e análise de padrões complexos.
O médico observa sintomas, exames, histórico e sinais clínicos para concluir qual interpretação da realidade biológica parece mais consistente. O juiz observa fatos, provas, argumentos, normas e precedentes para concluir qual interpretação jurídica da realidade parece mais adequada ao caso concreto.
Mas existe uma diferença histórica importante entre as duas profissões no modo como tecnologia e informação passaram a ocupar seu núcleo operacional. A medicina sempre foi uma atividade profundamente instrumental. O médico historicamente dependeu de ferramentas externas para ampliar sua capacidade diagnóstica: microscópios, radiografias, tomografias, ressonâncias, equipamentos laboratoriais, monitoramento fisiológico.
Por isso, a incorporação de tecnologia da informação em processos críticos da medicina começou antes. Não porque médicos sejam mais tecnológicos do que juristas. Mas porque a própria natureza da profissão exigiu, mais cedo, a integração entre decisão humana e instrumentos técnicos de apoio.
No Direito, o movimento histórico foi diferente. Durante séculos, o núcleo operacional da profissão jurídica permaneceu relativamente protegido da automação porque seu instrumento central era a própria linguagem humana. O Direito sempre operou por interpretação, narrativa, argumentação, redação e articulação simbólica. E é exatamente aí que a inteligência artificial está produzindo uma ruptura inédita.
A IA não entrou pelas bordas operacionais do Direito. Ela entrou diretamente no núcleo cognitivo da profissão: a linguagem. Ela resume textos. Estrutura raciocínio. Produz síntese. Sugere argumentos. Organiza narrativas. Redige minutas. Reformula linguagem técnica.
A analogia ajuda a iluminar o caminho. Ela revela que o sistema jurídico provavelmente atravessará processo semelhante ao vivido anteriormente pela medicina: a construção gradual de mecanismos de segurança, governança e confiabilidade em torno de sistemas que se tornam inevitáveis antes de se tornarem plenamente institucionalizados. Para o sistema jurídico, isso significa aprender com quem passou por isso antes; e aprender depressa.
<h2>Efeitos sistêmicos</h2>
Ainda assim, há uma singularidade do sistema jurídico que a analogia com a medicina não captura inteiramente, e que torna o problema mais urgente do que parece. Na medicina, salvo situações excepcionais de larga escala, o erro diagnóstico tende a produzir um nexo causal relativamente localizado: um exame, um modelo, um paciente. A capacidade de identificar o dano, isolar a causa e corrigir o protocolo é, ainda que complexa, metodologicamente viável.
No sistema jurídico, a lógica é estruturalmente diferente. Uma sentença não afeta apenas as partes de um processo. Ela passa a integrar o ambiente interpretativo do sistema. Influencia decisões futuras. Sinaliza comportamentos esperados. Organiza incentivos econômicos. Afeta estratégias regulatórias e empresariais. Produz previsibilidade, ou insegurança, para agentes que sequer participaram daquela disputa original.
O erro jurídico potencializado por IA possui, portanto, capacidade de propagação sistêmica muito maior do que o erro médico.
Há um nome para esse fenômeno nas ciências sociais: path dependence. Uma vez consolidada determinada trajetória decisória, num tribunal superior, numa série de decisões que formam clima decisório, reverter esse caminho exige muito mais do que corrigir o erro de saída. Exige desfazer uma lógica que já se sedimentou em outras decisões, em comportamentos de agentes e em expectativas criadas.
<h2>O que o Shadow AI revela</h2>
O conceito de Shadow AI captura bem a dinâmica em curso. Sistemas de inteligência artificial passam a ser utilizados fora das estruturas oficiais porque os fluxos institucionais ainda não oferecem o mesmo nível de conveniência, velocidade e redução de fricção cognitiva que as ferramentas abertas entregam. Não se trata, na maioria dos casos, de irresponsabilidade individual. Trata-se de resposta prática a uma pressão estrutural: volume documental crescente, metas de produtividade e expectativas de escala.
Mas a consequência desse fenômeno, no sistema jurídico, é mais grave do que em outros setores. Porque a instituição frequentemente não controla qual modelo foi utilizado, em qual ambiente, com quais dados, com quais mecanismos de memória ativos. E num sistema cujas decisões têm efeito externo, que transcende as partes, que cria precedente, que sinaliza ao mercado, essa ausência de controle não é apenas um problema de governança interna.
É um problema de integridade do sistema. A proibição sozinha não resolve: o incentivo ao uso informal não desaparece enquanto as ferramentas abertas continuarem entregando experiência operacional muito superior às soluções institucionais disponíveis.
Talvez essa seja a principal singularidade da inteligência artificial no sistema jurídico: não estamos falando apenas de automação de tarefas. Estamos falando da automação parcial de mecanismos que organizam a própria previsibilidade da vida social.
A medicina levou décadas para construir governança adequada porque seus erros eram localizados o suficiente para permitir aprendizado incremental. O sistema jurídico não tem a mesma margem, e essa é a razão pela qual a transformação em curso precisa ser compreendida com mais precisão do que o debate atual ainda oferece.
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
O problema central, portanto, já não é mais saber se a inteligência artificial entrará no sistema jurídico. Ela já entrou.
O desafio agora é compreender quão profundamente ela começará a reorganizar, silenciosamente, os mecanismos que produzem previsibilidade, confiança e coerência institucional.

IA, algoritmo, inteligência artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Quando a IA começa a permear silenciosamente fluxos decisórios do sistema, erro individual deixa de ser o centro do problema

Shadow AI e Judiciário: reorganização silenciosa do sistema jurídico já começou

Quando a IA começa a permear silenciosamente fluxos decisórios do sistema, erro individual deixa de ser o centro do problema