Opinião e Análise

Lenio Luiz Streck

Volta e meia o mundo é acometido por “febres” que prometem transformar completamente o paradigma atual e inaugurar uma nova era. A mais nova febre é a da inteligência artificial. E o universo do Direito não está imune. Muito pelo contrário, o “corpo” que compõe o Direito parece ser especialmente suscetível. No Brasil, então?
Aparentemente, por aqui há uma debilidade flagrante capaz de fazer com que esta febre se espalhe rapidamente comprometendo a integridade do sistema. Poucos anticorpos, a doença se espalha mais facilmente.
<a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a>
Verdade seja dita, desde o primeiro dia em que os modelos de inteligência artificial pautados em aprendizado de linguagem — Large Language Models (LLMs) — se tornaram amplamente disponíveis, com a disponibilização pública do Chat GPT e quejandos, o Poder Judiciário brasileiro se abraçou efusivamente a eles como solução para os seus problemas. Problemas esses que podem ser traduzidos em um mantra repetido a exaustão: há processos demais para julgar! Precisamos de eficiência!
Se no mundo da tecnologia da informação a questão do uso indiscriminado da inteligência artificial é visto com grandes restrições e alvo de frequentes críticas tanto do ponto de vista da segurança da informação quanto da ética, o mesmo não tem acontecido no mundo do Direito.
Por aqui, aqueles que, assim como eu, têm se dedicado a apontar estes problemas acabam sendo escanteados dos debates ou chamados de dinossauros. Isso ocorre também em relação ao debate sobre “precedentes”. Há poucos dias o STJ fez uma audiência pública sobre o tema, convidando apenas os que concordavam com o precedentalismo. Assim é fácil.
Pois bem, de minha parte há muito tenho me identificado como um jurássico. Desde os tempos do grupo Cainã, no começo dos anos 2000, o símbolo que meus companheiros e eu adotamos foi um dinossauro, pois ali já éramos chamados jurássicos. Mais que isso! Sou de Agudo, terra do Bagualossauro Agudensis, um dinossauro que por lá viveu há 230 milhões de anos! Portanto, tenho um conterrâneo jurássico ilustre.
Todavia, essa febre da inteligência artificial não está restrita ao Direito brasileiro. No mundo todo o canto das sereias que é representado pela IA parece se espalhar com rapidez.
Recentemente fui apresentado a um texto de Richard Albert e Kevin Frazier que questiona se uma inteligência artificial deveria escrever uma Constituição — Should AI Write Your Constitution? (A IA deveria escrever sua Constituição?).<a href="#_ftn1" name="_ftnref1">[1]</a>
As conclusões de Albert e Frazier caminham no sentido de que uma IA pode — e talvez devesse — escrever a Constituição. A proposta vem travestida de suposta neutralidade epistêmica (o que será que os autores entendem por epistemologia?): se os humanos são falhos, parciais e limitados, por que não confiar à máquina a tarefa de desenhar uma nova ordem constitucional, livre de paixões, ideologias e interesses?
Sem dúvida, trata-se de um texto sofisticado, cuidadoso, que mapeia usos possíveis e riscos evidentes da IA na elaboração constitucional. Reconhecem os autores que há tarefas de “alta sensibilidade” (que devem permanecer humanas), “baixa sensibilidade” (que poderiam ser automatizadas) e “sensibilidade intermediária” (adequadas à colaboração entre humano e IA). Tudo parece racional e equilibrado. Mas é justamente aí que reside o problema: a ideia de que a razão instrumental possa substituir o caminho democrático e o horizonte hermenêutico da Constituição é, em si, uma forma velada de autoritarismo.
A questão não é se a IA pode escrever uma Constituição. É que ela não deve, e mais ainda: não pode. Sobretudo se acreditamos que a Constituição é muito mais que um simples texto — é um pacto civilizacional de existência no mundo. Penso que a tese de que a IA pode escrever uma Constituição de um país é uma bizarrice. Para ser generoso no adjetivo.
A formação da Constituição é um evento hermenêutico, fruto da união entre a história, a linguagem e a política. Ela não é — e nem pode ser — um simples texto técnico, tal qual um manual de engenharia institucional. A Constituição de um povo é o espelho do seu tempo, na dicção heideggeriana, é a narrativa pela qual uma comunidade política se reconhece como tal.
O constitucionalismo contemporâneo surgiu justamente no contexto do segundo pós-guerra como forma de rechaçar a arbitrariedade e violência perpetrada pelo Estado contra seus próprios cidadãos. A manipulação de que a “vontade da nação” se materializa na vontade de um líder ou de maiorias de ocasião.
Nesse sentido, a Constituição se apresenta como um sistema de freios. Um limite estabelecido previamente que não deve ser ultrapassado, ao mesmo tempo em que oferece perspectivas para um futuro. Portanto, uma Constituição é um documento de promessa e de memória. Sob essa perspectiva o povo, por meio do poder constituinte, declara suas premissas fundamentais através de sua Constituição.
Assim, se uma Constituição é a pedra fundamental sobre a qual é erguida toda a ordem jurídica de um Estado, esta só pode surgir a partir daquilo que Gadamer apontaria como uma fusão de horizontes: o encontro entre o passado que nos constitui e o futuro que queremos. Eis o busílis.
A inteligência artificial, por sua vez, não possui horizonte. Ela não compreende o mundo, apenas calcula. A IA até pode imitar a linguagem, mas é incapaz de compreender a sua historicidade. Ela pode até reproduzir o texto, mas não é capaz de compreender o sentido do texto. E onde não há compreensão, não há Constituição.
O discurso tecnocrático de Albert e Frazier, embora atualizado aos dias atuais, reincide na velha ilusão positivista: a crença de que seria possível depurar o Direito de suas contingências. Quando se propõe que a IA possa “ajudar” a redigir ou revisar a Constituição, na realidade está reavivando o mito da neutralidade no Direito. Antes de tudo, uma pergunta aos autores: por que ser neutro é bom? Ser neutro pode ser muito deletério. A Constituição do Basil não é neutra. Ainda bem. Ela tomou lado.
Uma suposta neutralidade nada mais é do que a conformação à perspectiva dominante em um determinado momento histórico. Por isso a pretensão de neutralidade positivista (falo da separação direito/moral) consegue sempre se vender como sendo atual: porque ela expressa o mito do dado. As coisas são como elas são e nos cabe apenas entender como elas estão postas no mundo. Fica mais fácil lidar com as angústias da contemporaneidade se temos certezas, ainda que elas não sejam verdadeiras.
Da mesma forma, toda a tecnologia é produto de escolhas humanas; escolhas éticas, políticas e, sobretudo, econômicas. Os algoritmos que alimentam as inteligências artificiais são, antes de tudo, a sedimentação dos valores das companhias que as produziram.
Portanto, o problema de deixar que uma inteligência artificial participe do processo de elaboração de uma Constituição — seja como ator principal ou ferramenta de suporte — é permitir que interesses invisíveis que permeiam essas tecnologias passem a ocupar o espaço da deliberação democrática. É realizar uma troca entre o “povo soberano” pelo “código do proprietário”. E o pior disso tudo, com aparência de legitimidade, porque se vende a ideia de que o robô não tem interesses próprios. Trata-se do risco de um autoritarismo algorítmico: um poder sem rosto, sem corpo, sem historicidade — mas ainda assim poder.
Albert e Frazier recorrem à teoria do poder constituinte para sustentar que certas etapas da elaboração constitucional devem continuar humanas — afinal, “o povo reina supremo”.<a href="#_ftn2" name="_ftnref2">[2]</a> Mas, em seguida, abrem brechas para a colaboração da IA em tarefas de pesquisa, organização de dados e até mesmo na redação de rascunhos constitucionais.
O argumento é pragmatista: se a IA pode melhorar a eficiência, por que não usá-la? Para mim, a resposta é bastante simples: porque eficiência não é categoria democrática! A elaboração de uma Constituição não é uma engenharia de resultados, mas fruto de uma construção operada a partir da linguagem. A IA facilmente “toma decisões” utilitaristas.
Daí até a moralização do assassinato, por exemplo, é um passo. No caso do dilema do trem, a IA mataria o gordinho e salvaria as demais cinco pessoas que estavam sobre os trilhos. E se o gordinho estava prestes a inventar a vacina contra o câncer? Dá para discutir a moralidade do assassinato? E se os que foram salvos eram terroristas que estavam a caminho de matar centenas de pessoas? Direito é mais do que discutir dilemas morais. Isso é tarefa da filosofia moral. Por isso não cabe utilitarismo no Direito. Nem algoritmos.
A “colaboração” da inteligência artificial transforma o poder constituinte em um simulacro de soberania — o povo permanece no centro, mas o processo de elaboração ou mesmo de reforma da Constituição é terceirizado para o robô que opera em uma lógica externa, opaca e enviesada.
Sob o pretexto da eficiência e da neutralidade, surge a ideia de elaborar um grande prompt que seja capaz de exprimir os desejos e anseios de uma sociedade, cujo resultado será entregue em formato de uma Constituição por esse robô. Novamente, é o desejo de retorno ao mito do dado para combater as angústias da vida contemporânea. Trata-se de uma espécie de reencantamento do mundo.
Com efeito, há que se reconhecer que Albert e Frazier não são alheios aos perigos inerentes da inteligência artificial, por isso propõem um “Escudo da Democracia”, construindo assim salvaguardas técnicas, estruturas de responsabilidade e mecanismos de integridade para evitar abusos da IA.
Todavia, o problema não se encontra nas salvaguardas passíveis de serem criadas para evitar o abuso da inteligência artificial. Trata-se de uma questão de princípio: uma IA não deve escrever uma Constituição. Simples assim.
A realidade é que as propostas apresentadas por Albert e Frazier partem da premissa de que os problemas da inteligência artificial estão ligados ao seu uso por parte dos humanos que a operam e com isso buscam construir uma argumentação propositiva da elaboração de uma IA destinada à produção de constituições que eliminem os problemas dos humanos que as operam, concatenando estas com instrumentos que a legitimariam como uma participação popular subsequente ao processo de elaboração constitucional amparado em IA.
Ou seja, o problema está no uso. No mau uso. Será isso tão simples?
Desde o começo da febre da inteligência artificial venho denunciando que o problema não é este. O ponto fulcral não está ligado à forma como a ferramenta está sendo usada pelos usuários. A questão é a própria IA estar na equação, porque ela está fazendo aquilo para o qual foi programada: gerar solução para um problema.
Eis o busílis: se a inteligência artificial é apontada como solução para os problemas humanos do Estado, o problema está na solução ofertada. Os problemas humanos devem ser solucionados pelos humanos. E a IA está muito longe de ser uma ferramenta neutra capaz de eliminar os desacordos existentes dentro de uma sociedade.
Assim, não obstante o esforço empreendido por Albert e Frazier ao escrever seu artigo que questiona “deve uma inteligência artificial escrever a sua Constituição?”, a minha resposta é muito clara: não. Não deve. Sobretudo se ainda queremos nos reconhecer enquanto uma sociedade pautada pelos valores fundamentais que emergiram do movimento constitucionalista. Ou fracassamos?
Na distopia futurista Duna, de Frank Herbert, o fim do mundo como conhecemos foi gerado por uma guerra entre os seres humanos e os computadores e robôs conscientes. Apesar da vitória humana sobre as máquinas e sua consequente destruição total, um mandamento fundamental foi estabelecido: “não farás máquina à semelhança da mente humana”. Isso diz alguma coisa aos adictos e adeptos da IA?
Eis o ponto: colocar a redação de uma Constituição nas mãos de uma inteligência artificial — por mais elaborada que esta seja, que obedeça a passos concatenados previamente estabelecidos, amparados em prompts verificados, tudo isso combinado com “salvaguardas democráticas” como sustentam Albert e Frazier – representa a violação de um princípio fundamental vital para a existência de uma verdadeira Constituição: a construção hermenêutica de sentido amparada na linguagem.
Por final, trago ao leitor um pequeno adágio do qual tenho me valido para tratar do tema da inteligência artificial (e que, aliás, dá título ao meu mais novo livro pela editora Contracorrente, Robô não desce escada e trapezista não voa!): estamos condenados a interpretar e justamente por essa razão não podemos reduzir o processo de elaboração (ou reforma) da Constituição a um mero processo instrumental capaz de ser suprido por um robô que estaria completamente dissociado da linguagem e da historicidade que deve obrigatoriamente fazer parte do processo de construção de uma Constituição.
Do contrário, estaremos simplesmente incorrendo no erro grave de tentar construir máquinas semelhantes à mente humana e que nos levarão à inevitável destruição.
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
Querem ver uma coisa interessante? Pois bem. Há poucos dias, pesquisadores<a href="#_ftn3" name="_ftnref3">[3]</a> – e também faço isso no livro – mostraram a farsa da inteligência artificial. A pesquisa mostra que esses grandes modelos de linguagem não estão realmente pensando, eles são apenas muito, muito bons em fingir. Esta é a parte dois de pensar versus computar. A IA pode realmente pensar e raciocinar ou é apenas um autocompletar muito inteligente?
Esses pesquisadores criaram o experimento mental definitivo. Imagine o seguinte: eles imaginaram a IA mais avançada do mundo em 1633, treinada em todos os textos científicos já escritos até então. Então eles perguntaram: o que essa IA diria sobre a afirmação de Galileu de que a Terra orbita o Sol? A IA teria destruído completamente Galileu, o chamado de delirante. Por quê? Porque 99,9% dos textos científicos diziam que a Terra era o centro de tudo, e os modelos matemáticos previam perfeitamente os movimentos planetários. Isso expõe exatamente como os grandes modelos de linguagem funcionam. Não estão procurando a verdade, estão apenas contando padrões no texto. Se a maioria dos documentos diz algo, a IA assume que está correto.
E ainda acham que a IA pode escrever uma Constituição? Ou elaborar sentenças? Sobre as liberdades das pessoas?
Penso que é bom estocarmos alimentos.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> ALBERT, Richard; FRAZIER, Kevin.  Should AI Write Your Constitution?. U of Texas Law, Legal Studies Research Paper, Available at SSRN: https://ssrn.com/abstract=5351275 or http://dx.doi.org/10.2139/ssrn.5351275
<a href="#_ftnref2" name="_ftn2">[2]</a> ALBERT, Richard; FRAZIER, Kevin.  Should AI Write Your Constitution?. U of Texas Law, Legal Studies Research Paper, Available at SSRN: https://ssrn.com/abstract=5351275 or <a href="http://dx.doi.org/10.2139/ssrn.5351275">http://dx.doi.org/10.2139/ssrn.5351275</a>. p. 13
<a href="#_ftnref3" name="_ftn3">[3]</a> Cf. a íntegra da pesquisa em: FELIN, Teppo; HOLWEG, Matthias. “Theory is All You Need: AI, Human Cognition, and Causal Reasoning”. Strategy Science, vol. 9, nº 4, dez. 2024, pp. 346-371. Disponível em: https://pubsonline.informs.org/doi/epdf/10.1287/stsc.2024.0189. Acessado em: 13.10.2025.

inteligência artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Se a IA pode melhorar eficiência, por que não usá-la? A resposta é simples: porque eficiência não é categoria democrática

A Constituição e o robô: por que uma IA não pode escrever uma Constituição

Se a IA pode melhorar eficiência, por que não usá-la? A resposta é simples: porque eficiência não é categoria democrática