Experimente o JOTA PRO por 10 dias e decida com mais segurança.

Luiz Edson Fachin

O tema da insolvência, escolhido para as Jornadas Internacionais da Associação Henri Capitant de 2026, projeta-se hoje para além das categorias tradicionais do direito empresarial e do direito dos contratos. Em uma economia crescentemente orientada por sistemas automatizados de decisão, a situação de insolvência pode ser precedida, agravada ou mesmo determinada por processos algorítmicos que classificam riscos, atribuem perfis de crédito e condicionam o acesso a bens, serviços e financiamento.
A preservação da empresa, a proteção do consumidor superendividado e a promoção da segurança jurídica exigem que o Direito seja capaz de iluminar os espaços de opacidade algorítmica. Uma ordem jurídica comprometida com a dignidade da pessoa humana não pode admitir que decisões com potencial de determinar o êxito, a recuperação ou a ruína econômica de pessoas e organizações sejam produzidas por processos imunes ao controle jurídico.
Essas inquietações são compartilhadas não só entre juristas. Neste mês de maio, o Papa Leão XIV publicou a sua primeira encíclica. A Magnifica Humanitas chega até nós como uma voz inspirada e necessária ao debate jurídico. Ao defender a "salvaguarda da pessoa humana na era da Inteligência Artificial", Leão XIV não fala apenas à consciência moral dos fiéis, mas também à consciência civilizatória do Direito, e serve como ponte para esta singela intervenção sobre o tema das vulnerabilidades algorítmicas e o Direito Civil Contemporâneo.
<a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a>
Entendemos por vulnerabilidade algorítmica toda condição em que um sistema automatizado de tomada de decisão – baseado em dados e modelos preditivos, sistemas de inteligência artificial e mecanismos opacos de tratamento de dados – produz resultados que violam, reproduzem e amplificam assimetrias de poder, discriminações estruturais ou restrições ilegítimas ao exercício de direitos subjetivos. A vulnerabilidade não é um efeito colateral indesejado: ela é, frequentemente, o produto necessário de escolhas de design, de opacidade deliberada e da concentração de poder nas empresas gestoras de dados.
Três categorias de vulnerabilidade merecem destaque.
A primeira é o viés algorítmico, que ocorre quando os dados de treinamento refletem desigualdades históricas – de gênero, raciais e socioeconômicas – e o sistema as reproduz como se fossem verdades objetivas. Um <a href="https://www.jota.info/tudo-sobre/algoritmo">algoritmo</a> de crédito que penaliza candidatos de determinados CEPs não está "calculando riscos": está discriminando com aparência de neutralidade científica, sob o argumento de que a decisão foi tomada por uma máquina.
A segunda é a opacidade decisional, que ocorre quando um sistema de saúde, uma plataforma de vagas de emprego ou um órgão de concessão de benefícios sociais nega direitos com base em critérios que não se pode explicar ou contestar. Viola-se, assim, um dos pilares mais antigos do Direito: o direito à motivação das decisões e ao contraditório.
A terceira é a concentração algorítmica, fenômeno no qual poucas empresas ou Estados detêm o controle sobre os sistemas que mediam o acesso a bens, serviços e oportunidades. Aqui, a encíclica ressoa com precisão jurídica: Leão XIV denuncia que "quando estes bens permanecem concentrados nas mãos de poucos, sem formas adequadas de partilha e acesso, cria-se um novo desequilíbrio que contradiz a destinação universal dos bens e alimenta o fosso entre incluídos e excluídos, entre quem pode participar na revolução digital e quem fica à margem".
De que maneira o Direito Civil Contemporâneo dialoga com esta temática? O Direito Civil parte de uma premissa basilar: a dignidade da pessoa humana é norma jurídica cogente que irradia sua força sobre todas as relações privadas. Como sustenta Pietro Perlingieri, toda relação no âmbito privado deve ser reinterpretada à luz da dignidade da pessoa humana e da centralidade dos direitos fundamentais. Essa irradiação, denominada pela doutrina de eficácia horizontal dos direitos fundamentais, significa que entre particulares, inclusive nas relações contratuais mediadas por plataformas digitais, os direitos constitucionais se impõem.
O fato é que o Direito Civil foi construído sobre a premissa do sujeito racional e informado, capaz de consentir livremente. A inteligência artificial pode subverter essa premissa de três modos.
Primeiro, ao manipular preferências por meio de sistemas de recomendação que moldam o que o usuário vê, deseja e decide consumir, comprometendo a autonomia da vontade antes mesmo que o negócio jurídico seja celebrado.
Segundo, ao produzir assimetria informacional estrutural entre empresas detentoras de dados e consumidores que, em tese, consentiram – por meio de termos de uso ininteligíveis – com a cessão de informações sobre a sua vida íntima a sistemas que os monitoram e classificam.
Terceiro, ao dificultar a revisão de decisões automatizadas de crédito, seguro de vida, emprego ou saúde que podem transformar projetos de vida de forma irreparável, em um país onde a desigualdade no acesso à justiça ainda é gritante.
É aqui que o diálogo com a encíclica deixa de ser metáfora e passa a ser metodologia.
A Magnifica Humanitas não é um documento jurídico, porém é um documento normativo no sentido mais profundo: articula princípios que, transpostos para a linguagem do Direito, alimentam diretamente a nossa interpretação constitucional. O Pontífice afirma que a <a href="https://www.jota.info/tudo-sobre/ia">IA</a> não é moralmente neutra nem uma questão puramente técnica, pois "incide sobre direitos, oportunidades, reputação e liberdade". Isso é, na linguagem jurídica, a afirmação de que sistemas automatizados produzem consequências jurídicas e, portanto, não podem escapar à regulamentação pelo Direito.
Ao rejeitar a lógica segundo a qual o valor de uma pessoa depende de sua produtividade mensurável ou do ranqueamento imposto por uma máquina, a encíclica fornece fundamento principiológico para recusar decisões algorítmicas que reduzem o sujeito de direito a um conjunto de dados. A pessoa humana não é seu score de crédito. Não é sua probabilidade de inadimplência. Não é seu risco atuarial.
A encíclica alerta, ainda, para o risco de que "sistemas de IA, apresentando-se como neutros e objetivos, reflitam e reforcem estereótipos ou posições ideológicas daqueles que os projetaram e treinaram". Esse alerta invalida o argumento da neutralidade técnica como escudo contra a responsabilidade civil.
Gostaria agora de tratar de alguns desafios que se impõem ao jurista em termos mais pragmáticos.
O primeiro é o desafio da qualificação jurídica. O Direito Civil ainda opera com categorias formadas antes da era digital: o contrato, o ato ilícito, o dano, a responsabilidade. Quando um algoritmo de precificação dinâmica cobra preços mais altos de consumidores identificados como vulneráveis, isso é abuso de posição dominante? Exploração do estado de necessidade? Violação à boa-fé objetiva? As categorias existem, no entanto, sua aplicação exige um esforço hermenêutico que ainda não foi inteiramente realizado pela jurisprudência brasileira.
O segundo é o desafio da reparabilidade do dano. O dano algorítmico tem natureza difusa, muitas vezes invisível à pessoa lesada, e seu nexo de causalidade é frequentemente opaco. Como provar que a negativa de um empréstimo decorreu de discriminação racial codificada em um modelo preditivo? Como quantificar o dano material e moral causado por um perfil de risco construído sem o conhecimento da pessoa titular dos dados?
O terceiro é o desafio da governança. No Brasil, a proteção de dados pessoais tem guarida constitucional – a EC nº 115/2022 alçou-a à categoria de direito fundamental. A <a href="https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm">Lei Geral de Proteção de Dados</a> estabelece o direito à revisão de decisões automatizadas, mas sua regulamentação pela Autoridade Nacional de Proteção de Dados permanece em construção. E o Congresso Nacional, esfera legítima para tanto, discute, neste momento, o Marco Regulatório da Inteligência Artificial.
Enquanto é construída a normativa primária, o Poder Judiciário brasileiro, em movimento pioneiro, tratou de estabelecer balizas mínimas para o emprego de ferramentas de IA na apreciação dos casos submetidos a julgamento.
A Resolução CNJ n. 615/2025 elencou os princípios da transparência, da auditabilidade, da prevenção, da precaução e da supervisão humana efetiva como vetores da interação ética entre o humano e a máquina na ambiência processual. Além disso, delimitou zonas de exclusão, proibindo ferramentas que não possibilitem a revisão humana, que valorem traços da personalidade para fins de avaliar a probabilidade de reiteração delitiva, ou que classifiquem pessoas com base em comportamento, situação social ou atributos de personalidade. Esses padrões mínimos de transparência e auditoria conferem bases para avançar sem malferir a dignidade humana e os direitos fundamentais.
Para avançarmos, três eixos de atuação se apresentam como indispensáveis.
O primeiro é o direito à autodeterminação informacional. Como advertiu Stefano Rodotà, a proteção da pessoa humana tornou-se inseparável da tutela dos dados pessoais e da autodeterminação informativa. Toda decisão que afete direitos subjetivos – acesso a crédito, emprego, saúde, benefícios sociais e à justiça – gerada ou mediada por sistemas automatizados deve ser acompanhada de explicação inteligível, suscetível de revisão e contestável. Este direito já se encontra previsto no art. 20 da LGPD e no direito ao contraditório. Precisamos consolidá-lo na esfera jurisprudencial e regulatória.
O segundo eixo é a função social dos bens digitais – algoritmos, plataformas, dados. A encíclica é explícita ao afirmar que estes estão sujeitos ao princípio da destinação universal dos bens. No plano jurídico, isso se traduz na possibilidade de reconhecer a função social do dado pessoal, impedindo que sua concentração sirva a fins contrários ao bem comum e à igualdade material.
O terceiro eixo é o diálogo institucional multidisciplinar. O Papa Leão XIV apresentou sua encíclica ao lado de Chris Olah, cofundador da Anthropic, em gesto simbólico de reconhecimento de que as fronteiras do conhecimento precisam ser atravessadas. A aproximação entre juristas, engenheiros de sistemas, cientistas de dados e filósofos é condição de legitimidade regulatória.
É nesse contexto de ‘colmeia digital’ que emerge uma pergunta decisiva para o tempo contemporâneo: qual é o custo de relativizar padrões éticos diante das revoluções tecnológicas do extraordinário avanço da inteligência artificial?
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
O tema da insolvência ilustra com precisão esse desafio. Quando algoritmos definem perfis de risco, recusam crédito ou precipitam a ruína econômica de empresas e indivíduos por meio de processos opacos e insuscetíveis de auditoria plena, a vulnerabilidade algorítmica converte-se em vulnerabilidade patrimonial e, muitas vezes, em exclusão irreversível. Governar a insolvência no século XXI exige, portanto, governar também os sistemas que a antecedem e a condicionam.
Durante séculos, a linguagem foi o instrumento por excelência da razão humana. Hoje, assistimos à sua desconstrução: em lugar da explicação, surge a predição; em lugar da causalidade, prevalece a correlação; em lugar da transparência, nasce a opacidade algorítmica. As redes neurais produzem resultados extraordinários, mas frequentemente não conseguem explicar os caminhos percorridos para alcançá-los. Perdemos, em muitos casos, a capacidade de auditar o risco e de compreender integralmente o percurso entre os dados de entrada e as conclusões apresentadas.
Nunca se reuniu tamanho volume de informações sobre a vida humana. Tudo pode ser convertido em dado, processado em escala industrial e transformado em inferências probabilísticas. É preciso, porém, afirmar com clareza: a inteligência artificial não possui consciência moral. Não distingue, por si mesma, o justo do injusto, o legítimo do ilegítimo. Quando a diferença entre o certo e o errado passa a ser apenas o resultado de uma pontuação, surge um dos maiores desafios do nosso tempo – e nenhuma arquitetura tecnológica pode substituir integralmente a responsabilidade humana.
A resposta não está na rejeição da inovação, mas na construção de uma governança robusta: com auditoria, transparência e mecanismos de responsabilização. É preciso impedir a automação irrefreada das decisões que afetam direitos fundamentais e assegurar que a tecnologia permaneça instrumento da liberdade, e não mecanismo de controle. O desafio da nossa geração não é apenas desenvolver inteligência artificial. É desenvolver inteligência institucional para governá-la. Porque a confiança é a infraestrutura invisível da democracia, e sem confiança, nenhuma tecnologia é verdadeiramente inteligente.
A Magnifica Humanitas propõe-nos ter coragem de "desarmar as palavras" para que possamos "desarmar a Terra". Permita-me uma releitura jurídica dessa frase: desarmar a vulnerabilidade algorítmica para desarmar a desigualdade material e restaurar a autoridade do Direito. As pessoas precisam querer e ter razões para confiar no sistema de justiça, e esta é uma fronteira em que o Direito é interpelado a se manifestar e a proteger.
Não se trata de demonizar a tecnologia. Trata-se de submetê-la à mesma exigência a que submetemos todos os instrumentos de poder: a exigência de justificação, de transparência, de responsabilidade civil e de respeito à dignidade irredutível de cada pessoa humana. As exigências para nossas atividades no mundo offline também devem ser observadas no mundo online.
Essa era a reflexão que queria lhes trazer.
* Este artigo é uma adaptação da palestra do presidente do STF proferida na Associação Henri Capitant

michael-dziedzic-aQYgUYwnCsM-unsplash

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

É preciso submeter a tecnologia à mesma exigência a que submetemos todos os instrumentos de poder

Vulnerabilidades algorítmicas e o Direito Civil Contemporâneo

É preciso submeter a tecnologia à mesma exigência a que submetemos todos os instrumentos de poder