Opinião e Análise

Ilton Norberto Robl Filho

Lucia Maria Teixeira Ferreira

Queridas leitoras e estimados leitores, desejamos-lhes um ótimo 2026! Temos certeza que inúmeras serão as reflexões promovidas pela coluna do Observatório Constitucional no JOTA. Nosso objetivo neste primeiro texto do ano é analisar a sociedade algorítmica e os riscos promovidos pela algocracia.
Assiste-se, no curso de uma transformação vertiginosa, à transição da sociedade em rede para uma nova conformação estrutural, a que Jack Balkin denominou “sociedade algorítmica”.
<a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a>
Neste modelo de organização social, os processos decisórios de natureza social e econômica deixam progressivamente de se submeter a instâncias humanas tradicionais, passando a ser estruturados, mediados e, em larga medida, executados por algoritmos, robôs e agentes de inteligência artificial. Trata-se de uma sociedade cujos mecanismos de organização são informados por sistemas automatizados que, para além de tomarem decisões, frequentemente também as implementam, deslocando, assim, o locus do poder decisório e de sua materialização.<a href="#_edn1" name="_ednref1">[1]</a>
A sociedade algorítmica não se define apenas pela intensificação da coleta massiva, contínua e automatizada de dados pessoais — prática que inaugura inéditas formas de vigilância, manipulação comportamental, controle social e discriminação algorítmica, levadas a efeito tanto por atores estatais quanto por conglomerados econômicos privados.<a href="#_edn2" name="_ednref2">[2]</a>
Paradoxalmente, em múltiplos contextos, a implementação de tecnologias baseadas em inteligência artificial revela-se como condição de possibilidade para o exercício de prerrogativas essenciais da cidadania, o que agrava as tensões entre eficiência técnica e garantias democráticas.<a href="#_edn3" name="_ednref3">[3]</a>
É nesse horizonte que se insere a noção de “governamentalidade algorítmica”, concebida por Antoinette Rouvroy e Thomas Berns, expressão que descreve com precisão a centralização assimétrica de fluxos informacionais por parte de grandes plataformas tecnológicas, cuja atuação escapa, em larga medida, a mecanismos institucionais de controle público e accountability. <a href="#_edn4" name="_ednref4">[4]</a>
Considerando o crescente domínio dos espaços digitais por atores privados, dotados de elevada capacidade técnica para a coleta massiva, armazenamento e tratamento automatizado de dados pessoais, a intensificação do fluxo comunicacional na internet amplia possibilidades de violação aos direitos da personalidade.
Tais violações não se circunscrevem ao ambiente virtual, irradiando efeitos concretos sobre a esfera existencial dos indivíduos também no mundo físico, na medida em que o estado de hiperconectividade contemporânea dissolve, progressivamente, as fronteiras entre físico e o digital, ensejando aquilo a que se chamou de “onlife”, neologismo criado pelo filósofo italiano Luciano Floridi para ilustrar a integração, cada vez mais indissociável, do mundo online com o offline.<a href="#_edn5" name="_ednref5">[5]</a>
Nesse contexto, até mesmo direitos fundamentais à igualdade e à isonomia são submetidos a riscos concretos, uma vez que a aplicação de modelos estatísticos e classificatórios tende a perpetuar padrões de discriminação algorítmica, estereotipando grupos sociais historicamente vulnerabilizados.
Basta pensar que esses mecanismos, já incorporados por entes públicos e privados em processos decisórios automatizados — como os que regulam o acesso ao mercado de trabalho, à concessão de crédito, à educação ou a benefícios assistenciais — produzem impactos jurídicos e sociais profundos, o que exige um redesenho dos mecanismos jurídicos tradicionais de tutela dos direitos fundamentais à luz das novas potencialidades lesivas na era da inteligência artificial.<a href="#_edn6" name="_ednref6">[6]</a>
Na última década, ocorreu uma mobilização de atores estatais, entidades privadas e organizações da sociedade civil na tentativa de restabelecer um equilíbrio constitucional nos ambientes digitais. Essas reações traduzem um esforço normativo e institucional com o objetivo de consagrar um amplo catálogo de direitos fundamentais aplicáveis aos cidadãos da era eletrônica, abrangendo desde a edição de diplomas legislativos em sentido formal até a formulação de declarações por organismos intergovernamentais e a imposição de termos e condições de uso por plataformas digitais.<a href="#_edn7" name="_ednref7">[7]</a>
Mais do que respostas pontuais, tais iniciativas assumem caráter estrutural no âmbito do constitucionalismo contemporâneo, na medida em que representam mecanismos de projeção dos valores  constitucionais sobre a arquitetura dos sistemas de inteligência artificial, com vistas à afirmação de direitos políticos, à garantia de liberdades fundamentais e à imposição de limites materiais ao exercício do poder — público ou privado — no ciberespaço.
Nada obstante, é preciso ter claro que democratizar e constitucionalizar o algoritmo é um dos maiores desafios do constitucionalismo na era informacional. Tal dificuldade é significativamente agravada pela emergência do chamado “ciberpopulismo” ou populismo digital, fenômeno que tem assumido contornos particularmente insidiosos e transnacionais a partir da difusão acelerada de tecnologias digitais, notadamente das redes sociais e dos meios virtuais de comunicação em tempo real.<a href="#_edn8" name="_ednref8">[8]</a>
A compreensão dos algoritmos como elemento estrutural das sociedades contemporâneas impõe o reconhecimento de sua função crescente na organização da vida social e política. Nesse sentido, sustenta-se que os sistemas algorítmicos vêm progressivamente assumindo o papel de novas instituições,<a href="#_edn9" name="_ednref9">[9]</a> aptas a estruturar os quadros normativos e contextuais das interações sociais.
Tais sistemas operam, com frequência, sob lógicas opacas e tecnocráticas, instaurando formas de racionalidade que tendem à epistocracia digital — isto é, o governo dos especialistas e programadores — e ensejando novos dilemas de ordem democrática, ao mesmo tempo em que aprofundam os riscos de uma verdadeira “algocracia”.<a href="#_edn10" name="_ednref10">[10]</a>
A “algocracia”, nesse contexto, não se limita à automação de processos decisórios, mas se manifesta como forma difusa de controle social, fundada na vigilância contínua e na governança orientada por dados. Essa constatação remete, de modo particularmente atual, aos alertas formulados por Stefano Rodotà, quando apontava para os perigos da progressiva “desproteção” da esfera informacional dos indivíduos diante da ampliação silenciosa e persistente dos mecanismos de controle social viabilizados pelo tratamento automatizado de dados pessoais.<a href="#_edn11" name="_ednref11">[11]</a>
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
Os riscos associados à consolidação de uma “algocracia” tendem a se agravar na medida em que os códigos privados — cada vez mais complexos e ininteligíveis — passam a substituir normas públicas como instrumentos de regulação da vida social.<a href="#_edn12" name="_ednref12">[12]</a> Nesse novo paradigma, o exercício do poder se desloca paulatinamente das instituições políticas convencionais para as grandes corporações tecnológicas, que concentram não apenas infraestrutura informacional, mas também a capacidade efetiva de moldar comportamentos, condicionar escolhas e definir as condições de exercício das liberdades fundamentais.
A ameaça, nesse contexto, não decorre de atos estatais diretos, porém da privatização silenciosa de formas de autoridade, sustentadas por arquiteturas algorítmicas que escapam aos mecanismos tradicionais de responsabilização democrática e controle jurídico.
<hr />
<a href="#_ednref1" name="_edn1">[1]</a> BALKIN, Jack M. 2016 Sidley Austin distinguished lecture on big data law and policy: the three laws of robotics in the age of big data. Ohio State Law Journal, vol. 78, n. 5, 2017, p. 1219: “What do I mean by the Algorithmic Society? I mean a society organized around social and economic decision making by algorithms, robots, and AI agents; who not only make the decisions but also, in some cases, carry them out”.
<a href="#_ednref2" name="_edn2">[2]</a> BALKIN, Jack M. Free speech in the algorithmic society: big data, private governance, and new school speech regulation. UC Davis Law Review, vol. 51, p. 1149-1210, fev. 2018, passim. Disponível em: &lt;https://lawreview.law.ucdavis.edu/archives/51/3/free-speech-algorithmic-society-big-data-private-governance-and-new-school-speech&gt;. Acesso em: 19 mar. 2024.
<a href="#_ednref3" name="_edn3">[3]</a> FERREIRA, Lucia Maria Teixeira. A dimensão objetiva do direito fundamental à proteção de dados pessoais: perfilamento e microdirecionamento de propaganda político-eleitoral digital por provedores de aplicação de internet. Rio de Janeiro: Lumen Juris, 2025.
[3] MENDES, Gilmar Ferreira; FERNANDES, Victor Oliveira. Constitucionalismo digital e jurisdição constitucional: uma agenda de pesquisa para o caso brasileiro. Revista Brasileira de Direito, Passo Fundo, vol. 16, n. 1, p. 1-33, jan./abr., 2020, p. 7.
<a href="#_ednref4" name="_edn4">[4]</a> ROUVROY, Antoinette; BERNS, Thomas. Algorithmic governmentality and prospects of emancipation. Roseaux, Paris, vol. 177, n. 1, p. 163-196, 2013.
<a href="#_ednref5" name="_edn5">[5]</a> FLORIDI, Luciano (Org.). The onlife manifesto: being human in a hyperconnected era. Londres: Oxford Internet Institute, 2009, passim.
<a href="#_ednref6" name="_edn6">[6]</a> MENDES, Gilmar Ferreira; FERNANDES, Victor Oliveira. Constitucionalismo digital e jurisdição constitucional: uma agenda de pesquisa para o caso brasileiro. Revista Brasileira de Direito, Passo Fundo, vol. 16, n. 1, p. 1-33, jan./abr., 2020, p. 7.
<a href="#_ednref7" name="_edn7">[7]</a> MENDES, Gilmar Ferreira; FERNANDES, Victor Oliveira. Constitucionalismo digital e jurisdição constitucional: uma agenda de pesquisa para o caso brasileiro. Revista Brasileira de Direito, Passo Fundo, vol. 16, n. 1, p. 1-33, jan./abr., 2020, p. 7.
<a href="#_ednref8" name="_edn8">[8]</a> ROBL FILHO, Ilton Norberto; MARRAFON, Marco Aurélio; PANSIERI, Flávio. Constitucionalismo como salvaguarda do Estado de Direito: crítica ao (ciber) populismo autoritário e a necessária reengenharia constitucional. Revista do Instituto de Hermenêutica Jurídica, Belo Horizonte, vol. 18, n. 28, p. 135-154, jul./dez. 2020.
<a href="#_ednref9" name="_edn9">[9]</a> MENDONÇA, Ricardo Fabrino; FILGUEIRAS, Fernando; ALMEIDA, Virgilio. Algorithmic Institutionalism. Oxford: Oxford University Press, 2023, passim.
<a href="#_ednref10" name="_edn10">[10]</a> DANAHER, John. The threat of algocracy: reality, resistance, and accommodation. Philos. Technol., vol. 29, p. 245–268, 2016.
<a href="#_ednref11" name="_edn11">[11]</a> RODOTÀ, Stefano. Privacy, libertà, dignità. Discurso de encerramento proferido na 26ª Conferência Internacional sobre a Privacidade e a Proteção dos Dados Pessoais, em Wroclaw, Polônia, 16 de setembro de 2004: “Estamos assistindo a uma progressiva extensão das formas de controle social, motivadas sobretudo por razões de segurança. Trata-se de uma profunda mudança social. A vigilância passa de excepcional a quotidiana, das classes 'perigosas' à generalidade das pessoas, do interior dos Estados ao mundo global. A multidão não é mais 'solitária' e anônima: está nua. A digitalização das imagens e as técnicas de reconhecimento facial consentem extrair o indivíduo da massa, identificá-lo e segui-lo. O data mining, a incessante pesquisa de informações sobre o comportamento de qualquer pessoa, gera uma produção contínua de 'perfis' individuais, familiares, territoriais, de grupo. A vigilância não conhece fronteiras”.
<a href="#_ednref12" name="_edn12">[12]</a> SUSSKIND, Jamie. Future Politics. New York: Oxford University Press, 2020, p. 105, 110-116, 330.

algoritmos

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Algoritmos atuam como novas instituições, com lógicas opacas, gerando impactos jurídicos e sociais e enfrentando dilemas democráticos

A sociedade algorítmica ou os riscos da algocracia

Algoritmos atuam como novas instituições, com lógicas opacas, gerando impactos jurídicos e sociais e enfrentando dilemas democráticos