Rafael Arruda

Em <a href="https://www.jota.info/eleicoes/uso-de-ia-para-difamar-opositores-ou-processo-eleitoral-levara-a-cassacao-decide-tse-27022024">resolução recentemente aprovada</a>, o Tribunal Superior Eleitoral (<a href="https://www.jota.info/tudo-sobre/tse">TSE</a>) pretende regular o uso da <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> em propagandas eleitorais. A medida é salutar e é decorrência direta desses novos tempos altamente tecnológicos. Dentre as restrições anunciadas, está a vedação absoluta do uso de deepfake na propaganda eleitoral. A resolução normativa prevê ainda etiquetagem e limitação no uso de chatbots e avatares para intermediar a comunicação das campanhas.
Para a realidade brasileira, não é nenhuma novidade que um órgão do Judiciário, como o TSE, lance mão de instrumentos regulatórios e de polícia administrativa para conter desvios nos processos eleitorais que a cada dois anos têm lugar. Cuida-se de esforço para que a suposta democracia digital nas redes e plataformas não degenere o debate público. Sem regulação, a e-democracy fica comprometida, como, em outra ocasião, este autor já teve a ocasião de assentar<a href="#_ftn1" name="_ftnref1">[1]</a>. Ou seja, trata-se de preservar alguma racionalidade do discurso, para que a crise da verdade não estremeça a crença nos próprios fatos, sobretudo quando ferramentas tecnológicas podem adulterar ou fabricar áudios, imagens e vídeos.
Para Maria Rita Kehl, a relação da crença com a verdade é ambígua, porque o mais redondo engano, transmitido de maneira consistente entre os membros de um grupo, é capaz de criar ou modificar a realidade social. Segundo a psicanalista, “(…) as lendas mais inverossímeis conquistam, pelo menos no momento em que são narradas, a credulidade daquele que escuta ou lê. A teia de palavras envolve o leitor não tanto pela veracidade do que é contado, mas pela verossimilhança de sua estrutura interna”<a href="#_ftn2" name="_ftnref2">[2]</a>. É precisamente o que pode promover a inteligência artificial, quando em causa se encontram materiais em fotos, áudios e vídeos: no limite entre o real e o verossimilhante, o verdadeiro e o falso, o eleitor pode ser enganado e manipulado.
São, portanto, novos dilemas do Estado constitucional contemporâneo que emergem da era digital. Por meio da inteligência artificial, do big data e da algoritmização, o digital apresenta uma nova ordem de conhecimento, com efeitos de longo alcance sobre o mundo da vida das pessoas<a href="#_ftn3" name="_ftnref3">[3]</a>, para as sociedades e a democracia, a exigir mobilização e atuação do Poder Público. O Judiciário, porém, não pode e não deve ser o único guardião da democracia digital nas redes e plataformas, em razão dos muitos labirintos circunstanciais com que se depara o direito.
Como bem observa o filósofo sul-coreano Byung Chul Han, a democracia está em perigo onde quer que cidadãos interajam com robôs de opinião, se deixando manipular por eles, onde quer que operadores, cuja procedência e motivos são completamente ocultos, interfiram e se intrometam nos debates políticos: no limite, algoritmos inteligentes podem tomar o lugar do discurso<a href="#_ftn4" name="_ftnref4">[4]</a>, pelo que, diante de conteúdo fabricado ou manipulado de fatos sabidamente inverídicos ou gravemente descontextualizados, podem causar danos ao equilíbrio do pleito ou à integridade do processo eleitoral.
É assim, portanto, que os desafios do digital confrontam valores constitucionais, tais como democracia e direitos fundamentais, razões essas mais que suficientes para que o direito e o poder político deem conta da problemática. Não por acaso, como anotam Gilmar Mendes e Victor Fernandes, iniciativas políticas e jurídicas voltadas à articulação de direitos, normas de governança e regras de limitação do poder na internet têm assumido centralidade, como objeto de pesquisa do Direito Constitucional contemporâneo<a href="#_ftn5" name="_ftnref5">[5]</a>. Só o direito, porém, não dá conta da vicissitude, muito menos o Direito Eleitoral.
Há uma tendencial insuficiência do direito estatal para a regulação em ambientes globalizados, complexos e marcados pela incerteza do conhecimento<a href="#_ftn6" name="_ftnref6">[6]</a>. A regulação puramente estatal não é capaz de atender às demandas por conhecimento técnico específico, flexibilidade regulatória e monitoramento contínuo, os quais se impõem sobre a regulação de plataformas digitais. Tampouco a fiscalização pelo Judiciário consegue domar o algoritmo, pelo risco, como aponta Luna Barroso, de decisões contraditórias e pela falta de capacidade institucional para analisar as restrições técnicas do setor<a href="#_ftn7" name="_ftnref7">[7]</a>.
Segundo Cary Coglianese, não importa quais instituições assumam a responsabilidade pela regulação algorítmica, porque a heterogeneidade será marca sempre presente. Mesmo dentro de um setor específico e relativo a casos idênticos, a heterogeneidade permanecerá, porque os próprios algoritmos e os dados de que se servem variam muito. Donde, portanto, ser impossível especificar um modelo organizado e de tamanho único<a href="#_ftn8" name="_ftnref8">[8]</a>. A regulação, portanto, levada a cabo pelo Judiciário eleitoral é – e deve ser – apenas mais uma no contexto de um poliedro regulatório que é amplíssimo.
De forma mais abrangente, em matéria de inteligência artificial, o Projeto de Lei do Senado nº 2338/2023 busca estabelecer normas gerais, de caráter nacional, para o desenvolvimento, a implementação e o uso responsável de sistemas de inteligência artificial, com o objetivo de proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis, em benefício da pessoa humana, do regime democrático e do desenvolvimento científico e tecnológico. Há uma constatação perceptível a várias latitudes: inteligência artificial requer supervisão pública séria.
Mas não é só. A regulação da inteligência artificial é desafiadora porque requer conhecimento sofisticado para impor medidas de transparência, gestão de dados, realização de testes para avaliação de níveis apropriados de confiabilidade, incluindo robustez, acurácia, precisão e cobertura. E, sobretudo, adoção de medidas técnicas para viabilizar a explicabilidade dos resultados dos sistemas de inteligência artificial, com informações gerais sobre o seu funcionamento, a sua lógica e os seus critérios relevantes para a produção de resultados. Daí, como anota Coglianese, não ser realista esperar que qualquer regulador único possa regular suficientemente todos os aspectos problemáticos inerentes ao funcionamento da inteligência artificial<a href="#_ftn9" name="_ftnref9">[9]</a>. A heterogeneidade, portanto, parece ser o “caminho” para a “verdade”.
Para regular com agilidade, os reguladores deverão ser ativos e adaptativos. Não havendo a “regra certa”, o trabalho a ser desenvolvido pelas autoridades da regulação é incremental e constantemente provisório: “(…) when the world that regulators seek to regulate keeps changing, the last thing regulators can do is remain static”<a href="#_ftn10" name="_ftnref10">[10]</a>.
É bem verdade que o estabelecimento de comandos rígidos e gerais não se conformam bem em um mundo de digitalização altamente variada e em rápida evolução. A presença de certos buracos negros ou cinzas<a href="#_ftn11" name="_ftnref11">[11]</a> em matéria de legalidade e regulação administrativa se liga à incapacidade de o Estado formular regras precisas que se apliquem à vasta diversidade de situações. Se é certo que não há salvação fora do digital, não menos certo é reconhecer que a heterogeneidade de instrumentos deve ser a chave para a regulação do uso da inteligência artificial, em especial nas eleições, cuja atuação pública, porém, dadas as inerentes contingências, sempre haverá de estar situada entre a necessidade e a insuficiência.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> OLIVEIRA, Rafael Arruda. A política, as enquetes em redes sociais e os algoritmos: o extraordinário mundo da realidade falseada. Disponível em <a href="https://www.jota.info/opiniao-e-analise/artigos/a-politica-as-enquetes-em-redes-sociais-e-os-algoritmos-28052023">https://www.jota.info/opiniao-e-analise/artigos/a-politica-as-enquetes-em-redes-sociais-e-os-algoritmos-28052023</a>. Acesso em 27/2/2024.
<a href="#_ftnref2" name="_ftn2">[2]</a> KEHL, Maria Rita. Crença na palavra, aposta no sujeito in. A invenção das crenças. Org.: NOVAES, Adauto. São Paulo: SESC, 2011, p. 249-250.
<a href="#_ftnref3" name="_ftn3">[3]</a> O que, nas palavras de Thomas Vesting, faz com que a estrutura institucional das plataformas, estruturas de dados, algoritmos ou aprendizagem de máquinas, se torne um fenômeno de longo alcance que não apenas muda a geração de conhecimento, mas possivelmente também a compreensão atual sobre economia política e mercados comerciais (VESTING, Thomas, em nota de apresentação à obra de CAMPOS, Ricardo. Metamorfoses do Direito Global: sobre a interação entre direito, tempo e tecnologia. São Paulo: Contracorrente, 2022, p. 31).
<a href="#_ftnref4" name="_ftn4">[4]</a> HAN, Byung-Chul. Infocracia: digitalização e a crise da democracia. Tradução de Gabriel S. Philipson. Petrópolis: Vozes, 2022, p. 43.
<a href="#_ftnref5" name="_ftn5">[5]</a> MENDES, Gilmar Ferreira; FERNANDES, Victor Oliveira. Constitucionalismo digital e jurisdição constitucional: uma agenda de pesquisa para o caso brasileiro in. Revista Brasileira de Direito, vol. 16, nº 1, Jan./Abr. 2020, Passo Fundo, p. 3. Disponível em <a href="https://seer.upf.br/index.php/rjd/article/view/11038">https://seer.upf.br/index.php/rjd/article/view/11038</a>. Acesso em 27/2/2024.
<a href="#_ftnref6" name="_ftn6">[6]</a> PEREIRA, Jane Reis Gonçalves; KELLER, Clara Iglesias. Constitucionalismo Digital: contradições de um conceito impreciso in. Revista Direito e Praxis, vol. 13, nº 3, 2022, Rio de Janeiro, p. 2663. Disponível em <a href="https://www.e-publicacoes.uerj.br/index.php/revistaceaju/article/view/70887">https://www.e-publicacoes.uerj.br/index.php/revistaceaju/article/view/70887</a>. Acesso em 27/2/2024.
<a href="#_ftnref7" name="_ftn7">[7]</a> BARROSO, Luna van Brussel. Liberdade de expressão e democracia na Era Digital: o impacto das mídias sociais no mundo contemporâneo. Belo Horizonte: Fórum, 2022, p. 235.
<a href="#_ftnref8" name="_ftn8">[8]</a> COGLIANESE, Cary. Regulating Machine Learning: the challenge of heterogeneity in. U of Penn Law School, Public Law Reserarch Paper n. 23-06, Feb 2023. Disponível em <a href="https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4368604">https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4368604</a>. Acesso em 28/2/2024.
<a href="#_ftnref9" name="_ftn9">[9]</a> COGLIANESE, Cary. Regulating Machine Learning: the challenge of heterogeneity in. U of Penn Law School, Public Law Reserarch Paper n. 23-06, Feb 2023. Disponível em <a href="https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4368604">https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4368604</a>. Acesso em 28/2/2024.
<a href="#_ftnref10" name="_ftn10">[10]</a> Em tradução livre: “(…) Quando o mundo que os reguladores procuram regular continua mudando, a última coisa que os reguladores podem fazer é permanecerem estáticos” (COGLIANESE, Cary. Regulating Machine Learning: the challenge of heterogeneity in. U of Penn Law School, Public Law Reserarch Paper n. 23-06, Feb 2023. Disponível em <a href="https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4368604">https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4368604</a>. Acesso em 28/2/2024).
<a href="#_ftnref11" name="_ftn11">[11]</a> Sobre a existência de buracos negros e cinzas no Estado administrativo, em contexto aplicável em situações de emergência, vale conferir o texto de VERMEULE, Adrian. Our Schmittian Administrative Law in. Harvard Law Review 1095, v. 122, Feb. 2009. Disponível em <a href="https://harvardlawreview.org/print/vol-122/our-schmittian-administrative-law/#:~:text=Our administrative law contains%2C built,the executive from legal constraints">https://harvardlawreview.org/print/vol-122/our-schmittian-administrative-law/#:~:text=Our%20administrative%20law%20contains%2C%20built,the%20executive%20from%20legal%20constraints</a>. Acesso em 28/2/2024.

Prédio do Tribunal Superior Eleitoral (TSE).

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Entre a necessidade, a insuficiência e a heterogeneidade

TSE e regulação da IA na propaganda eleitoral

Em resolução recentemente aprovada, o Tribunal Superior Eleitoral (TSE) pretende regular o uso da inteligência artificial em propagandas eleitorais