Opinião e Análise

Gabriel Campos Soares da Fonseca

João Gabriel Costa do Santos

<div class="p-pdf_iframe__page" aria-label="Página 1" data-page-number="1">
<div class="annotationLayer">
Como estimular o desenvolvimento de sistemas inovadores de <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> sem, contudo, deixar de enfrentar seus eventuais usos ilegítimos, que minam a livre formação da convicção dos eleitores? Como estruturar marcos normativos e políticas públicas capazes de proteger a higidez de processos eleitorais contra a amplificação de conteúdos sintéticos maliciosos (v.g. deepfakes) sem, todavia, restringir desproporcionalmente a liberdade de expressão de candidatos, partidos e eleitores? 
Tais questionamentos têm gerado disputas sociais fervorosas e debates políticos acalorados em diferentes democracias ocidentais. Não por acaso, no Dia Internacional da Democracia (15 de setembro), o secretário-geral da ONU destacou que a estipulação de diretrizes para governança da IA é o tema central deste ano para o fortalecimento e a preservação dos valores democráticos no plano internacional – sobretudo, tendo em vista que metade da população mundial participará de processos eleitorais em 2024.
<h3><a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias">Assine a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a></h3>
Esse cenário pode ser contextualizado com um exemplo recente: em 5 de agosto, representantes de cinco estados americanos – Minnesota, Pensilvânia, Washington, Michigan e Novo México – endereçaram uma carta ao empresário Elon Musk, exigindo que sua plataforma X, o antigo Twitter, corrigisse os erros verificados em seu chatbot de IA (o Grok), que estaria divulgando informações falsas sobre o pleito eleitoral. 
Segundo o documento, algumas horas após Joe Biden retirar sua candidatura, em julho deste ano, a ferramenta de IA passou a noticiar que o prazo para envio das cédulas estaria encerrado em nove estados, o que impediria a mudança dos candidatos listados para os cargos de presidente e vice-presidente.
Conforme asseverado na carta, “[e]mbora o Grok esteja disponível apenas para assinantes do X Premium e Premium+, e inclua um aviso requerendo que os usuários verifiquem as informações, a informação falsa sobre os prazos de votação foi capturada e compartilhada repetidamente em várias postagens – alcançando milhões de pessoas”.
O episódio ilustra alguns dos desafios apontados pelo secretário-geral da ONU, haja vista os potenciais riscos que as tecnologias de IA podem acarretar para as democracias. Isso exige, invariavelmente, a imposição de diretrizes, a fim de garantir sua adequada utilização no processo de escolha de representantes.
<h3>Diretrizes de governança da IA em eleições: transparência e accountability</h3>
O detalhamento de diretrizes sobre governança de sistemas de IA vai muito além do escopo deste breve texto. Em verdade, o presente ensaio pretende apenas refletir sobre três pontos que circundam essa vasta temática: (i) o papel das plataformas digitais na garantia da integridade eleitoral; (ii) as insuficiências da autorregulação nessa seara; (iii) a importância de a Justiça Eleitoral institucionalizar tais iniciativas.
Em primeiro lugar, é imprescindível debater o papel que as empresas responsáveis pelas plataformas digitais podem exercer em prol da proteção da integridade eleitoral no Brasil. De fato, a participação das plataformas nesse diálogo é crucial devido à sua expertise sobre o funcionamento dos próprios serviços que elas oferecem ao público.
Assim, ao menos em tese, sua atuação pode ser mais célere e eficiente, por meio de soluções negociais e/ou tecnológicas para avaliar riscos e gerenciar crises. Outra possibilidade é o desenvolvimento de estratégias autorregulatórias a fim de mitigar danos decorrentes de eventuais usos indevidos de IA em disputas eleitorais por meio de seus serviços. 
Basta ler os "memorandos de entendimento" firmados entre o Tribunal Superior Eleitoral (<a href="https://www.jota.info/tudo-sobre/TSE">TSE</a>) e algumas das principais plataformas digitais para verificar ilustrações desse potencial autorregulatório.
Por exemplo, (1) a disponibilização de Bibliotecas de Anúncios pode conferir maior transparência aos gastos, ao alcance e às entidades que financiaram anúncios relativos a questões sociais, políticas e eleitorais nas plataformas; (2) o oferecimento de Canais de Denúncia pode facilitar a comunicação entre usuários, plataforma e Justiça Eleitoral sobre conteúdos e/ou contas que estejam potencialmente desrespeitando as normas sobre uso de IA para fins de propaganda eleitoral; e (3) o fornecimento de ferramentas de amplificação de informações veiculadas por perfis oficiais da Justiça Eleitoral pode ser um mecanismo essencial ao enfrentamento da disseminação de conteúdos manipulados, como deepfakes etc.
Contudo, a autorregulação – por si só – tem se mostrado insuficiente diante dos desafios relacionados (i) ao tratamento massivo de dados pessoais mediante ferramentas de marketing político digital (v.g., microtargeting) e (ii) ao uso indevido de aplicações de IA para amplificar conteúdos sintéticos inautênticos, potencialmente, em tempo real e em larga escala. 
E mais: a literatura acadêmica vem criticando a falta de transparência tanto (i) na definição das diretrizes normativas que guiam a atividade de moderação de conteúdos e de comportamentos nos serviços, quanto (ii) na sua aplicação concreta por meio de moderadores humanos, usuários e aplicações de inteligência artificial, bem como (iii) na programação de seus sistemas de recomendação de conteúdo. Discussões essas que têm ganhado novos contornos diante da proliferação de grandes modelos de linguagem (LLM – Large Language Models) e do uso de IAs generativas por essas empresas.  
Por consequência, em segundo lugar, é relevante propor arranjos institucionais que confiram maior supervisão social (oversight) à governança do conteúdo que transita nesses espaços privados online.
Em conjunto com a atividade autorregulatória de moderação de conteúdos, é importante permitir que organizações da sociedade civil, especialistas e usuários possam compreender melhor tal processo – por exemplo – mediante relatórios periódicos de prestação de contas. Em complemento, seria positivo proporcionar condições concretas para que esses atores sociais participem mais ativamente desse processo, a fim de aperfeiçoá-lo como um todo (accountability, explainability, observability). 
Nesse ponto, em terceiro lugar, órgãos estatais – como a Justiça Eleitoral e o próprio Congresso Nacional – também podem exercer um papel fundamental: o de institucionalizar iniciativas voltadas à transparência e ao accountability dos sistemas de IA.
Por meio de acordos de cooperação e códigos de conduta facultativos ou a partir de resoluções normativas, consultas ou decisões judiciais, é possível: (a) prever auditorias independentes periódicas nas aplicações dos sistemas de IA utilizados, conduzidas por especialistas responsáveis pela identificação dos riscos eleitorais envolvidos; (b) permitir a atuação de agências de checagem e de sinalizadores de confiança (trusted flaggers) para auxiliar na fiscalização de usos irregulares das aplicações de IA durante o pleito, entre outros tantos exemplos.   
<h3>Eleições municipais de 2024: uma janela de oportunidade para o Brasil?</h3>
Em síntese, nenhuma das diretrizes mencionadas é isenta de falhas ou críticas, tampouco será capaz de solucionar todos os problemas em torno do tema. É preciso admitir “um arco de experimentação” na formulação de políticas públicas, na elaboração de normas e na implementação de estratégias regulatórias voltadas aos efeitos sociais e políticos da interação entre eleitores, candidatos, partidos e sistemas de IA, cujas potencialidades ainda são incertas e os riscos difíceis de prever. 
Nessa linha, as eleições municipais de 2024 podem representar uma janela de oportunidade e de aprendizado para o país. Primeiro, porque podem auxiliar no aperfeiçoamento das iniciativas de cooperação interinstitucional em favor da integridade eleitoral (v.g., Justiça Eleitoral, Ministério Público, Cade, Anatel, ANPD). 
Segundo, pois podem catalisar a tão almejada "sinergia para o futuro", isto é, fomentar a necessária tarefa de desenvolver marcos normativos proporcionais e desenhos regulatórios eficientes sobre a governança de IA no Brasil. Isso, inclusive, a partir da experiência do TSE com a aplicação da <a href="https://www.tse.jus.br/legislacao/compilada/res/2019/resolucao-no-23-610-de-18-de-dezembro-de-2019">Resolução 23.610/2019</a> revisitada pela <a href="https://www.tse.jus.br/legislacao/compilada/res/2024/resolucao-no-23-732-de-27-de-fevereiro-de-2024">Resolução 23.732/2024</a>. 
Portanto, é hora de resgatar o pioneirismo brasileiro na construção multissetorial da “arquitetura normativa para a sociedade da informação”. Mais especificamente, é hora de debater sobre como estruturar arcabouços normativo-institucionais capazes de conciliar: (a) o incentivo à inovação tecnológica na comunicação política brasileira com (b) a proteção de direitos fundamentais e da integridade democrática durante processos eleitorais no país.
<hr />
[1] ONU. ONU alerta para desafios da democracia e impacto da inteligência artificial nas eleições de 2024. Disponível em: <a href="https://news.un.org/pt/story/2024/09/1837516">https://news.un.org/pt/story/2024/09/1837516</a>. Acesso em: 17 set. 2024.
[2] ESTADOS UNIDOS. Office of the Minnesota Secretary of State Steve Simon. Secretaries Letter to X. Disponível em: <a href="https://www.sos.state.mn.us/media/6077/080524-secretaries-letter-to-x.pdf">https://www.sos.state.mn.us/media/6077/080524-secretaries-letter-to-x.pdf</a>. Acesso em: 10 set. 2024. 
[3] TAVARES, André Ramos. A Nova Matrix: Direito (re)programado na civilização plataformizada. São Paulo: Etheria Editora, 2024, p. 203. MENDES, Gilmar Ferreira; FERNANDES, Victor Oliveira. Eficácia dos direitos fundamentais nas relações privadas da internet: o dilema da moderação de conteúdo em redes sociais na perspectiva comparada Brasil-Alemanha. Revista de Direito Civil Contemporâneo, vol. 31, ano 9, p. 33-68. São Paulo: Ed. RT, abr./jun., 2022.
[4] BRASIL, Tribunal Superior Eleitoral. Acordos com plataformas digitais para combater mentiras nas Eleições 2024. Disponível em: <a href="https://www.tse.jus.br/comunicacao/noticias/2024/Agosto/confira-a-integra-dos-acordos-com-plataformas-digitais-para-combater-mentiras-nas-eleicoes-2024-1">https://www.tse.jus.br/comunicacao/noticias/2024/Agosto/confira-a-integra-dos-acordos-com-plataformas-digitais-para-combater-mentiras-nas-eleicoes-2024-1</a> Acesso em: 17 set. 2024.
[5] CRUZ, Francisco Brito. Inteligência artificial e internet: um olhar sobre o conteúdo de usuários e a sua moderação. Revista USP, São Paulo, n. 141, p. 65-80, abril/maio/junho 2024. 
[6] Cf. KETTEMANN, Matthias C.; SCHULZ, Wolfgang. (eds). Platform://Democracy: perspectives on platform power, public values and the potential of social media councils. Hamburg: Verlag Hans-Bredow-Institut, 2023. RIEDER, Bernhard; HOFMANN, Jeanette. Towards platform observability. Internet Policy Review, v. 9, issue 4, p. 1-28, 2020. 
[7] BRASIL, Supremo Tribunal Federal. Ref. MC ADI 7261/DF. Rel. Min. Edson Fachin, PLENÁRIO, j. 26/10/2022. Disponível em: <a href="https://portal.stf.jus.br/processos/downloadPeca.asp?id=15354886544&amp;ext=.pdf">https://portal.stf.jus.br/processos/downloadPeca.asp?id=15354886544&amp;ext=.pdf</a> Acesso em 17 set. 2024. 
[8] SARLET, Gabrielle Bezerra Sales; SARLET, Ingo Wolfgang. Sinergia para o futuro:  PBIA, PL 2338 e a regulação da IA no Brasil. JOTA, 07/08/2024. Disponível em: <a href="https://www.jota.info/opiniao-e-analise/colunas/ia-regulacao-democracia/sinergia-para-o-futuro-pbia-pl-2338-e-a-regulacao-da-ia-no-brasil">https://www.jota.info/opiniao-e-analise/colunas/ia-regulacao-democracia/sinergia-para-o-futuro-pbia-pl-2338-e-a-regulacao-da-ia-no-brasil</a> Acesso em 17 set. 2024.
[9] MENDES, Laura Schertel; JUNQUILHO, Tainá Aguiar. Inteligência artificial, democracia e esfera pública. JOTA, 22/11/2023. Disponível em: <a href="https://www.jota.info/opiniao-e-analise/colunas/ia-regulacao-democracia/inteligencia-artificial-democracia-e-esfera-publica#_ftn5">https://www.jota.info/opiniao-e-analise/colunas/ia-regulacao-democracia/inteligencia-artificial-democracia-e-esfera-publica#_ftn5</a> Acesso em 17 set. 2024.
[10] KELLER, Clara Iglesias; MENDES, Laura Schertel; FERNANDES, Victor. Moderação de conteúdo em plataformas digitais: caminhos para a regulação no Brasil. Cadernos Adenauer, v. XXIV, nº 1, 2023.
</div>
</div>

urna eletrônica – agência brasil

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Pleito municipal pode fomentar desenvolvimento de desenhos regulatórios eficientes sobre governança da IA

Inteligência artificial e eleições: desafios e oportunidades para o Brasil

No arco da experimentação, eleições 2024 podem representar janela de oportunidade para o Brasil na regulação da inteligência artificial