Opinião e Análise

Experimente o JOTA PRO por 10 dias e decida com mais segurança.

Lucia Maria Teixeira Ferreira

O ano de 2023 representou um marco divisor no uso da tecnologia de <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial?non-beta=1">inteligência artificial</a> (IA) generativa em campanhas eleitorais no ambiente digital, especialmente no tocante à produção de conteúdos desinformativos e pouco transparentes para os eleitores.
Um relatório da Freedom House identificou 16 países em que foram utilizadas ferramentas de IA que geram imagens, textos ou áudios de forma a distorcer questões políticas ou sociais em campanhas político-eleitorais em diversos países.<a href="#_ftn1" name="_ftnref1">[1]</a>
Alguns casos tiveram grande repercussão na mídia, como nos EUA, em que foi lançado um vídeo totalmente gerado por inteligência artificial, encomendado pelo Partido Republicano, que mostrava um futuro distópico e trágico no eventual cenário de reeleição do presidente Joe Biden.<a href="#_ftn2" name="_ftnref2">[2]</a> Ainda no ano passado, na Argentina, uma deepfake mostrava o então candidato à presidência Sergio Massa cheirando cocaína, o que levantou diversas preocupações no tocante ao impacto do uso da IA nos cenários eleitorais.<a href="#_ftn3" name="_ftnref3">[3]</a>
Em 2024, mais de 2 bilhões de eleitores em 50 países irão às urnas, de acordo com o Center for American Progress.<a href="#_ftn4" name="_ftnref4">[4]</a> Neste ano, o Conselho Ministerial da Organização para a Cooperação e Desenvolvimento Econômico (OCDE) revisou os princípios históricos da OCDE sobre IA em resposta aos recentes desenvolvimentos nas tecnologias de IA, nomeadamente o surgimento da IA generativa.
Formuladas originalmente em 2019, as diretrizes da OCDE foram atualizadas para endereçar os impactos da IA generativa no mundo, visto que a organização teme que sistemas sejam usados para propagar notícias falsas, sobretudo em períodos de eleição.<a href="#_ftn5" name="_ftnref5">[5]</a> Uma outra iniciativa global importante foi um acordo firmado por 20 empresas líderes de tecnologia, durante a Conferência de Segurança de Munique, na Alemanha, para a otimização dos esforços para detecção e combate a fake news geradas por IA nos cenários político-eleitorais.<a href="#_ftn6" name="_ftnref6">[6]</a>
Atualmente, existe uma vasta gama de fenômenos que envolvem plataformas on-line e buscadores de pesquisa e dão origem a um risco acrescido para a integridade eleitoral: o já destacado uso de deepfakes e conteúdos gerados através de novas tecnologias, como a inteligência artificial generativa e outras ferramentas de IA; a propagação de conteúdos extremistas com a tentativa de radicalizar as pessoas; a proliferação de discursos ilegais de ódio online; as ameaças ligadas à manipulação e interferência de informação estrangeira (Foreign Information Manipulation and Interference - FIMI).
No Brasil, o Tribunal Superior Eleitoral (<a href="https://www.jota.info/tudo-sobre/TSE">TSE</a>) enfrentará grandes desafios relativos ao impacto da inteligência artificial nas eleições, tendo em vista que a popularização das ferramentas de IA generativa trouxe um risco ampliado de produção de conteúdos desinformativos no período eleitoral, tanto nos períodos de campanha quanto no chamado período de pré-campanha.
Nesse sentido, é fundamental a nova regulação do TSE para o uso da inteligência artificial na propaganda eleitoral, através da <a href="https://www.tse.jus.br/legislacao/compilada/res/2024/resolucao-no-23-732-de-27-de-fevereiro-de-2024">Resolução 23.732/2024</a> (que atualizou a Resolução TSE 23.610/2019).
Foram introduzidas importantes regras que se destinam a combater ao riscos sistêmicos no tocante à circulação de conteúdo político-eleitoral nos meios digitais, com o intuito de coibir a desinformação e a propagação de conteúdos falsos durante as eleições, com ênfase nas seguintes medidas: a proibição de deepfakes; a obrigação de rotulagem do uso de IA na propaganda eleitoral; a restrição do emprego de robôs (chatbots e avatares) para intermediar o contato com o eleitor (a campanha não pode simular diálogo com candidato ou qualquer outra pessoa); a responsabilização das Big Techs que não retirarem do ar, imediatamente, conteúdos com desinformação, discurso de ódio, ideologia nazista e fascista, além dos conteúdos antidemocráticos, racistas e homofóbicos. Deve-se destacar que se trata de uma regulação setorial editada pelo TSE, que visa ao enfrentamento dos desafios específicos do contexto político-eleitoral.
Entretanto, é necessária a edição de uma legislação mais adequada no tocante à responsabilização das plataformas digitais – que vinha sendo discutida através do <a href="https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2256735">PL 2630/2020</a> – e também da regulação geral da inteligência artificial no Brasil, que está sendo discutida no Senado através do marco civil da inteligência artificial.
No substitutivo apresentado pelo relator do PL 2338, senador Eduardo Gomes, são previstos dispositivos no tocante à integridade do processo democrático, como um sistema híbrido de supervisão, composto por um órgão coordenador e pelos reguladores setoriais, articulados no âmbito de um sistema de governança e regulação da IA (SIA).
No que se refere aos direitos políticos e eleitorais, serão considerados de alto risco sistemas que possam impactar negativamente o processo democrático e o pluralismo, como, por exemplo, através da disseminação de desinformação e de discursos que promovam o ódio ou a violência.
No âmbito da atuação do TSE, a criação do Centro Integrado de Enfrentamento à Desinformação e Defesa da Democracia e do Repositório de Enfrentamento à Desinformação Eleitoral, previsto no art. 9º-G do Resolução TSE 23.610/2019 (com a redação da Resolução 23.732/2024), são importantes ferramentas para a atuação do Tribunal no tocante ao seu poder de polícia. Além disso, para auxiliar no combate à desinformação no período eleitoral, seria interessante que o Tribunal desenvolvesse também uma cartilha de orientação nos moldes do disposto no art. Art. 57-J da Lei das Eleições, que prevê a formulação e a ampla divulgação – para os veículos, partidos e demais entidades interessadas – de regras de boas práticas relativas a campanhas eleitorais na internet.
Ademais, o Sistema de Alerta de Desinformação Eleitoral (SIADE), criado em 2022, permite a qualquer pessoa a denúncia de fatos notoriamente inverídicos ou descontextualizados com potencial para causar danos ao equilíbrio do pleito ou à integridade do processo eleitoral. Os alertas e denúncias são processados por uma equipe interna, que avalia o enquadramento do conteúdo alertado no escopo do programa e, em caso positivo, adiciona dados de contexto, como, por exemplo, matérias de checagem de fatos ou notas de esclarecimento oficiais que permitam evidenciar falsidades de conteúdo ou de contexto.
Em seguida, esses alertas são enviados às plataformas digitais para que sejam avaliadas eventuais violações dos seus termos de uso e para aplicação das medidas correspondentes. Caso haja, em tese, a prática de crimes ou ilícitos eleitorais de caráter administrativo, os alertas são também encaminhados às instâncias competentes.<a href="#_ftn7" name="_ftnref7">[7]</a>
No próximo artigo, serão abordadas as iniciativas regulatórias na União Europeia no tocante ao uso da IA nas campanhas eleitorais e a atuação da Comissão Europeia visando à mitigação do risco sistêmico e à preparação das plataformas digitais sob a égide do Digital Services Act (Lei dos Serviços Digitais) e do novo Regulamento sobre Transparência e Direcionamento da Propaganda Política, especialmente no contexto das próximas eleições para o Parlamento Europeu, que ocorrerão em junho de 2024.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> Freedom on the Net 2023. Disponível em: https://freedomhouse.org/sites/default/files/2023-10/Freedom-on-the-net-2023-DigitalBooklet.pdf.
<a href="#_ftnref2" name="_ftn2">[2]</a> IA e política: partido Republicano lança vídeo gerado por inteligência artificial contra reeleição de Joe Biden.  Disponível em: <a href="https://www.b9.com.br/161702/ia-e-politica-partidorepublicano-lanca-video-gerado-por-inteligencia-artificialcontra-reeleicao-de-joe-biden/">https://www.b9.com.br/161702/ia-e-politica-partidorepublicano-lanca-video-gerado-por-inteligencia-artificialcontra-reeleicao-de-joe-biden/</a>
<a href="#_ftnref3" name="_ftn3">[3]</a> Disponível em: <a href="https://g1.globo.com/fato-oufake/noticia/2023/11/17/e-fake-que-video-mostrecandidato-argentino-sergio-massa-cheirandococaina.ghtml">https://g1.globo.com/fato-oufake/noticia/2023/11/17/e-fake-que-video-mostrecandidato-argentino-sergio-massa-cheirandococaina.ghtml</a>.
<a href="#_ftnref4" name="_ftn4">[4]</a> Disponível em: https://www.americanprogress.org/article/protecting-democracy-online-in-2024-and-beyond/
<a href="#_ftnref5" name="_ftn5">[5]</a> Disponível em: https://telesintese.com.br/ocde-revisa-principios-de-ia com-foco-no-combate-a-desinformacao/
<a href="#_ftnref6" name="_ftn6">[6]</a> Disponível em: https://oglobo.globo.com/politica/noticia/2024/02/17/empresas-de-tecnologia-firmam-acordo-para-deteccao-e-combate-a-fake-news-geradas-por-ia-nas-eleicoes.ghtml?utm_source=aplicativoOGlobo&amp;utm_medium=aplicativo&amp;utm_campaign=compartilhar
<a href="#_ftnref7" name="_ftn7">[7]</a> Disponível em: https://www.tse.jus.br/eleicoes/sistema-de-alertas

53696981238_a9a17cb739_k

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Riscos sistêmicos e combate à desinformação

Inteligência artificial na propaganda político-eleitoral

No Brasil, TSE enfrentará grandes desafios relativos ao impacto da inteligência artificial nas eleições municipais deste ano