Opinião e Análise

Ana Frazão

No mês passado, eu e a professora Caitlin Mulholland dedicamos o episódio 58 do podcast Direito Digital<a href="#_ftn1" name="_ftnref1">[1]</a> para tratar dos problemas decorrentes do uso de <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> nas eleições, com especial enfoque para a questão dos influenciadores políticos sintéticos, ou seja, avatares ou criações de inteligência artificial que não existem no mundo real.
Tais influenciadores são também chamados de synthfakes, uma vez que, ao contrário das deepfakes, não têm por substrato nenhuma pessoa humana real: rosto, voz, pensamentos e todos os demais aspectos da “identidade” são sintéticos. Entretanto, tais influenciadores apresentam-se nas redes sociais como verdadeiros cidadãos, ocupando o espaço público, apresentando suas demandas e indignações, conduzindo o debate político e tentando convencer os eleitores de carne e osso.
<a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a>
Os desafios decorrentes desse cenário aumentam com o fato de que a atual regulamentação eleitoral não endereça adequadamente o problema, o que vem gerando dúvidas e controvérsias sobre se e em que medida esses influenciadores sintéticos podem se manifestar politicamente e tentar interferir no debate eleitoral.
Com efeito, por meio das Resoluções 23.748 e 23.755, o Tribunal Superior Eleitoral aprovou, em março deste ano, alterações na antiga Resolução 23.610, de 2019, que apresentam importantes regras para conter os abusos de utilização de inteligência artificial no processo eleitoral.
Dentre os principais comandos, podem ser destacados a proibição de deepfakes em propaganda eleitoral, a obrigação de rotulagem de qualquer conteúdo gerado ou alterado por inteligência artificial, a vedação de algoritmos que priorizem candidatos ou partidos e a proibição de publicação e impulsionamento de conteúdos sintéticos no período que vai de 72 horas antes das eleições até 24 horas depois.
Verdade seja dita que muitas dessas regras não estão sendo observadas, como já tive oportunidade de abordar em coluna anterior<a href="#_ftn2" name="_ftnref2">[2]</a>. Entretanto, para além disso, preocupa a existência de certa lacuna sobre a atuação dos synthfakes ou dos influenciadores digitais artificiais.
É fato que o § 3º-A, do art. 9º, da Resolução, prevê que “ficam vedadas a publicação e a republicação, ainda que gratuitas, bem como o impulsionamento pago de novos conteúdos sintéticos produzidos ou alterados por inteligência artificial ou por tecnologias equivalentes que utilizem imagem, voz ou manifestação de candidata ou candidato ou de pessoa pública, mesmo que rotulados e em conformidade com as demais exigências deste artigo, no período compreendido entre as 72 horas que antecedem e as 24 horas que sucedem o término do pleito” (incluído pela Resolução 23.755/2026).
Trata-se de regra que cria uma janela de vedação de utilização de inteligência artificial baseada em imagem, voz ou manifestação de candidatos ou pessoas públicas. Todavia, aqui não se está a falar dos influenciadores digitais sintéticos, mas sim das deepfakes, problema que, além das repercussões eleitorais, tem também importantes desdobramentos na esfera privada.
Ora, havendo indevida apropriação de elementos de identidade de pessoa real, viva ou morta, a prática descrita, para além do ilícito eleitoral, também configura o chamado roubo ou furto de identidade, tema sobre o qual eu já me pronunciei em coluna anterior<a href="#_ftn3" name="_ftnref3">[3]</a>.
Já o art. 9º-C determina que “é vedada a utilização, na propaganda eleitoral, qualquer que seja sua forma ou modalidade, de conteúdo fabricado ou manipulado para difundir fatos notoriamente inverídicos ou descontextualizados com potencial para causar danos ao equilíbrio do pleito ou à integridade do processo eleitoral” acrescentando o § 1º que “é proibido o uso, para prejudicar ou para favorecer candidatura, de conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia (deep fake)” (ambos incluídos pela Resolução 23.732/2024).
Como se pode observar, o foco de preocupações do TSE é essencialmente com as deep fakes, em que se reproduz elementos de identidade de pessoas já existentes. Por mais que se faça referência também a pessoas fictícias, a ideia do mencionado § 1º é evitar a utilização indevida de elementos pessoais já existentes.
Não é o que acontece com as synthfakes, que são criadas de forma plenamente original, sem qualquer referência à pessoa pré-existente. Daí por que resta saber se tal situação pode se encaixar na vedação de fatos notoriamente inverídicos ou descontextualizados, para fins de se entender a prática como ilícita.
Independentemente do alcance da regulamentação do TSE, a questão dos influenciadores políticos sintéticos precisa ser enfrentada com urgência e cuidado, uma vez que a mera presença desses sujeitos artificiais no debate político pode gerar uma série de distorções.
Com efeito, a primeira questão a ser equacionada é determinar quem pode participar do debate político e como. Tal tema não é novo e se confunde com as próprias discussões sobre cidadania. Por essa razão, encontra-se presente em diversos temas relacionados, como o de financiamento de campanhas eleitorais por pessoas jurídicas.
Um argumento poderoso contra o financiamento é o de que as pessoas jurídicas, por não titularizarem a cidadania, não podem participar diretamente do processo democrático.
Obviamente, a cidadania política das pessoas jurídicas não é tema banal e nem se esgota com a proibição do financiamento de campanhas eleitorais. Em que pese a ausência de cidadania por parte de tais entes, é frequente que interfiram nos debates eleitorais, seja por meio de manifestações políticas de CEOs e representantes de pessoas jurídicas, seja por tentativas de interferência direta no processo eleitoral, como ocorre nos casos de assédio eleitoral contra empregados.
A situação dos influenciadores digitais sintéticos suscita preocupações equivalentes, no sentido de se questionar por qual razão seres que, por diversas razões – inclusive a de não existirem na vida real e, consequentemente, nem serem cidadãos nem eleitores –poderiam participar do processo eleitoral diretamente por meio de manifestações políticas em redes sociais.
Afinal, se hoje o fluxo informacional da internet é disfuncional - não prezando pela qualidade e em muitos casos pretendendo muito mais enganar e manipular do que propriamente convencer com base em argumentos racionais e baseados em fatos – a presença dos influenciadores políticos sintéticos agrava ainda mais o problema, podendo gerar graves danos à democracia.
Mais do que isso, a presença ilimitada desses entes ainda pode implicar violações à regra constitucional que veda o anonimato – o que pode acontecer quando o avatar se torna uma longa manus de uma pessoa real de carne e osso que dele se utiliza para falar o que bem quer sem ter que assumir qualquer responsabilidade – ou propaganda enganosa ou indevida, a depender do conteúdo da manifestação, sem os devidos instrumentos de responsabilização.
Mesmo quando o avatar se apresenta como tal e há transparência quanto à pessoa real que dele se utiliza, ainda assim o debate público qualificado pode ficar comprometido.
Uma primeira razão é que quem se utiliza de um avatar obviamente se manifesta no espaço público sem os mesmos cuidados e responsabilidades que teria se tivesse que o fazer com sua própria identidade.
Em segundo lugar, porque já se sabe que pessoas tendem a confiar mais em sistemas de inteligência artificial quando estes assumem a forma humana. Certamente é muito mais fácil persuadir ou manipular um eleitor real com algo que parece humano.
Em terceiro lugar, porque muitos dos destinatários daqueles conteúdos não necessariamente saberão ou terão condições de saber que se trata de um avatar. Tal risco é particularmente grave em países como o Brasil, com tantas desigualdades, problemas de educação e déficit de cidadania digital. Logo, o debate político passa a ser travado em um ambiente informacional obscuro, sem transparência e muito propício à manipulação.
Em quarto lugar, porque a democracia está baseada na regra de que cada cabeça tem um voto, o que nos remete a uma certa paridade de armas no processo eleitoral que, sob vários aspectos, deveria estar presente também no direito de manifestação política. Entretanto, se a criação de avatares é livre, um mesmo eleitor pode ter vários avatares, com diferentes perfis e, com isso, conseguir uma vantagem comparativa no debate público que outros eleitores não teriam.
Por fim, ainda é possível que esses avatares sejam instrumentalizados por pessoas jurídicas que também não titularizam cidadania, criando uma dupla distorção do debate público, em que um “não cidadão” se utiliza de outro “não cidadão” para tentar influenciar os demais eleitores. E, o que é pior: esse segundo “não cidadão” é visto como cidadão ou pelo menos parece ou tenta convencer os outros de que o é.
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
A consequência do cenário descrito é, além da existência de mais uma estratégia para implementar facilmente o mercado da desinformação<a href="#_ftn4" name="_ftnref4">[4]</a>, a completa artificialização e adulteração da esfera pública, o que se torna ainda mais deletério quando se trata da discussão política imprescindível para as democracias.
Dessa maneira, há boas razões para se sustentar que a própria existência desses seres deveria ser banida. Afinal, precisamos reservar o exercício da cidadania para os cidadãos reais, evitando que, por meio de subterfúgios, criações de inteligência artificial possam usurpar o lugar que deveria pertencer às pessoas de carne e osso, interferindo indevidamente no debate político e nas democracias.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> <a href="https://open.spotify.com/episode/5i2c3RniSNoED9GYSedWF2">https://open.spotify.com/episode/5i2c3RniSNoED9GYSedWF2</a>; <a href="https://www.youtube.com/watch?v=eMiYT7K_rp8">https://www.youtube.com/watch?v=eMiYT7K_rp8</a>
<a href="#_ftnref2" name="_ftn2">[2]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-lado-bajulador-da-ia-generativa-e-os-riscos-para-as-eleicoes">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-lado-bajulador-da-ia-generativa-e-os-riscos-para-as-eleicoes</a>
<a href="#_ftnref3" name="_ftn3">[3]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-chatgpt-e-a-voz-de-scarlett-johansson">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-chatgpt-e-a-voz-de-scarlett-johansson</a>
<a href="#_ftnref4" name="_ftn4">[4]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/mercado-desinformacao-repercussoes-democracia">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/mercado-desinformacao-repercussoes-democracia</a>

george-pagan-iii-f-PH16nZHKI-unsplash

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Está mais do que na hora de definirmos o que é cidadania e quais as possibilidades de ocupação da esfera pública

Influencers políticos criados por IA

Está mais do que na hora de definirmos o que é cidadania e quais as possibilidades de ocupação da esfera pública