Opinião e Análise

Ana Frazão

Já tive a oportunidade de explorar por que as democracias dependem da possibilidade de um debate minimamente racional em torno de fatos comuns, assim como as razões pelas quais o fluxo informacional da internet está progressivamente minando essa possibilidade<a href="#_ftn1" name="_ftnref1">[1]</a>.
Em decorrência de diversas características das plataformas digitais, como os seus modelos de monetização<a href="#_ftn2" name="_ftnref2">[2]</a>, criou-se ambiente propício ao surgimento de uma verdadeira indústria de <a href="https://www.jota.info/tudo-sobre/fake-news">fake news</a><a href="#_ftn3" name="_ftnref3">[3]</a>, que está associada inclusive a tentativas de manipulação de eleitores<a href="#_ftn4" name="_ftnref4">[4]</a>, especialmente em favor de candidatos autoritários<a href="#_ftn5" name="_ftnref5">[5]</a>.
O problema das bolhas informacionais vai muito além do enviesamento e da transmissão de apenas uma visão dos fatos, o que já seria preocupante. Estamos presenciando a criação de verdadeiros mundos paralelos, alimentados com fatos evidentemente falsos e descolados da realidade.
Nesse contexto, a utilização da <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> para fins políticos e partidários, ao possibilitar a criação ou manipulação de imagens, sons e vídeos – as chamadas <a href="https://www.jota.info/tudo-sobre/deepfakes">deep fakes</a> – apresenta nova e muito mais grave dimensão de risco, com potencial de impedir a identificação entre o que é real e o que não é.
Não é sem razão que o motim do 8 de janeiro foi gestado e impulsionado por meio de diversos conteúdos produzidos por meio de inteligência artificial, sem que as plataformas digitais tivessem agido à altura para conter a disseminação das inverdades propagadas. Quem reconhece isso é o próprio Oversight Board, da Meta, que apontou as graves omissões da plataforma na ocasião<a href="#_ftn6" name="_ftnref6">[6]</a>.
Portanto, é mais do que urgente se pensar em regular a utilização da inteligência artificial para fins políticos e partidários. Se já havia consideráveis preocupações com a manipulação do fluxo informacional desde a eleição de Trump e Bolsonaro – vale lembrar que, no caso brasileiro, o abuso de poder econômico e informacional foi reconhecido pelo próprio Tribunal Superior Eleitoral (<a href="https://www.jota.info/tudo-sobre/tse">TSE</a>)<a href="#_ftn7" name="_ftnref7">[7]</a> – tais temores tornaram-se ainda mais relevantes com os crescentes avanços da inteligência artificial, sobretudo na sua modalidade generativa, o que possibilita até mesmo a chamada “propaganda sintética”.
Em face de todos esses riscos, o TSE recentemente editou uma série de resoluções para tentar evitar a criação e a propagação de conteúdos falsos nas eleições, bem como para impor obrigações de transparência, a fim de que os destinatários de conteúdos produzidos com o auxílio de inteligência artificial sejam alertados para tal circunstância.<a href="#_ftn8" name="_ftnref8">[8]</a>
É importante lembrar, em primeiro lugar, que não se deve confundir esse tipo de iniciativa com censura, seja porque a liberdade de expressão não pode ser objeto de abuso, seja porque a própria Constituição não admite o anonimato, recurso que tem sido vastamente utilizado para divulgar a desinformação em todas as suas modalidades.
Acresce que boa parte do fluxo informacional mentiroso não é orgânico nem espontâneo, mas sim dolosamente arquitetado por uma verdadeira indústria de fake news, operacionalizada por agentes mal intencionados, bots e perfis falsos que se aproveitam da omissão e dos modelos de monetização das plataformas digitais.
Consequentemente, não haveria nem mesmo que se cogitar de restrições à liberdade de expressão nesses casos<a href="#_ftn9" name="_ftnref9">[9]</a>, o que é mais uma razão para justificar a normatização do TSE, inclusive no que procura responsabilizar as plataformas digitais, que impulsionam e ganham muito dinheiro com a desinformação.
Aliás, ao julgar a Medida Cautelar na ADI 7261<a href="#_ftn10" name="_ftnref10">[10]</a>, que impugnava a Resolução TSE 23.714/2022, o <a href="https://www.jota.info/tudo-sobre/stf">Supremo Tribunal Federal</a> (STF) entendeu que o esforço da Justiça Eleitoral em combater a desinformação, além de não implicar qualquer usurpação da competência legislativa, buscava tão somente assegurar os valores constitucionais, pois é a desinformação que restringe a circulação de ideias, o livre exercício do direito à informação e a formação da livre e consciente vontade do eleitor.
Vale ressaltar o trecho da liminar do ministro Edson Fachin, que foi depois referendada pelo Plenário, especialmente na parte em que ressalta as íntimas conexões entre o abuso de poder informacional e o abuso de poder econômico:
<blockquote class="jota-article__citation">“Portanto, uma eleição com influência abusiva do poder econômico não é normal nem legítima, vale dizer, não é livre nem democrática. Quando essa abusividade se materializa no regime da informação, recalcando a verdade e compondo-se de falsos dados e de mentiras construídas para extorquir o consentimento eleitoral, a liberdade resta aprisionada em uma caverna digital, supondo-se estar em liberdade; porém, não é livre o agrilhoado na tela digital e esses novos prisioneiros da caverna platônica “estão inebriados pelas imagens mítico-narrativas”, conforme nos alerta o professor Byung-Chul Han, da Universidade de Berlim".</blockquote>
Logo, as restrições à divulgação de fake news nem seriam censura nem implicariam ofensa ao <a href="https://www.jota.info/tudo-sobre/marco-civil-internet">Marco Civil da Internet</a>, uma vez que necessárias para a preservação da integridade do processo eleitoral e do próprio livre arbítrio dos eleitores, raciocínio que igualmente se aplica às resoluções mais recentes do TSE, que alteram a Resolução 23.610/2019, que trata de propaganda eleitoral.
O propósito das novas resoluções é basicamente o de:
<ol>
<li>proibir deepfakes;</li>
<li>exigir obrigação de aviso sobre o uso de IA na propaganda eleitoral;</li>
<li>restringir emprego de robôs para intermediar contato com o eleitor, proibindo simulação de diálogo com candidato ou qualquer outra pessoa; e</li>
<li>responsabilizar as big techs que não retirarem do ar, imediatamente, conteúdos com desinformação, discurso de ódio, ideologia nazista e fascista, além dos antidemocráticos, racistas e homofóbicos.</li>
</ol>
Por essa razão o artigo 9º-C proíbe a utilização, na propaganda eleitoral, “de conteúdo fabricado ou manipulado para difundir fatos notoriamente inverídicos ou descontextualizados com potencial para causar danos ao equilíbrio do pleito ou à integridade do processo eleitoral”, sob pena de cassação do registro ou mandato, bem como apuração das responsabilidades. Já o artigo 9º-E estabelece a responsabilização solidária dos provedores, de forma civil e administrativa, caso não retirem do ar determinados conteúdos e contas, durante o período eleitoral.
As resoluções do TSE também procuram assegurar a transparência em diversas frentes, de que é exemplo a determinação de que o impulsionamento de conteúdo político eleitoral deve obedecer, além da moderação, a transparência de gastos, cabendo ao provedor manter ferramentas de transparência sobre publicidade, valores e responsáveis pelo pagamento.
Os cidadãos também devem ser avisados, de forma explícita e destacada, sempre que receberem conteúdos fabricados ou manipulados por tecnologias digitais que criaram, substituíram, omitiram, mesclaram, alteraram a velocidade ou sobrepuseram imagens e sons, assim como devem ser informados sobre a tecnologia que foi utilizada.
Os provedores também precisam publicizar as medidas que adotam para impedir ou diminuir a circulação de conteúdo ilícito que atinja a integridade do processo eleitoral, incluindo a garantia de mecanismos eficazes de notificação, acesso a canal de denúncias e ações corretivas e preventivas. Ainda há atenção para a observância da <a href="https://www.jota.info/tudo-sobre/lgpd">LGPD</a>, com vedação de formação de eleitores com base em dados pessoais sensíveis sem o consentimento.
Como se vê, diante do atual estado de desenvolvimento da inteligência artificial, das experiências passadas e dos riscos já constatados, a iniciativa do TSE é imprescindível para assegurar a legitimidade do processo eleitoral brasileiro.
Daí por que até mesmo o argumento de suposta violação ao art. 19 do Marco Civil precisa ser visto com cuidado. Para além de se tratar de dispositivo legal cuja constitucionalidade está em discussão perante o STF<a href="#_ftn11" name="_ftnref11">[11]</a>e da circunstância de que precisa ser interpretado em conformidade com a legislação eleitoral, é fundamental entender que, como já tive oportunidade de sustentar em outras oportunidades, o art. 19 do Marco Civil é claramente direcionado para conteúdos de terceiros, em relação aos quais as plataformas assumem postura de absoluta neutralidade.
Conteúdos sobre os quais as plataformas têm ingerência, em muitos por meio de gerenciamentos e impulsionamentos, obviamente não podem ser considerados como meros conteúdos de terceiros, razão pela qual não deveriam estar sujeitos às restritas hipóteses de responsabilização previstas pelo art. 19.
Consequentemente, há excelentes razões para justificar a compatibilidade entre as Resoluções do TSE com a Constituição e as leis brasileiras. Porém, a principal razão que as justifica é o simples fato de que a democracia brasileira não pode esperar.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/eleicoes-e-algoritmo-a-democracia-corre-perigo-22092022">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/eleicoes-e-algoritmo-a-democracia-corre-perigo-22092022</a>
<a href="#_ftnref2" name="_ftn2">[2]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/a-delicada-questao-da-monetizacao-dos-negocios-de-divulgacao-de-conteudos-16122020">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/a-delicada-questao-da-monetizacao-dos-negocios-de-divulgacao-de-conteudos-16122020</a>
<a href="#_ftnref3" name="_ftn3">[3]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-negocio-das-fake-news-e-suas-repercussoes-22072020">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-negocio-das-fake-news-e-suas-repercussoes-22072020</a>
<a href="#_ftnref4" name="_ftn4">[4]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/mercados-de-manipulacao-de-consciencias-10082022">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/mercados-de-manipulacao-de-consciencias-10082022</a>
<a href="#_ftnref5" name="_ftn5">[5]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/democracia-crise-e-autoritarismo-no-seculo-xxi-29062022">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/democracia-crise-e-autoritarismo-no-seculo-xxi-29062022</a>
<a href="#_ftnref6" name="_ftn6">[6]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-papel-e-a-responsabilidade-das-plataformas-digitais-pelo-8-de-janeiro-05072023">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-papel-e-a-responsabilidade-das-plataformas-digitais-pelo-8-de-janeiro-05072023</a>.
<a href="#_ftnref7" name="_ftn7">[7]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/mercado-desinformacao-repercussoes-democracia-03112021">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/mercado-desinformacao-repercussoes-democracia-03112021</a>
<a href="#_ftnref8" name="_ftn8">[8]</a> <a href="https://www.tse.jus.br/comunicacao/noticias/2024/Fevereiro/tse-proibe-uso-de-inteligencia-artificial-para-criar-e-propagar-conteudos-falsos-nas-eleicoes">https://www.tse.jus.br/comunicacao/noticias/2024/Fevereiro/tse-proibe-uso-de-inteligencia-artificial-para-criar-e-propagar-conteudos-falsos-nas-eleicoes</a>
<a href="#_ftnref9" name="_ftn9">[9]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/regulacao-de-conteudos-em-plataformas-digitais-22032023">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/regulacao-de-conteudos-em-plataformas-digitais-22032023</a>
<a href="#_ftnref10" name="_ftn10">[10]</a> Referendo na Medida Cautelar na ADI 7261, Relator Ministro Edson Fachin, julgado em 25.10.2022.
<a href="#_ftnref11" name="_ftn11">[11]</a> <a href="https://portal.stf.jus.br/jurisprudenciaRepercussao/verAndamentoProcesso.asp?incidente=5160549&amp;numeroProcesso=1037396&amp;classeProcesso=RE&amp;numeroTema=987">https://portal.stf.jus.br/jurisprudenciaRepercussao/verAndamentoProcesso.asp?incidente=5160549&amp;numeroProcesso=1037396&amp;classeProcesso=RE&amp;numeroTema=987</a>

tse 12 03 24 (2)

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

A democracia brasileira não pode esperar

TSE e as regras para o uso de inteligência artificial nas eleições

Diante do estado de desenvolvimento da inteligência artificial, iniciativa do TSE é imprescindível para assegurar legitimidade da eleição