Opinião e Análise

Ana Frazão

<q>If something is harmful, it should be treated as such.<a href="#_ftn1" name="_ftnref1">[1]</a></q>
Enquanto os brasileiros choram pelas vítimas do Rio Grande do Sul, a indústria das fake news aproveita a tragédia para zombar, tripudiar dos mortos e veicular notícias falsas que, longe de apenas confundirem a população, têm um efeito perverso no gerenciamento da crise, atrapalhando o socorro das vítimas e o trabalho das autoridades<a href="#_ftn2" name="_ftnref2">[2]</a>. Nesse contexto, notícias absurdas – como as de que apenas eleitores do PT estão sendo auxiliados e que barqueiros que socorrem as vítimas têm sido multados – ganham espaço nas redes sociais e aplicativos de mensageria.
Esse triste cenário, que é apenas a “ponta do iceberg”, ajuda a entender as razões pelas quais, em janeiro de 2024, o Fórum Econômico Mundial veiculou o relatório The Global Risks Report 2024<a href="#_ftn3" name="_ftnref3">[3]</a>, apontando que as informações falsas, especialmente as geradas por inteligência artificial, tornaram-se o principal temor de lideranças no curto prazo, assim considerado o período de dois anos.
Impressiona que o risco da desinformação – especialmente, mas não só, das informações impostoras, manipuladas e fabricadas – tenha estreado na lista dos dez maiores riscos globais já no topo das preocupações, que igualmente ressaltam o papel das redes sociais na divulgação de conteúdos falsos, com a consequente distorção da opinião pública e a criação da desconfiança nos fatos e nas autoridades constituídas.
De acordo com o relatório, os riscos da desinformação apresentam vários desdobramentos, dentre os quais:
<ul>
<li>disrupção radical de processos eleitorais em diversas economias nos próximos dois anos;</li>
<li>aprofundamento das visões polarizadas, em um círculo vicioso que pode levar a agitações civis e possíveis confrontações;</li>
<li>repressão e erosão de direitos nas tentativas de repressão da desinformação, assim como os riscos de inação;</li>
<li>comprometimento do ativismo climático;</li>
<li>escalação de conflitos sociais; e</li>
<li>novos tipos de crimes, como a pornografia do deepfake e manipulações de mercados.</li>
</ul>
Entretanto, o lado mais insidioso da desinformação é a ameaça da coesão das sociedades, fruto da desestabilização da realidade e dos questionamentos sobre a legitimidade de governos eleitos, o que pode levar a agitações sociais, violência, terrorismo e a própria erosão das democracias. Tais riscos se agravam diante da expectativa de que governos agirão lentamente para resolver o problema, diante do tradeoff entre a prevenção da desinformação e a preservação da liberdade de expressão. Daí o risco inclusive de que o controle regulatório da desinformação possa ser usado para erodir direitos humanos.
O relatório ainda adverte para o fato de que, ao longo dos próximos dois anos, quase 3 bilhões de pessoas irão participar de processos eleitorais em varias economias, incluindo Estados Unidos, Índia, Reino Unido, México e Indonésia. Nesse sentido, deve ser prioridade a contenção dos chamados conteúdos sintéticos, que podem ampliar divisões sociais, violência ideológica e repressão política.
Muitas dessas preocupações foram reiteradas no recente relatório publicado pelo Oversight Board da Meta Content Moderation in a Historic Election Year: Key Lessons For Industry<a href="#_ftn4" name="_ftnref4">[4]</a>. Tal documento é de particular interesse para o tema, por consistir no claro reconhecimento, por uma das mais importantes plataformas digitais, não apenas da gravidade do problema, como também da insuficiência das medidas que têm adotado para resolvê-lo.
O relatório já começa afirmando que nunca houve tempo mais crítico para democracia, os direitos humanos e as sociedades abertas e justas. Mais do que isso, reconhece que as plataformas exercem papel central para o discurso público, com grandes impactos nos processos democráticos, diante dos riscos de incitar violência eleitoral ou espalhar falsidades que tentam manipular a opinião publica e influenciar resultados, minar processos democráticos e piorar conflitos políticos.
O relatório do Oversight Board da Meta também reconhece que o enforcement inadequado das plataformas pode exacerbar esses abusos, o que exige o escrutínio das ações que controlam o fluxo de informação política, especialmente diante das falhas já identificadas. Com efeito, o relatório aponta que o design e as escolhas políticas da plataforma, em particular o seu newsfeed e seus algoritmos de recomendação, possibilitam que narrativas de desinformação promovidas por networks ou influencers ganhem tração e sejam divulgadas, muitas vezes levando a violência offline.  
Em face de todos os problemas mapeados, o relatório propõe nove lições-chave:
<ul>
<li>Políticas adequadas são importantes, mas o enforcement é essencial, o que exige que plataformas dediquem recursos suficientes para moderar conteúdos antes, durante e depois das eleições em uma escala global, o que demanda expertise na linguagem e no contexto locais para guiar as melhores práticas nas diversas localidades;</li>
<li>Plataformas precisam fixar standards globais básicos para eleições em todos os lugares do mundo, devendo ser responsáveis por suas falhas. Não se admite que países ou mercados considerados menos lucrativos sejam negligenciados porque são neles que o impacto sobre direitos humanos decorrentes da não implementação de tais standards pode ser mais severo;</li>
<li>Discursos políticos que incitam violência não podem continuar sem checagem, o que exige a priorização de revisão humana e da aplicação de sanções duras para abusadores reincidentes, especialmente em períodos eleitorais críticos;</li>
<li>Plataformas precisam se resguardar dos perigos de permitir que governos usem desinformação ou razões vagas ou inespecíficas para suprimir o discurso crítico, particularmente em contextos eleitorais e a respeito de matérias de interesse público;</li>
<li>Políticas que suprimem a liberdade de expressão precisam especificar os danos do mundo real que pretendem prevenir, a fim de assegurar que sejam necessárias e proporcionais aos danos;</li>
<li>Mentiras sempre fizeram parte das campanhas eleitorais, mas os atuais avanços tecnológicos tornaram a divulgação de falsidades mais fácil, mais barata e mais difícil de identificar, o que exige standards claros para diferenciar conteúdos gerados por inteligência artificial, deepfakes e outros tipos de conteúdos manipulados, como os cheapfakes;</li>
<li>Jornalistas, grupos da sociedade civil e oposição política precisam ser mais bem protegidos dos abusos online e também dos riscos de overenforcement pelas plataformas;</li>
<li>Transparência é mais importante do que nunca para preservar a integridade das eleições, de forma que as plataformas precisam ser abertas e divulgar os passos que tomam para prevenir danos e os erros que cometem;</li>
<li>Campanhas coordenadas com o objetivo de espalhar desinformação ou incitar violência para minar processos democráticos precisam ser consideradas prioridade.</li>
</ul>
Como se pode observar, as conclusões do relatório da Meta, a rigor, não trazem nada de novo. O aspecto realmente inovador é que finalmente agora tais questões são reconhecidas pela própria plataforma, que igualmente assume, pelo menos no plano do discurso, a sua responsabilidade pelas adulterações do fluxo informacional, propondo-se a assumir uma conduta proativa na defesa da sociedade e da própria democracia.
Outro aspecto simbólico da declaração é que, diante da gravidade do assunto, deixam de ser repetidos argumentos comuns de que as plataformas não podem ou não sabem identificar conteúdos ilícitos ou que não poderiam fazê-lo em virtude dos riscos de violação à liberdade de expressão.
Diante do risco já mapeado, é fundamental que as plataformas assumam o seu protagonismo no controle adequado do fluxo informacional, até porque, em boa parte dos casos, se está diante de casos claros de abuso e não de exercício de liberdade de expressão, como já tive oportunidade de denunciar<a href="#_ftn5" name="_ftnref5">[5]</a>.
Resta saber, agora, se as pautas contidas no relatório finalmente sairão do plano do discurso e se tornarão realidade em curto prazo. Afinal, não podemos mais esperar. Que o exemplo lamentável do que vem ocorrendo no Rio Grande do Sul seja a mola propulsora para que a Meta e todas as demais plataformas digitais finalmente possam tomar medidas efetivas contra a desinformação.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> Trecho do relatório do Oversight Board da Meta Content Moderation in a Historic Election Year: Key Lessons for Industry. https://www.oversightboard.com/news/content-moderation-in-a-historic-election-year-key-lessons-for-industry/
<a href="#_ftnref2" name="_ftn2">[2]</a> BBC. Fake news da tragédia no Sul: ´zombam da vida alheia e tripudiam sobre os mortos´, diz especialista. <a href="https://www.bbc.com/portuguese/articles/ck5kxw6wex6o">https://www.bbc.com/portuguese/articles/ck5kxw6wex6o</a>. Ver também: <a href="https://www.brasil247.com/blog/bolsonaristas-jogam-sujo-tentam-politizar-tragedia-no-rs-com-fake-news-contra-lula-e-tomam-um-cala-a-boca-nas-redes">https://www.brasil247.com/blog/bolsonaristas-jogam-sujo-tentam-politizar-tragedia-no-rs-com-fake-news-contra-lula-e-tomam-um-cala-a-boca-nas-redes</a>
<a href="#_ftnref3" name="_ftn3">[3]</a> <a href="https://www.zurich.com.br/-/media/project/zwp/brazil/docs/grr/the-global-risks-report-2024.pdf?rev=9d347866202d4305a9e9fb269753c8fb">https://www.zurich.com.br/-/media/project/zwp/brazil/docs/grr/the-global-risks-report-2024.pdf?rev=9d347866202d4305a9e9fb269753c8fb</a>
<a href="#_ftnref4" name="_ftn4">[4]</a> https://www.oversightboard.com/news/content-moderation-in-a-historic-election-year-key-lessons-for-industry/
<a href="#_ftnref5" name="_ftn5">[5]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/regulacao-de-conteudos-em-plataformas-digitais-22032023?non-beta=1">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/regulacao-de-conteudos-em-plataformas-digitais-22032023?non-beta=1</a>

joshua-hoehne-Uo2ZXh4XOLY-unsplash

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

A expectativa de que as preocupações do Oversight Board da Meta saiam do plano do discurso e virem realidade

Contenção da desinformação: será que agora vai?

A expectativa de que as preocupações do Oversight Board da Meta sobre desinformação saiam do plano do discurso e virem realidade