Opinião e Análise

Victor Durigan

Raquel Saraiva

O Brasil esteve no roteiro de viagem de Frances Haugen, cientista de dados e ex-funcionária do Facebook. Haugen trabalhou na área de integridade cívica na empresa de tecnologia e, em 2021, foi responsável por revelar os chamados “Facebook Files”. Os documentos demonstravam vários problemas nas plataformas do grupo Meta, como o impacto negativo na saúde mental de adolescentes e as diferentes regras de tratamento para políticos e autoridades, que gozavam de maior liberdade nas redes; entre outros temas tão ou mais preocupantes. Haugen também afirmou, na época, que o Facebook visa ao lucro em primeiro lugar, mesmo que ele venha às custas do bem-estar dos usuários.
Sua vinda chamou a atenção para as práticas que ela considera inadequadas por parte da Meta e outras plataformas. Na sua agenda, foram realizados encontros com a sociedade civil, parlamentares e outros formuladores de políticas públicas. Neste artigo, buscamos fazer um balanço da sua visita, dos principais debates suscitados e das lições que as instituições e a sociedade civil podem tirar, tendo em vista os enormes desafios que o processo eleitoral de 2022 nos impõe.
<h3>O debate levantado por Haugen</h3>
Como primeiro compromisso no país, ela participou de um importante encontro com organizações da sociedade civil, no qual estiveram presentes desde organizações de defesa dos direitos digitais até entidades com atuação no campo da democratização das condições habitacionais. Em diálogo, a norte-americana ouviu sobre o contexto brasileiro ao mesmo tempo em que começou a indicar os pontos principais do debate que pretende levantar: o papel das empresas de tecnologia em processos eleitorais no mundo, a <a href="https://www.jota.info/tudo-sobre/plataformas-digitais/">regulação das plataformas de mídias sociais</a> e o papel central da transparência nesse processo.
Em suas falas, mencionou o baixo investimento do Facebook em medidas de segurança para línguas diferentes do inglês e disse que a empresa não investe com base na necessidade, mas sim em locais onde há maior chance de ser aprovada legislação que regule seus serviços, com responsabilizações e sanções em caso de condutas ilegais.
Ela também mencionou que as plataformas não fazem o suficiente para garantir um ambiente seguro durante o período eleitoral no Brasil, especialmente no que tange à desinformação e ao discurso de ódio, que devem ser os principais problemas das <a href="https://www.jota.info/eleicoes">próximas eleições</a>. Uma consequência grave da falta de investimento do Facebook na moderação de conteúdo para além do inglês se reflete em erros cometidos pelas ferramentas de inteligência artificial, que não detectam desinformação e violência ou se confundem ao fazê-lo, marcando algo como desinformação quando, na verdade, não é. Para ela, falta treinamento da IA utilizada nessas atividades para que reconheça contextos e variações linguísticas que muitas vezes modificam por completo o entendimento de determinado conteúdo.
Haugen ainda participou de <a href="https://www.camara.leg.br/noticias/893483-comissoes-ouvem-ex-funcionaria-do-facebook-sobre-denuncia-de-manipulacao-politica-em-eleicoes/">audiência pública</a> na Câmara dos Deputados, onde reforçou a necessidade da regulação de plataformas, fundamental para diminuir a influência destas no debate público, sendo a transparência uma das chaves para o início de um processo de prestação de contas por parte das empresas mantenedoras das principais plataformas de mídias sociais. Ela também afirmou que há formas técnicas de conter a viralização de desinformação e de discurso de ódio, mexendo na arquitetura dos algoritmos de forma que eles colaborem com, e não distorçam, o debate público.
<h3>O que o Brasil pode levar de lição</h3>
Sua vinda ao Brasil nos deixa lições que podem entregar caminhos para o futuro próximo. Aqui, sem a pretensão de esgotar os pontos, vamos jogar luz em algumas delas que merecem mais aprofundamento por parte das instituições brasileiras, da sociedade civil e do setor privado.
Primeiro, é preciso reconhecer que o debate da regulação das plataformas de mídias sociais é um assunto mundial. Na mesma semana, o Parlamento Europeu aprovou, por larga maioria, o Digital Services Act (DSA) — e o Digital Markets Act (DMA) —, a regulação europeia de grandes provedores de aplicações de internet, que aborda a disseminação de conteúdos ilegais online e os riscos que a desinformação gera no convívio social, com o objetivo de garantir um ambiente online seguro, previsível e confiável. Fruto de anos de debate no continente, o DSA foi abordado, por Haugen, como um passo histórico que deve ser tomado como estímulo pelo Congresso brasileiro na elaboração da nossa própria regulação.
Parece inevitável ao país se debruçar, mais cedo ou mais tarde, sobre o tema. Melhor seria se juntar à vanguarda do debate internacional, como já o fez em um passado recente, no caso do <a href="https://www.jota.info/tudo-sobre/marco-civil-internet">Marco Civil da Internet</a>. Ao fazer isso, o Brasil deixa de ser levado a reboque no debate e garante melhor assento à mesa na hora de negociar com as plataformas as mudanças necessárias para atingir objetivos como os colocados pelo DSA.
A segunda lição está diretamente relacionada à primeira. As obrigações de transparência para as plataformas devem ser centrais em qualquer regulação que se sobressaia. Esse é o exemplo que o DSA também nos dá. É preciso que pesquisadores possam estudar o funcionamento das plataformas e seus impactos sobre o ecossistema informacional. Segundo Haugen, as plataformas, e sobretudo o Facebook, não compartilham informações porque não querem que o sistema de responsabilização funcione sobre seus serviços, que reguladores compreendam como funcionam, nem que pesquisadores dissequem seus algoritmos.
A regulação centrada na transparência abre caminhos para o controle social das plataformas. Em países com eleições em curso, é preciso reconhecer o papel central que elas possuem e consequentemente o que fazem para garantir tanto a segurança dos usuários como também a integridade das eleições antes, durante e depois dos resultados. As plataformas possuem protocolos de segurança em caso de crises institucionais de grande porte? Há investimento em moderação de conteúdo em língua portuguesa, com pessoas que compreendam o contexto nacional? Tudo isso necessita ser respondido para a sociedade brasileira. Frances Haugen é cética quanto à suficiência do investimento feito por essas empresas nesses quesitos. O que nos leva à terceira lição.
Há a necessidade de tratamento isonômico ao Brasil, e outros países do sul global, em comparação com os países do norte global. O DSA reconheceu os riscos aos interesses comuns que as plataformas podem gerar. E bem lembrou o deputado Orlando Silva (PC do B-SP), ao falar da jovem democracia brasileira, que o país é ainda mais vulnerável a esses riscos sistêmicos. Cabe a elas, portanto, entregar o mesmo nível de compromisso e investir ainda mais em moderação de conteúdo em outros idiomas, em treinamento pessoal para contextos nacionais diversos e em protocolos de segurança em processos eleitorais violentos e permeados por riscos de crises institucionais graves, como o brasileiro.
Importante ressaltar que o <a href="https://www.jota.info/opiniao-e-analise/artigos/pl-das-fake-news-entenda-o-que-e-seu-impacto-e-as-principais-criticas-18042022">PL 2630/20</a> foi lembrado com frequência e elogiado por Frances Haugen, que apontou a oportunidade que o Legislativo brasileiro teve ao se debruçar sobre ele. Para os legisladores, a presença de Haugen pode ser usufruída para fomentar o apoio político ao projeto, aproveitando-se o bom acúmulo de debates já deixado pelas inúmeras audiências públicas sobre ele. Às empresas, fica a lição: o debate acerca da regulação de plataformas é inevitável e não é fruto de pantomima por parte do Legislativo e da sociedade civil organizada brasileira.
Por fim, cabe frisar a importância dos whistleblowers nesse contexto. Assim como Frances Haugen jogou luz a muitos problemas, nesta semana mais um ex-funcionário de uma grande empresa de tecnologia, desta vez a <a href="https://www1.folha.uol.com.br/mercado/2022/07/documentos-vazados-mostram-que-uber-violou-leis-e-enganou-autoridades-diz-jornal.shtml">Uber</a>, começou a divulgar documentos sobre ações problemáticas da empresa no mundo. O momento para refletir sobre o papel desses gigantes da tecnologia na sociedade é o presente.

Frances Haugen

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Passagem da cientista que vazou documentos do Facebook pode nos apontar caminhos para o futuro próximo

Frances Haugen no Brasil: lições para o debate sobre regulação de plataformas

Visita de Frances Haugen, que vazou documentos do Facebook, pode apontar ao Brasil caminhos para o debate de regulação de plataformas