Beatriz Kira

Diogo Rosenthal Coutinho

Para quem acompanha a agenda da moderação de conteúdo e regulação de plataformas de internet, a semana do Carnaval teve mais a oferecer do que glitter e blocos. Nos Estados Unidos, a Suprema Corte ouviu sustentações orais em dois casos paradigmáticos: <a href="https://www.supremecourt.gov/oral_arguments/audio/2022/21-1333">Google v. Gonzalez</a> e <a href="https://www.supremecourt.gov/oral_arguments/audio/2022/21-1496">Twitter v. Taamneh</a><a href="https://www.supremecourt.gov/oral_arguments/audio/2022/21-1496">.</a> Esses casos discutem se empresas de tecnologia podem ser responsabilizadas pela recomendação de conteúdo terrorista em suas plataformas, YouTube e Twitter. Ambos os casos têm potencial de transformar significativamente o modelo de negócios das maiores empresas do mundo e suscitam questões mais amplas, complexas e desafiadoras, todas relacionadas à transparência e accountability de plataformas de internet.
Esses casos fazem parte de uma tendência mais ampla, aliás. Não apenas nos Estados Unidos, como em vários outros países, tem crescido entre cortes, reguladores e formuladores de políticas públicas a preocupação com a segurança online. Essas preocupações ensejam questões jurídicas nada triviais acerca das medidas que empresas de tecnologia devem tomar para proteger usuários de conteúdos nocivos – como no caso de conteúdo extremista e dos discursos de ódio –, bem como sobre qual é o papel do Estado em regular a moderação de conteúdo pelas plataformas. Neste artigo, examinamos tentativas de respostas em discussão no âmbito legislativo e judiciário, no Brasil e em outras jurisdições.
Este é o segundo texto na nossa série sobre desafios da regulação digital – <a href="https://www.jota.info/opiniao-e-analise/artigos/desafios-da-regulacao-digital-parte-1-25012023">leia aqui o primeiro artigo</a>, sobre concentração econômica e concorrência.
<h3>O debate nas cortes dos EUA</h3>
Os dois casos em discussão perante a Suprema Corte dos EUA estão relacionados à responsabilidade das plataformas digitais. Eles apresentam fatos semelhantes, relacionados à responsabilização de plataformas de internet em relação à disseminação de conteúdo extremista e terrorista gerado por terceiros, mas lidam com questões jurídicas distintas.
O primeiro deles, Gonzalez v. Google, afeta diretamente a interpretação e aplicação da seção 230 da Lei de Decência nas Comunicações dos EUA, de 1996 (Communications Decency Act - CDA), considerada por muitos o alicerce jurídico da internet moderna, ao proteger as empresas de internet de responsabilidade por conteúdo gerado pelos usuários em suas plataformas. Neste caso, a Suprema Corte está sendo chamada a decidir se o uso pelo YouTube de sistemas de recomendação de conteúdo retira do Google a imunidade oferecida a intermediários de serviços de internet pela seção 230, tornando possível responsabilizar a empresa pelo conteúdo extremista que teria radicalizado usuários e contribuído para atos terroristas.
Já em Taamneh v. Twitter, a questão jurídica que a corte mais importante dos EUA enfrenta é se a plataforma de microblogging poderia ser responsabilizada por ajudar e estimular (aiding and abetting) atos terroristas cometidos pela organização Estado Islâmico com base na lei específica antiterrorismo dos Estados Unidos (<a href="https://www.law.cornell.edu/uscode/text/18/part-I/chapter-113B">Anti-Terrorism Act</a> - ATA). Segundo os autores, o Twitter teria conhecimento de que o ISIS estaria usando sua plataforma para recrutar e espalhar sua propaganda extremista globalmente, tendo fornecido, desse modo, assistência substancial a terroristas ao não tomar medidas significativas para impedir tal uso de seus serviços.
A decisão da Suprema Corte em ambos os casos terá implicações gigantescas para o regime de responsabilidade das plataformas digitais, impactando significativamente o funcionamento da internet e o ecossistema de informação e comunicação digital não apenas nos Estados Unidos, mas no mundo todo. Subjacente a esses casos está também a complexa questão relativa ao tipo de ação que as plataformas devem tomar para prevenir a disseminação de conteúdo perigoso ou nocivo, e em qual medida o Estado pode exigir legalmente tais ações. São questões-chave no campo da moderação de conteúdo.
Em paralelo às discussões judiciais, legisladores federais e estaduais estadunidenses discutem projetos de lei que têm por objeto a moderação de conteúdo, incluindo tentativas de reforma da seção 230 da CDA e a introdução de regras que buscam introduzir obrigações de maior transparência e accountability dos serviços prestados pelos provedores de internet.<a href="#_ftn1" name="_ftnref1">[1]</a>
Duas dessas leis estaduais, introduzidas no Texas e na Flórida, têm sido objeto de especial controvérsia. Ambas, em linhas gerais, visam a impedir que grandes empresas de mídia social removam postagens com base no teor das opiniões que expressam, limitando consideravelmente a moderação de conteúdo. Tais propostas foram introduzidas em resposta a reclamações de que plataformas estariam censurando discurso conservador, queixas que ganharam força após algumas plataformas terem banido o ex-presidente Donald Trump depois do ataque ao Capitólio na capital estadunidense, em 6 de janeiro de 2021. A constitucionalidade de tais leis, especialmente à luz do regime de liberdade de expressão dos EUA, está sendo contestada por associações empresariais – e esses casos podem ser examinados pela Suprema Corte ainda em 2023.
<h3>A evolução legislativa na União Europeia e no Reino Unido</h3>
A discussão em torno da responsabilidade dos provedores de serviços online pelo conteúdo publicado em suas plataformas não está limitada apenas aos Estados Unidos. Em outras jurisdições, a discussão mais avançada ocorre na esfera legislativa. Em 2022, a União Europeia, uma das principais forças no desenvolvimento dessas regulamentações, aprovou em 2022 o <a href="https://eur-lex.europa.eu/legal-content/PT/TXT/HTML/?uri=CELEX:52020PC0825&amp;from=en">Regulamento Serviços Digitais</a> (Digital Services Act - DSA), que tramitou em paralelo ao <a href="https://www.jota.info/opiniao-e-analise/artigos/digital-markets-act-e-o-antitruste-assimetrico-na-europa-31032022">regulamento para promover concorrência</a> em mercados digitais. O DSA é considerado um marco importante na história da regulação de plataformas e visa a modernizar e harmonizar no bloco europeu regras para provedores de serviços online, incluindo redes sociais e plataformas de busca.
O modelo adotado na Europa pela legislação anterior (e-Commerce Directive, de 2000) é o de responsabilidade da plataforma baseada em conhecimento por conteúdo ilegal, segundo o qual plataformas estariam imunes de responsabilização por conteúdos gerados por terceiros, mas poderiam perder imunidade se tomarem conhecimento de conteúdo ilegal e não agirem para removê-lo.
O DSA mantém esse modelo, mas introduz novos processos e regras regulatórias, além de novas regras substanciais para a aplicação voluntária das plataformas de seus próprios termos de serviço. Além disso, essa lei estabelece novas obrigações de transparência e proteções legais para que usuários possam entender o funcionamento das plataformas e interagir com elas de maneira mais informada. Por exemplo, as plataformas terão que divulgar informações sobre anúncios políticos e criar um sistema de reclamações mais eficaz.
De forma similar ao Digital Markets Act (DMA), que discutimos <a href="https://www.jota.info/opiniao-e-analise/artigos/desafios-da-regulacao-digital-parte-1-25012023">aqui</a>, o DSA inova ao estabelecer um modelo de regulação assimétrica, com regras diferenciadas que variam de acordo com o tamanho da empresa, os tipos de serviço que ela oferece e seu impacto no ecossistema online – um resumo (em inglês) está disponível <a href="https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age/digital-services-act-ensuring-safe-and-accountable-online-environment_en">aqui</a>. Para as maiores plataformas (Very Large Online Platforms - VLOPs), aquelas que têm mais de 45 milhões de usuários ativos mensais na UE, as obrigações específicas incluem avaliações anuais dos riscos que seus serviços apresentam – por exemplo, no que diz respeito à exposição a conteúdos ilegais – bem como a adoção de medidas adequadas para mitigação dos riscos identificados, que serão sujeitas a auditorias independentes.
No Reino Unido, um projeto de lei que adota uma perspectiva similar ao DSA está em estado avançado de tramitação e pode virar lei nos próximos meses. O Projeto de Segurança Online (<a href="https://www.gov.uk/guidance/a-guide-to-the-online-safety-bill">Online Safety Bill</a>) visa a criar regras para proteger crianças e adultos online, tornando provedores de serviços de internet mais responsáveis pela segurança de seus usuários em suas plataformas. A atual versão da proposta britânica, <a href="https://bills.parliament.uk/bills/3137/stages">encaminhada à Câmara dos Lordes</a> em janeiro deste ano, inclui três conjuntos de obrigações: regras relativas à conteúdo ilegal, regras para a proteção de crianças online, e regras para dar a usuários maior controle sobre a experiência online.
Em relação ao conteúdo ilegal, o projeto de lei visa a exigir que plataformas removam todo o conteúdo ilegal, como abuso sexual infantil e conteúdo que promova terrorismo, impedindo tanto crianças como adultos de acessá-los. No caso de crianças, plataformas precisarão prevenir o acesso também a conteúdos que não são ilegais, mas podem ser prejudiciais ou inadequados para crianças, por exemplo conteúdo pornográfico e conteúdo que promova suicídio ou automutilação. No caso de adultos, a versão mais atual da proposta exclui do texto  a controversa categoria de conteúdo legal but harmful e obrigações associadas a ela, substituindo-as por novas regras para que as empresas sejam mais transparentes sobre as políticas internas de moderação de conteúdo e implementem termos de uso de forma consistente.
Também na proposta do Reino Unido, obrigações mais onerosas são previstas para as maiores plataformas, que terão que fornecer aos usuários adultos ferramentas para ajudar a reduzir a probabilidade de eles encontrarem certos tipos de conteúdo, por exemplo conteúdo que promova distúrbios alimentares. O regulador responsável por implementar as novas regras e monitorar as plataformas será a Ofcom – regulador de comunicações que ganha novos poderes –, que preparará códigos de prática e orientações para conformidade com o novo regime de segurança online.
Novas molduras jurídicas como a introduzida pelo DSA e proposta pela Online Safety Bill tem sido amplamente elogiadas por aqueles que defendem uma maior responsabilidade e transparência das plataformas digitais. No entanto, há também aqueles que argumentam que as novas regras podem ter um efeito negativo na inovação e na liberdade de expressão na internet. Também há preocupações de que mesmo as obrigações mais simplificadas as quais plataformas pequenas estariam sujeitas sejam muito onerosas, empurrando-as para fora do mercado e favorecendo grandes empresas com deep pockets. Com a entrada em vigor de algumas dessas novas regras já em 2023, a atenção agora se volta aos desafios significativos de implementação, que incluem garantir que as empresas de tecnologia tenham capacidade técnica para cumprir as obrigações e que as autoridades responsáveis por aplicá-las tenham os recursos necessários para monitorar e fazer cumprir a legislação.
<h3>O contexto brasileiro</h3>
No Brasil, a principal referência legal para o tema é o Marco Civil da Internet (MCI - <a href="https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm">Lei 12965/2014</a>), considerado um dos mais avançados marcos regulatórios de internet do mundo. Promulgada em 2014 após amplo debate público, a lei estabeleceu princípios, garantias, direitos e deveres para o uso da internet no país. Um dos principais pilares do Marco Civil é o modelo de responsabilidade dos provedores de internet, que estabelece que essas empresas não são responsáveis pelo conteúdo publicado pelos usuários em suas plataformas, a menos que descumpram ordem judicial específica para remoção desse conteúdo (artigos 18 e 19).
No entanto, também no Brasil, a aplicação desse modelo de responsabilidade tem sido objeto de controvérsias nos últimos anos, em meio a crescentes preocupações com a disseminação de desinformação, discurso de ódio e outros tipos de conteúdo nocivo online. Essas preocupações culminaram na elaboração do PL das Fake News (<a href="https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2256735">PL 2630/2020</a>), que vem sendo objeto de intenso debate ao longo dos últimos anos, inclusive com a criação de um grupo de trabalho instituído na Câmara dos Deputados, presidido pelo deputado Orlando Silva (PC do B-SP). O texto <a href="https://exame.com/bussola/o-day-after-da-lei-das-fake-news/">prevê</a>, entre outras coisas, normas voltadas para assegurar transparência, clareza e a objetividade dos termos de uso adotados por plataformas, além de exigir a produção de relatórios periódicos relatando decisões de moderação de conteúdo. Apesar do amplo debate, a proposta não conseguiu apoio para ser aprovada antes das eleições de 2022.
Com a mudança de governo e de legislatura, se inaugura uma nova fase na discussão sobre regulação de plataformas no Brasil. O PL das Fake News <a href="https://www.jota.info/legislativo/pl-das-fake-news-pode-incluir-crimes-de-terrorismo-e-antidemocraticos-afirma-dino-16022023">deve voltar à pauta</a>, havendo indícios de que, na esteira dos ataques golpistas de 8 de janeiro de 2023, o governo eleito e o Congresso buscarão ampliar o escopo da proposta para lidar também com a disseminação de conteúdo antidemocrático, entre outras medidas. Há preocupações entre especialistas em direito digital e organizações da sociedade civil, no entanto, de que novas regras possam ameaçar a privacidade e a liberdade de expressão dos usuários, principalmente se exigirem alterações no Marco Civil da Internet.
Nesse cenário, vale destacar, será crucial que a futura regulação das plataformas digitais no Brasil seja capaz de articular de forma coerente não apenas as leis existentes (algumas delas aqui referidas), mas também as instâncias administrativas encarregadas de pôr em marcha um novo arcabouço jurídico a ser desenhado para dar conta de um desafio que tem natureza transversal e multissetorial (afinal, plataformas digitais, como se sabe, atuam em diversos campos e mercados da economia, traço que as distingue de outras atividades econômicas reguladas de acordo com os setores a que pertencem).
A <a href="https://www.jota.info/tributos-e-empresas/regulacao/quem-faz-o-que-coordenacao-institucional-para-regulacao-de-mercados-digitais-14042020">coordenação institucional</a>, como já apontamos em outros textos, é chave quando se trata do tema, portanto. Outro ponto de atenção tem relação com a experiência internacional, que deve ser observada em suas virtudes e equívocos. Vale dizer: transplantes de leis e de arranjos institucionais de um país para outro podem acontecer (afinal, não é sempre que se precisa reinventar a roda), mas isso tem de ser feito com ajustes e parcimônia. O contexto local importa.
Os debates judiciais e legislativos acerca da responsabilidade de plataformas e moderação de conteúdo examinados neste artigo evidenciam a complexidade das questões envolvidas na regulação de plataformas, assim como a dificuldade de equilibrar os objetivos de garantir a segurança online e promover uma esfera digital pública saudável, de um lado, e assegurar a liberdade de expressão e fomentar a inovação, de outro.
As respostas, nada triviais, só serão encontradas por meio de um debate qualificado que envolva não apenas autoridades – incluindo legisladores, reguladores e formuladores de política pública – mas também as empresas de tecnologia, a academia, e a sociedade civil. Ainda assim, uma nota final: a moderação de conteúdo, mesmo que seja uma atividade a ser majoritariamente desempenhada por plataformas digitais, não é algo que possa ou deva ser inteiramente relegado à iniciativa privada. Em última análise, o que está em jogo é a regulação pública – isto é, em nome do interesse público – da responsabilidade dos distintos atores (usuários, plataformas, anunciantes) que habitam cada vez mais os onipresentes ambientes digitais que moldam nossas vidas, hábitos e comportamentos.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> Dois exemplos são dois projetos de lei federal que receberam apoio bipartidário, a <a href="https://www.coons.senate.gov/news/press-releases/senator-coons-colleagues-introduce-legislation-to-provide-public-with-transparency-of-social-media-platforms">Platform Accountability and Transparency Act</a> (PATA), proposta para aumentar a transparência em torno da empresa de mídia social, e a ​​<a href="https://www.warner.senate.gov/public/index.cfm/2021/2/warner-hirono-klobuchar-announce-the-safe-tech-act-to-reform-section-230">Safeguarding Against Fraud, Exploitation, Threats, Extremism and Consumer Harms</a> (SAFE TECH) para reformar a seção 230 do CDA e permitir que as empresas de mídia social sejam responsabilizadas por permitir perseguição cibernética, assédio direcionado e discriminação em suas plataformas.

camilo-jimenez-qZenO_gQ7QA-unsplash

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Regulação de plataformas e moderação de conteúdo nos contextos dos EUA, da Europa e do Brasil

Desafios da regulação digital - parte 2

Regulação de plataformas e moderação de conteúdo nos contextos dos EUA, da Europa e do Brasil