Fabrício Polido

Em novembro de 2018, a gigante da internet Facebook anunciou ambicioso plano para criação de um órgão independente investido de poderes para revisar decisões sobre moderação e remoção de conteúdo em sua rede de relacionamento social.
Denominado de Conselho de Supervisão do Facebook (‘Facebook Oversight Board - FOB’), ele representará uma instância independente da estrutura corporativa da gigante da internet, estabelecida segundo um estatuto e procedimentos próprios e composta por membros selecionados com base na diversidade, especialidade, representações regionais e livre de conflitos de interesses.
Entre o projeto, o idealismo e a política real entabulada pela empresa restam muitos passos a serem percorridos e que extrapolam o início das atividades do conselho, previsto para final deste ano. Tenho acompanhado de perto, contudo, essa iniciativa e que poderá ser encarada como novo experimento para as instituições da governança da internet, dentro de padrões específicos de construção de consensos de legitimidade e envolvimento de atores na representação multisssetorial, da necessidade de formulação de novas políticas sobre a natureza participativa da rede e sobre solução de conflitos em escala transnacional.
E diante dessa rota de mudanças, eu chamaria a atenção para o benefício da dúvida e para a exploração de potenciais em torno de um desenho institucional desejado para o FOB e suas condicionantes jurisdicionais. Não se trata de simplesmente de uma decisão reduzida à esfera corporativa de um dos mais expressivos atores da indústria global da internet. Ela atinge expectativas mais complexas e merecem nossa reflexão.
<ul class="jota-article__internal-links">
<li>+JOTA: <a href="https://www.jota.info/assine">Assine o JOTA e não deixe de ler nenhum destaque!</a></li>
</ul>
Certamente quem é usuário das redes e das plataformas digitais não gostaria de ser confrontado com filtros, censuras e controle daquilo que é expressado, produzido e disseminado na internet. Em geral, esse poderia ser o sentimento mais liberal possível. Mas o fato é que a possibilidade de revisão das decisões e políticas pelas empresas provedoras de conteúdo e aplicativos tem sido algo fragmentado, bem distante das realidades de certos grupos sociais, comunidades e regiões.
As alternativas de interação entre a tomada de decisões corporativas sobre termos de uso das plataformas e serviços de internet também são pouco discutidas em geral, sem muita atenção de especialistas de política públicas, governos, academia e sociedade civil. Daí porque a empreitada de criação de um conselho de supervisão independente parece ser oportuna do ponto de vista do grau e do desejo de legitimidade a serem alcançados pelas estruturas, funções e processos no modelo vislumbrado.
Primeiro, porque permite que empresas de internet de recorram a um órgão externo decisório e consultivo para assegurar a observância de princípios e objetivos, a exemplo de padrões de “devido processo digital”, segurança física e emocional, rejeição da violência e mitigação de danos off-line, relativamente a certos pleitos dos usuários cujos perfis, conteúdos e comunicações sejam moderadas.
Segundo, porque um conselho de supervisão externo e independente pode propugnar por estabelecer recomendações para aperfeiçoamento e modificações de regras dos termos de uso e/ou serviços das plataformas com demandas induzidas em sistema de revisão, regras que também são vinculantes para as empresas.
Por fim, porque determinados casos individuais opondo usuários, governos e empresas igualmente podem gerar algo inédito na governança das redes: a criação de novos espaços de diálogos jurisdicionais e cooperação entre atores estatais (seus governos, legisladores e tribunais) e atores não-estatais.
Desde a emergência da Sociedade da Cúpula da Informação em 2003, em Genebra passando pela consolidação do Fórum da Governança da Internet – FGI- diversos projetos e iniciativas envolvendo democracia, liberdade de expressão, privacidade e jurisdição na internet tem sido desenvolvidos.
<blockquote class="jota-article__eye">Entretanto, um dos grandes desafios de governos, indústria, academia, organizações da sociedade civil e lobbies ainda reside nos impasses e desconfianças em torno da legitimidade e transparência da tomada de decisões no campo da regulação do conteúdo disponível na internet.</blockquote>
Esse campo exprime justamente a chamada “governança de conteúdo“ (em oposição à governança de dados e de infraestrutura) e ela não estaria imune aos problemas jurisdicionais mais frequentes que ainda recaem sobre a construção das bases de um ‘direito internacional da internet’. A indústria 4.0, mais amplamente constituída por segmentos da inteligência artificial, internet das coisas, Big Data e computação em nuvem, também será alcançada por novas pressões e interesses no domínio das políticas regulatórias da internet e suas interfaces jurisdicionais na esfera multilateral tradicional. É o que já ocorre em discussões travadas internamente pelos Estados, organizações, como a ONU, Organização Mundial da Propriedade Intelectual, União Internacional das Telecomunicações, e pelo próprio FGI. Esse movimento revoluciona a “diplomacia da internet”; ele é irreversível, não para por aí e merece ser aprofundado.
A dúvida, pois, é a de saber como todas as distintas estruturas de poder, entre atores estatais e não-estatais, incluindo a indústria, entrariam em consenso ou não sobre mecanismos e procedimentos a assegurar a higidez de domínios normativos com interfaces público-privado e de alcance transnacional – o da governança e o da observância das normas de conteúdo na internet (“content governance” e “content enforcement”).
E que ele seja caracterizado e calibrado por princípios, regras e objetivos que preservem não apenas a liberdade de expressão e de imprensa, liberdade de modelo de negócios e de proteção dos direitos fundamentais dos usuários, mas também o compromisso de diálogo e compartilhamento de poderes nos espaços jurisdicionais, o respeito às constituições e leis nacionais e aos padrões ainda vigentes do Estado Democrático de Direito. A preocupação justa de indivíduos, sociedade civil e academia, também se volta para a dialética dos métodos e procedimentos no campo da Internet.
Afinal, mesmo em instituições aparentemente democráticas, o direito resulta muitas vezes reduzido a arbitrariedades e ilegalidades, todas instrumentalizadas pelo processo e pela tomada de decisões, ambos a escapar do controle dos cidadãos em seus respectivos países e fora deles.
Para além do otimismo e da desconfiança que têm sido expressadas na opinião pública, nas rodadas de discussões entre especialistas em reuniões regionais, a iniciativa do Facebook, ao encampar o projeto do Conselho de Supervisão, não poderia ser confundida com um “tribunal global”, daí porque a interrogação, posta no título deste artigo, é uma provocação.
De acordo com documentos publicados e discussões nas rodadas de especialistas, a iniciativa do FOB foi concebida a partir da decisão da empresa sobre como transformar seus mecanismos de moderação de conteúdos na plataforma, respondendo à massa crítica, às pressões regulatórias, e a pleitos específicos relacionados, dentre vários, à transparência, ao devido processo, à justiça procedimental e à possibilidade de que decisões humanas e de máquina sejam revistas pela própria empresa.
A iniciativa poderia ser examinada também como incentivo ou indução para que a própria indústria global da internet reaja em cadeia de modo a prestar contas sobre a parcela de ‘casos invisíveis’ dos ‘casos invisibilizados’ envolvendo temas extremamente delicados no campo da moderação e remoção de conteúdo.
Opacidade nas decisões, falta de transparência, violação de direitos humanos (e.g. liberdades e garantias individuais, como liberdade de expressão, reunião, associação e direitos fundamentais online como o direito de privacidade e direito de desconexão), engajamento dúbio em relação a discurso de ódio, racismo, violência gráfica, desinformação e fake news’ têm sido argumentos sensíveis no debate de como tornar consistentes - com imperativos de legalidade, transparência e legitimidade -, a “governança” e a “aplicação de decisões” de conteúdo por parte de empresas.
Afinal, esse aspecto também me parece crucial para expor as desigualdades e externalidades na ‘cartografia’ da divisão internacional do conhecimento, ou das próprias assimetrias existentes na estruturação de relações baseadas em tecnologias, comunicação e informação. A divisão não permanece, pois, entre polarizações ideológicas no campo da diplomacia tecnológica entre Estados Unidos e China e as resistências da União Europeia. Ela também se trava no campo da quantidade e qualidade de tudo que circula na Internet e fora dela.
Já há algum tempo, ‘governance’ e ‘enforcement’ tornaram-se mantras na construção das estruturas e constituintes democráticas digitais da sociedade global do conhecimento.
As fragilidades desse sistema, contudo, não são expostas apenas na indústria global da internet, mas também nos mecanismos de solução de litígios pelos Judiciário. Não é de hoje que países como o Brasil, por exemplo, testemunham decisões manifestamente ilegais, desconhecedoras do direito internacional dos direitos humanos, das interfaces entre direito e tecnologias, da dogmática e da fundamentação consistente, e do respeito aos direitos e garantias fundamentais online. São decisões que igualmente afrontam liberdade de expressão, liberdade de imprensa, privacidade, devido processo legal e violam as esferas da soberania dos estados, sobretudo quando unilateralmente dispensam a cooperação jurídica internacional e rechaçam o compartilhamento das jurisdições.
O infante Marco Civil da Internet, apesar de toda celebrização como é festejado entre nós, tende a ser insuficiente para responder a aporias, dilemas ou transformações que são forjadas pelas pressões e políticas vigentes – da periferia ao centro – para regulação da internet. Citaria aqui, dentre tantos, a crescente demanda para criminalização de ‘fake news’ como reação à diversidade de opiniões políticas; criminalização dos usos legítimos de obras autorais exploradas nas redes e plataformas digitais; a desestabilização das regras de neutralidade de rede, ou mesmo o necessário redesenho sobre alocação equilibrada das regras de responsabilidade de intermediários de internet. O mundo marcha, todavia.
Conflitos em rede tenderão a ser resolvidos em rede, em referência a espaços de capilaridade tecnológica e desafios digitais. Mas dificilmente estarão imunes a um princípio de compartilhamento de espaços jurisdicionais e diálogos entre sistemas jurídicos e suas soluções no campo da internet.
Interessante, pois, que essa discussão possa ser transposta para os conglomerados globais da internet e computação e não se destina a elidir o “império da lei”. O próprio campo da ‘moderação de conteúdo’ em plataformas de relacionamento social, compartilhamento de dados, vídeos, mensagens, tornou-se segmento muito promissor da indústria 4.0, ocupado pelo desenvolvimento e aplicação de sistemas autônomos e inteligentes, robôs, e emprego de humanos em atividades de analítica e moderação sobre o que é produzido e compartilhado por usuários das redes, plataformas de mensagens e vídeos.
A centralidade do debate não pode levar apenas em conta o modelo ou design institucional a ser escolhido para um conselho de supervisão independente, como a respeito de sua aproximação ou não dos modelos de tribunais judiciais e arbitrais, de conselhos comunitários ou, ainda, como eu poderia recordar, órgãos estabelecidos por lei em regimes de cogestão empresarial (a exemplo do ‘Aufsichtrat’, previsto na lei acionária alemã, com a participação de trabalhadores tomando parte das decisões da administração da empresa).
<blockquote class="jota-article__eye">O exemplo do FOB é representativo por pensar de que maneira as alternativas de regulação transnacional e de suas soluções para conflitos da sociedade global do conhecimento transcendem o público/privado.</blockquote>
O argumento de alerta, sem dúvida, é o de permitir explorar algumas questões ainda pendentes.
Em que medida um mecanismo independente e transparente de revisão de decisões de moderação oferece duplamente a possibilidade de seleção de casos representativos, sem discriminar ou tornar invisíveis outros não menos sensíveis?
De que maneira usuários e terceiros interessados terão condições de participar de todas fases e procedimentos de revisão das decisões de moderação (em confronto com decisões de máquina e humanas) e em recomendações para revisão e aperfeiçoamento das políticas da comunidade, termos de uso e serviços adotadas pelas empresas?
Seriam os Padrões da Comunidade do Facebook suficientes para solucionar os casos de revisão da moderação quando confrontados com realidades e direitos de usuários e grupos divergentes das expectativas sociais da plataforma?
E em que medida e escala as decisões tomadas pelo Conselho de Supervisão e adotadas pela empresa serão eventualmente escrutinadas pelos tribunais judiciais estatais na tarefa de adjudicar litígios da internet e aplicar as leis, particularmente quando aquelas decisões sejam objeto de questionamento pelos usuários?
Essas questões nos provocam a repensar um universo muito particular sobre os possíveis diálogos jurisdicionais e que não poderiam ser desprezados. Ao ser criado, um conselho de supervisão para decisões de conteúdo tornar-se-á autêntico experimento legal e institucional. Ele tenderá a abrir espaços de aprendizados entre atores, expectativas e interesses na solução de certos casos representativos e ruidosos para a esfera pública que também é a internet. Mas temos de relembrar. Esses casos envolvem não apenas conteúdo – da informação ao conhecimento – na rede social. Eles vocalizam interesses e expectativas dos sujeitos que a constroem. E nesse ponto, o FOB não poderá estar indiferente a toda carga política, procedimental e constitucional que casos sensíveis podem representar para aquela relação de constante construção.

pexels-photo-842554

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Legitimidade pelo aprendizado legal e superação dos desafios digitais

Um tribunal global para a Internet?

Legitimidade pelo aprendizado legal e superação dos desafios digitais