Opinião e Análise

Experimente o JOTA PRO por 10 dias e decida com mais segurança.

Ana Frazão

Em sua coluna no jornal Folha de S. Paulo de 08/12/2020, intitulada O papel do Google, Pablo Ortellado mostra o arranjo entre o governo e os grandes canais bolsonaristas no YouTube: o Planalto entrega ou autoriza imagens exclusivas do presidente e os canais produzem reportagens e peças de propaganda monetizadas. O arranjo beneficia diversos canais, que chegam a receber, com esse modelo de negócios, 330mil dólares no período de aproximadamente um ano.
Segundo o autor, “os maiores canais no YouTube que alimentam ideologia autoritária e populista do bolsonarismo recebem recursos pela monetização do Google”. Isso mostra que, não obstante os preocupantes desdobramentos políticos do modelo de negócios, as repercussões econômicas também não são triviais.
<div id="pro-poder-analise-politica-duplicado-4a97710080f7d951df05" role="main"></div>
<script type="text/javascript" src="https://d335luupugsy2.cloudfront.net/js/rdstation-forms/stable/rdstation-forms.min.js"></script> 
<script type="text/javascript"> new RDStationForms('pro-poder-analise-politica-duplicado-4a97710080f7d951df05', 'UA-53687336-1').createForm();</script>
O artigo chega a mencionar a iniciativa da campanha “Sleeping Giants” que, ao tentar desmonetizar a indústria da desinformação, optou por pressionar diretamente as marcas anunciantes ao invés de convencer o Google a suspender a monetização desses sites. Daí a importante conclusão de Pablo Ortellado: “O Google não é apenas uma operadora técnica e neutra do sistema de publicidade online. A empresa explora economicamente e fornece as receitas que fazem a máquina da desinformação rodar.”
A questão indicada pelo autor mostra como várias plataformas, por meio dos seus sistemas de monetização, mais do que indiferentes a conteúdos, podem estar lucrando e gerando lucros para terceiros com a desinformação, a mentira, o ódio e o medo. Afinal, há estudos que mostram que tais conteúdos atraem mais a atenção dos usuários e são compartilhados com maior frequência.
Dessa maneira, ainda que o design original de várias plataformas não tenha tido o propósito de favorecer esse tipo de conteúdo, o sistema de monetização acaba criando grandes incentivos para que isso aconteça.
Obviamente que não se trata de problema exclusivo do Google, estando presente em várias das plataformas e modelos de negócios online. Ainda no sábado 12/12, a Folha de São Paulo publicou a matéria “Pornhub dissemina imagens de pornografia infantil e de estupros.” Vale ressaltar que o referido site é um dos mais visitados globalmente - atrai 3,5 bilhões de visitas por mês, mais do que Netflix, Yahoo ou Amazon –, fatura com os quase 3 bilhões de anúncios vistos a cada dia e é considerado o terceiro site mais influente do mundo, ficando atrás apenas de Facebook e Google.
O problema do site não diz respeito propriamente ao conteúdo pornográfico, mas sim ao fato de que está infestado de vídeos de estupros, inclusive de menores, sexo com menores, pornografia de vingança, vídeos gravados por câmaras clandestinas, conteúdos racistas e misóginos, cenas de violência contra mulheres, dentre outros conteúdos ilícitos.
Vale ressaltar que, diferentemente do YouTube, o site permite que vídeos sejam baixados diretamente, o que aumenta consideravelmente o risco de veiculação de conteúdos ilícitos. O número de vítimas que tiveram suas imagens indevidamente divulgadas, com prejuízos irreversíveis, é incalculável.
Esses dois exemplos mostram a importância de refletirmos sobre os negócios baseados em divulgação de conteúdos, especialmente as plataformas, com um pouco mais de atenção. Demoramos a entender que, diante de serviços gratuitos, o produto somos nós.
<blockquote class="jota-article__eye">Demoramos a entender que, em muitos casos, as diversas plataformas competem pelos mesmos mercados de tempo e atenção ou mesmo de influência ou manipulação dos seus usuários.</blockquote>
Demoramos a entender os desdobramentos políticos, sociais e econômicos do poder de conexão e de controle informacional que detêm vários desses entes.
Com efeito, várias plataformas e negócios digitais acabaram assumindo o papel de gatekeepers dos tempos atuais. O termo gatekeepers, como bem explica Karine Barzilai-Nahon<a href="#_ftn1" name="_ftnref1">[1]</a>, refere-se aos agentes que, em razão de sua centralidade, exercem todas as formas de controle de informação no network que criam – tais como seleção, framing, timing, repetição, sonegação, entre outros – e ainda têm grandes poderes sobre os membros do network, na medida em que podem (i) “prender” usuários dentro da rede; (ii) proteger normas, informações, usuários e comunidades de entradas não desejadas; e (iii) ainda manter atividades em curso dentro da rede sem distúrbios.
Daí por que é fantasiosa a ideia de plataformas abertas e neutras em relação ao conteúdo. De forma contrária, toda e qualquer plataforma adota regras de moderação<a href="#_ftn2" name="_ftnref2">[2]</a>, embora tal função, como bem adverte Tartelon Gillespie<a href="#_ftn3" name="_ftnref3">[3]</a>, seja intencionalmente difícil de ser examinada e mesmo de ser percebida.
A moderação permite que as plataformas possam regular o discurso de seus usuários, impondo políticas e termos de serviço e gerenciando o fluxo de conteúdos ilícitos automaticamente, por meio de softwares ou manualmente, seja antes da publicação (moderação ex ante), seja depois (moderação ex post)<a href="#_ftn4" name="_ftnref4">[4]</a>.
A experiência prática tem mostrado que o papel de muitos desses agentes não se resume propriamente à moderação e às consequências de remoção e bloqueio de conteúdos, mas abrange também o gerenciamento de como os conteúdos são classificados e como alguns deles ganham destaque em detrimento de outros<a href="#_ftn5" name="_ftnref5">[5]</a>. Acresce que são muitas as estratégias para fazer com que seus sites se tornem viciantes, o que produz engajamento e mantém os usuários na plataforma<a href="#_ftn6" name="_ftnref6">[6]</a>.
Consequentemente, limitar a questão da responsabilidade ao plano da “criação” do conteúdo passou a ser insuficiente para equacionar o poder e a responsabilidade, diante da constatação evidente de que “a moderação e a recomendação dos sistemas de algoritmos determinam que conteúdo será visto e ouvido” pelos usuários<a href="#_ftn7" name="_ftnref7">[7]</a>. Mais do que isso, essa dinâmica de divulgação de conteúdos move uma sofisticada máquina por meio da qual podem lucrar não apenas a plataforma como também vários dos seus usuários, ainda que por meio da veiculação de conteúdos ilícitos ou impróprios.
Apesar de todo o seu controle sobre o fluxo informacional, especialistas em tecnologia concordam que os esforços das plataformas para atuar proativamente no sentido de detectar e remover conteúdos extremos, incluindo aí o terrorismo, têm ficado aquém do que se espera<a href="#_ftn8" name="_ftnref8">[8]</a>. Essas falhas sugerem que os deveres de cuidado não estão sendo cumpridos, mormente porque as plataformas poderiam se valer das mesmas tecnologias que utilizam para direcionar propagandas a seus usuários e ampliar seus lucros para promover a identificação eficiente a supressão de conteúdos ilícitos<a href="#_ftn9" name="_ftnref9">[9]</a>.
Michael Lavi<a href="#_ftn10" name="_ftnref10">[10]</a> aponta que as plataformas são, na verdade, explicitamente programadas para promover conteúdos que geram reações fortes, ante o fato de que isso “evoca emoções de alta excitação”, que têm mais probabilidade de serem compartilhadas, reforçando o engajamento na plataforma e aumentando os lucros desta<a href="#_ftn11" name="_ftnref11">[11]</a>.
Sob esta perspectiva, abre-se nova frente de discussão, que deixa de ter como foco apenas o controle de conteúdos e passa a ter como foco a própria arquitetura da plataforma, ou seja, o seu design e a compatibilidade deste com padrões mínimos de accountability<a href="#_ftn12" name="_ftnref12">[12]</a> e de cuidado. Não é sem razão que, nesse cenário, autores como Maria Patakyová e Ján Mazúr<a href="#_ftn13" name="_ftnref13">[13]</a> destacam que o denominador comum dos danos expostos acima está no design das plataformas, criado para atingir interesses econômicos dos agentes, ao mesmo tempo em que impõe externalidades significativas à sociedade.
A constatação de que as plataformas digitais não somente vêm exercendo a curadoria de conteúdos, como vêm fazendo isso de forma a aparentemente priorizar os seus interesses econômicos em detrimento dos demais interesses envolvidos, mesmo que ao preço de graves externalidades negativas, não passou despercebida para a Declaração do Conselho de Ministros da Europa<a href="#_ftn14" name="_ftnref14">[14]</a>:
Mais ainda, tecnologias e sistemas movidos a dados são desenhados para atingir, continuamente, soluções ótimas considerados os parâmetros fornecidos por seus desenvolvedores. Quando operam em larga escala, esses processos de otimização, inevitavelmente, priorizam certos valores em detrimento de outros, e, em consequência, moldam os contextos e os ambientes nos quais os indivíduos, seus usuários e não usuários também, recebem informações e tomam suas próprias decisões. Essa reconfiguração do ambiente pode ser benéfica para alguns indivíduos e grupos enquanto prejudicial para outros, o que suscita discussões também sobre a distribuição de seus resultados (...).
Se já seria preocupante que não houvesse o devido dever de cuidado em relação aos conteúdos que trafegam nas plataformas, mais preocupante ainda é quando o próprio sistema de monetização pode criar incentivos e grandes lucros para a divulgação de conteúdos ilícitos ou inapropriados.
Por mais que se trate de problema complexo, está mais do que hora de uma reflexão mais intensa sobre o papel dos sistemas de monetização em criar incentivos para os ilícitos, o que certamente tem efeitos sobre as regras de responsabilidade civil de agentes que propiciam que isso aconteça e ainda lucram com isso.
<hr />
O episódio 47 do podcast Sem Precedentes analisa o julgamento do Supremo Tribunal Federal que decidiu pela inconstitucionalidade da reeleição dos presidentes do Congresso. Ouça:
https://youtu.be/o8E3sXtx7j0
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> BARZILAI-NAHON, Karine. Toward a theory of gatekeeping: a framework for exploring information control. Journal of the American Society for Information Science and Technology, v. 59, 2008, p. 1496.
<a href="#_ftnref2" name="_ftn2">[2]</a> GILLESPIE, Tarleton. Custodians of the Internet: Platforms, content moderation, and the hidden decisions that shape social media, 2018. Disponível em <a href="about:blank">https://www.researchgate.net/publication/327186182_Custodians_of_the_internet_Platforms_content_moderation_and_the_hidden_decisions_that_shape_social_media</a>.
<a href="#_ftnref3" name="_ftn3">[3]</a> GILLLESPIE, Tartelon. Custodians of the Internet, cit.
<a href="#_ftnref4" name="_ftn4">[4]</a> LAVI, Michael. Do platforms kill? Harvard Journal Law Review &amp; Public Policy, vol. 43, p. 477-573, 2020, pp. 497-498.
<a href="#_ftnref5" name="_ftn5">[5]</a> GILLLESPIE, Tartelon. Custodians of the Internet, cit.
<a href="#_ftnref6" name="_ftn6">[6]</a> LAVI, Do Platforms Kill?, cit., p. 500-502.
<a href="#_ftnref7" name="_ftn7">[7]</a> LAVI, Michael. Do platforms kill?cit., p. 487.
<a href="#_ftnref8" name="_ftn8">[8]</a> LAVI, Do Platforms Kill, cit., p. 497-498.
<a href="#_ftnref9" name="_ftn9">[9]</a> LAVI, Do Platforms Kill, cit., p. 497-498.
<a href="#_ftnref10" name="_ftn10">[10]</a> LAVI, Do Platforms Kill, cit., p. 500-502.
<a href="#_ftnref11" name="_ftn11">[11]</a> LAVI, Do Platforms Kill, cit., p. 500-502.
<a href="#_ftnref12" name="_ftn12">[12]</a> MAZÚR; PATAKYOVÁ, Regulatory, cit., p 249.
<a href="#_ftnref13" name="_ftn13">[13]</a> MAZÚR, PATAKYOVÁ, Regulatory, cit., p. 219.
<a href="#_ftnref14" name="_ftn14">[14]</a> Declaration by Committee of Ministers on the manipulative capabilities of algorithmic processes, fev. 2019. Disponível em <a href="about:blank">https://ccdcoe.org/uploads/2019/09/CoE-190213-Declaration-on-manipulative-capabilities-of-algorithmic-processes.pdf</a>.

youtube

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

O papel dos sistemas de monetização em criar incentivos para ilícitos

A delicada questão da monetização dos negócios de divulgação de conteúdos

O papel dos sistemas de monetização em criar incentivos para ilícitos