Julia Iunes Monteiro

Natália de Macedo Couto

Todo usuário de rede social já deve ter se perguntado por que está recebendo determinados tipos de anúncios ou por que as postagens de certas pessoas aparecem mais que outras. Sabemos que a organização das postagens e o direcionamento de conteúdos é realizada de forma automatizada, mas não existe transparência sobre os critérios adotados para realizar esse tipo de moderação, especialmente levando-se em conta que a recomendação algorítmica opera de forma personalizada para cada usuário.
O Instagram, por exemplo, divulgou recentemente um <a href="https://about.instagram.com/pt-br/blog/announcements/shedding-more-light-on-how-instagram-works" target="_blank" rel="noopener noreferrer">artigo</a> onde busca “explicar melhor” o funcionamento de seus algoritmos. A rede social indica que as publicações do feed são classificadas “com base no conteúdo que [cada usuário] considera mais relevante”, isto é, conforme a probabilidade da pessoa “ver [a] publicação por alguns segundos, fazer um comentário nela, curti-la, salvá-la e tocar na foto do perfil [de seu autor]”.
<a href="https://www.jota.info/produtos/poder?utm_source=Banner%20site&amp;utm_medium=Artigos&amp;utm_campaign=CTA_Poder_materias"><img class="size-medium wp-image-292717 aligncenter" src="https://www.jota.info/wp-content/uploads/2021/01/jota-pro-poder.jpg" alt="" width="688" height="688" /></a>Tais informações apenas confirmam o que vem sendo há muito tempo levantado pela academia: em um cenário de capitalismo de vigilância<a href="#_ftn1" name="_ftnref1">[1]</a>, o objetivo primordial da “personalização” de conteúdos é o de gerar maior engajamento, permitindo que as pessoas permaneçam o maior tempo possível na rede, o que, por sua vez, possibilita a vigilância de seus comportamentos e a coleta massiva de seus dados pelas plataformas. Também já foram largamente retratados os possíveis efeitos dessa “personalização”, como a formação de filtros bolha, câmaras de eco e polarização política<a href="#_ftn2" name="_ftnref2">[2]</a>.
No entanto, saber que a finalidade do algoritmo é nos manter conectados não explica a lógica por trás de seu funcionamento: continuamos sem respostas sobre por que determinada propaganda nos é direcionada, em quais <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-2-23062021" target="_blank" rel="noopener noreferrer">classificações e perfis</a> estamos sendo encaixados, e que tipos de dados estão sendo coletados a nosso respeito para que sejam tomadas essas decisões.
Trata-se de informações importantes para o exercício da autodeterminação informativa por parte dos usuários da rede bem como para a fiscalização pela ANPD sobre se o tratamento realizado pelas plataformas estaria de acordo com os princípios da finalidade, adequação, necessidade e não-discriminação ressalvados pela Lei Geral de Proteção de Dados.
Um ponto fulcral neste debate é que a transparência e o uso adequado dos dados pelos sistemas de recomendação algorítmica<a href="#_ftn3" name="_ftnref3">[3]</a> se mostra importante não apenas no nível individual, mas especialmente no âmbito coletivo.
Vários estudos já demonstraram como a exploração comercial dos dados por redes sociais, aliada a técnicas de <a href="https://foundation.mozilla.org/pt/blog/basics-microtargeting-and-political-ads-facebook/" target="_blank" rel="noopener noreferrer">micro-targeting</a>, são capazes de modificar a percepção dos indivíduos sobre a realidade, afetando não apenas o direito à privacidade, mas também a maneira com a qual as pessoas acessam informações e exercem sua liberdade de expressão e participação política. O caso da Cambridge Analytica é um exemplo paradigmático neste sentido.
<h3>Sistemas de recomendação algorítmica devem ser transparentes e explicáveis</h3>
Muito pouco se sabe sobre quais dados pessoais, inclusive dados sensíveis dos usuários, como etnia, orientação sexual, convicção política ou religiosa, estão sendo utilizados pelas plataformas para a criação de perfis e posterior direcionamento dos conteúdos, sejam eles anúncios ou postagens de forma geral. Como funcionam esses sistemas de recomendação?
O direito à explicação<a href="#_ftn4" name="_ftnref4">[4]</a> é essencial para que as pessoas possam compreender como suas informações pessoais estão sendo utilizadas pela rede social para influenciar os conteúdos que lhes são apresentados.
Embora as demandas por explicabilidade sempre esbarrem na questão do segredo comercial da empresa, seria importante estabelecer como dever das plataformas de rede social o fornecimento de explicações sobre, por exemplo, as categorias ou tags utilizados para a criação de perfis e o peso que cada uma das categorias exerceu sobre a decisão final de recomendação de conteúdo<a href="#_ftn5" name="_ftnref5">[5]</a>, por exemplo.
<h3>Lições que podem ser aprendidas a partir do caso Schrems x Facebook</h3>
A transparência e explicabilidade das operações de tratamento de dados se mostram ainda mais importantes em um cenário no qual as plataformas de redes sociais são frequentemente acusadas por violar as leis de proteção de dados de diversos países.
Exemplo disso foi a recente condenação do Facebook pela Corte Constitucional austríaca em ação ajuizada pelo conhecido ativista em direitos digitais, Max Schrems<a href="#_ftn6" name="_ftnref6">[6]</a>. A empresa foi condenada ao pagamento de indenização por danos morais, por não ter oferecido acesso completo sobre os dados coletados e nem justificado qual teria sido a base legal do tratamento<a href="#_ftn7" name="_ftnref7">[7]</a>.
O episódio ainda terá novos desdobramentos importantes, visto que foram encaminhados questionamentos à Corte de Justiça da União Europeia sobre se as práticas de uso de dados do Facebook, especialmente para o direcionamento de anúncios, estariam de acordo com o RGPD (Regulamento Geral de Proteção de Dados Europeu). A Corte deverá se pronunciar, dentre outros aspectos, sobre as seguintes questões:
i) a concordância genérica dos usuários com os termos de uso da plataforma seria suficiente para autorizar o Facebook a processar toda sorte de dados para direcionamento de anúncios? Não seria necessário um consentimento específico para tal finalidade?;
ii) dados sensíveis como opinião política ou orientação sexual podem ser usados para a personalização de anúncios?;
iii) a personalização não deveria ser opcional, com a disponibilização de mecanismos de opt-out para os usuários retirarem seu consentimento?
A decisão a ser proferida pela Corte da UE pode trazer impactos importantes sobre o modelo de negócios da plataforma, com reflexos também para o Brasil.
No Brasil, a LGPD já prevê a possibilidade dos titulares de dados pedirem explicações sobre as decisões automatizadas, mas o ideal é que as plataformas ofereçam, de antemão, algum nível de explicabilidade algorítmica.
O princípio da transparênciaprevisto pela Lei Geral de Proteção de Dados garante aos titulares o acesso a “informações claras, precisas e facilmente acessíveis sobre a realização do tratamento”<a href="#_ftn8" name="_ftnref8">[8]</a> de seus dados pessoais.
Ocorre que o usuário, por iniciativa própria, é quem deve fazer o requerimento à plataforma, pedindo explicações sobre como foi realizado o tratamento de seus dados, ou mesmo a revisão da decisão automatizada<a href="#_ftn9" name="_ftnref9">[9]</a>.
Isto significa que, se você recebe determinado tipo de anúncio no Instagram, você tem direito a pedir explicações sobre porque aquele conteúdo lhe foi direcionado.
O problema é que, muitas das vezes, os usuários sequer percebem que estão sendo constantemente submetidos a decisões automatizadas e que os anúncios, pessoas, vídeos e notícias que aparecem nas redes sociais são fruto de escolhas realizadas pelos algoritmos. Seria impossível imaginar que qualquer pessoa teria a iniciativa de pedir a revisão de uma decisão automatizada quando, em primeiro lugar, ela sequer sabe que está sendo submetida a ela.
Conforme indicado em <a href="https://lapin.org.br/wp-content/uploads/2020/08/LAPIN-NT-PL-2630-Transparencia-Algoritmica.pdf" target="_blank" rel="noopener noreferrer">nota técnica elaborada pelo LAPIN</a>, ainda não é prevista por lei a obrigação da plataforma, como controladora dos dados, em informar previamente aos usuários quando uma decisão automatizada acontece, disponibilizando explicações e mecanismos de fácil acesso para que as pessoas possam pedir revisão dessas decisões.
O ideal seria que os sistemas de perfilamento e recomendação de conteúdos em redes sociais fossem submetidos a um regime de transparência espontânea, no qual o controlador dos dados deve informar, independente de requerimento prévio:
i) que o usuário está sendo submetido a decisões automatizadas de perfilamento;
ii) as informações relevantes sobre a lógica da tomada de decisões;
além dos iii) resultados e possíveis consequências das decisões.
Quais são os possíveis impactos regulatórios dessa discussão? 
Mesmo que a lei de proteção de dados brasileira não tenha feito previsões expressas no sentido de uma transparência espontânea, espera-se que essas orientações possam ser promovidas pela ANPD, que tem a competência de “dispor sobre as formas de publicidade das operações de tratamento” e estimular os responsáveis pelo tratamento de dados, neste caso, as redes sociais, a adotarem “padrões [...] que facilitem o exercício de controle dos titulares sobre seus dados pessoais”<a href="#_ftn10" name="_ftnref10">[10]</a>.
Ademais, encontra-se em trâmite na Câmara dos Deputados o “PL das Fake News”, que visa regulamentar a atuação de provedores de aplicação, como as plataformas de redes sociais. O projeto segue acertadamente na determinação de medidas de transparência, como a elaboração de relatórios sobre as atividades de moderação de conteúdo, e a obrigação das plataformas sinalizarem os conteúdos de caráter publicitário.
No entanto, não há nenhuma determinação no projeto quanto à transparência dos algoritmos que personalizam conteúdos e direcionam anúncios na rede.
A explicabilidade e transparência das operações de tratamento de dados e dos algoritmos utilizados para micro-targeting são questões importantes a serem observadas pelas plataformas de redes sociais e que não podem deixar de ser pauta tanto da ANPD, como do<a href="https://www.camara.leg.br/noticias/781471-camara-instala-nesta-terca-feira-grupo-de-trabalho-sobre-lei-de-combate-a-fake-news/" target="_blank" rel="noopener noreferrer"> grupo de trabalho</a> instalado na Câmara dos Deputados, para discutir o “PL das Fake News”.
<div id="teste3-99b6e4ed7825b47581be" role="main"></div>
<script type="text/javascript" src="https://d335luupugsy2.cloudfront.net/js/rdstation-forms/stable/rdstation-forms.min.js"></script> 
<script type="text/javascript"> new RDStationForms('teste3-99b6e4ed7825b47581be', 'UA-53687336-1').createForm();</script> 
<script type="text/javascript">
setTimeout(function(){
 const btn = document.getElementById("rd-button-knf3ol7n")
 const check = document.getElementById("rd-checkbox_field-knj7ibbg")
 btn.disabled = true;
 btn.style.opacity = 0.7;
 check.addEventListener("click", function() {
 if (check.checked){
 btn.disabled = false;
 btn.style.opacity = 1;
 } else {
 btn.disabled = true;
 btn.style.opacity = 0.7;
 }
 });
}, 3000);
</script>
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> ZUBOFF, Shoshana. The age of surveillance capitalism: The Fight for a Human Future at the New Frontier of Power. New York: Public Affairs, 2018.
<a href="#_ftnref2" name="_ftn2">[2]</a> ZINGALES, Luigi. LANCIERI, Filipo. Stigler Committee on Digital Platforms: Policy Brief. Stigler Center for the Study of the Economy and the State. Chicago Booth. 2019. pp. 6-22. Disponível em: &lt;<a href="https://www.publicknowledge.org/wp-content/uploads/2019/09/Stigler-Committee-on-Digital-Platforms-Final-Report.pdf">https://www.publicknowledge.org/wp-content/uploads/2019/09/Stigler-Committee-on-Digital-Platforms-Final-Report.pdf</a>&gt;.
<a href="#_ftnref3" name="_ftn3">[3]</a> Para uma análise do conceito e propostas de regulamentação desses sistemas, ver: COBBE,  Jennifer; SINGH, Jatinder.Regulating Recommending: Motivations,Considerations, and Principles. Europe and  Journal  of  Law and Technology,  vol  10, n. 3, 2019. Disponível em: &lt;<a href="https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3371830">https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3371830</a>&gt;.
<a href="#_ftnref4" name="_ftn4">[4]</a> DOSHI-VELEZ, Finale  et .al. Accountability of AI Under the Law: The Role of Explanation. Berkman Klein Center Working Group on Explanation and the Law, 2017.  Disponível em: &lt;nrs.harvard.edu/urn-3:HUL.InstRepos:34372584&gt;.
<a href="#_ftnref5" name="_ftn5">[5]</a> LAPIN. Nota técnica PL 2.630/2020 sobre a inclusão de mecanismos de transparência algorítmica no projeto de lei. Disponível em: &lt;https://lapin.org.br/wp-content/uploads/2020/08/LAPIN-NT-PL-2630-Transparencia-Algoritmica.pdf&gt;.
<a href="#_ftnref6" name="_ftn6">[6]</a> Justiça da Áustria condena Facebook em caso de acesso a dados.Correio do Povo, 21. jul. 2021. Disponível em: &lt;https://www.correiodopovo.com.br/jornalcomtecnologia/justi%C3%A7a-da-%C3%A1ustria-condena-facebook-em-caso-de-acesso-a-dados-1.658909&gt;.
<a href="#_ftnref7" name="_ftn7">[7]</a> Austrian Supreme Court asks CJEU if Facebook "undermines" the GDPR by confusing 'consent' with an alleged 'contract'. NOYB, 20. jul. 2021. Disponível em: &lt;https://noyb.eu/en/breaking-austrian-ogh-asks-cjeu-if-facebook-undermines-gdpr-2018&gt;.
<a href="#_ftnref8" name="_ftn8">[8]</a> Art. 6º, inciso VI da LGPD.
<a href="#_ftnref9" name="_ftn9">[9]</a> Art. 20, § 1º e § 2º da LGPD.
<a href="#_ftnref10" name="_ftn10">[10]</a> Nos termos do artigo 55-J, incisos VIII e X da LGPD.

Celular pode ser usado para acionar assistentes virtuais de defensorias

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

É necessário que plataformas assumam deveres de transparência e explicabilidade sobre o tratamento dos dados

Como funciona a personalização de conteúdos em redes sociais?

É necessário que plataformas assumam deveres de transparência e explicabilidade sobre o tratamento dos dados