Opinião e Análise

Ana Frazão

A entrada em vigor do Regulamento Geral de Proteção de Dados na União Europeia e a recente aprovação pelo Senado brasileiro do projeto de lei sobre proteção de dados pessoais ressaltaram as inquietações que a data driven economy vem gerando sobre os direitos da personalidade. A discussão mais comum e frequente tem ocorrido em torno da privacidade ou do controle sobre os dados pessoais, muitas vezes coletados de forma ilícita, sem a ciência e a autorização informada dos titulares.
A partir de tais dados, que são os verdadeiros insumos da nova economia, algoritmos conseguem transformá-los em informações economicamente úteis, mas que podem provocar verdadeira devassa na vida privada dos usuários. São exemplos os algoritmos que identificam a orientação sexual a partir do reconhecimento facial, os que decifram emoções a partir da medição de ondas cerebrais, os que diagnosticam crises depressivas e outros transtornos antes mesmo da manifestação de qualquer sintoma médico. É assustador imaginar o tipo de destinação que pode ser atribuída a tais recursos caso não haja nenhum tipo de controle, preocupação que é potencializada com o machine learning.
<ul class="jota-article__internal-links">
<li>+JOTA:<a href="https://www.jota.info/cadastre-se"> Faça o cadastro e leia até dez conteúdos de graça por mês! 
</a></li>
</ul>
Uma coisa é certa: algoritmos têm assumido o papel de fazer diagnósticos, julgamentos, classificações e rankings a respeito dos usuários que, embora não necessariamente corretos, serão utilizados pelos próprios agentes econômicos que os exploram e também cedidos para os seus parceiros de negócios em uma infinidade de aplicações que estão fora do alcance da imaginação do cidadão comum.
O problema é que esses julgamentos algorítmicos podem ter impactos diretos nas oportunidades e nas opções de vida dos usuários, pois deles dependerá o acesso a empregos, crédito, seguro e uma série de outros serviços. Por essa razão, a utilização dos dados não diz respeito apenas a problema de violação da privacidade, mas envolve outras relevantes discussões, como o direito de não ser julgado ou categorizado para determinados fins ou o direito de não ser julgado ou categorizado com base em determinados critérios.
A gravidade da situação aumenta quando não se tem nem mesmo como avaliar o potencial danoso de algoritmos, que normalmente se baseiam em dados, correlações e critérios de inferência sigilosos e sem qualquer transparência, que podem ser incorretos ou falsos, e que ainda podem ser utilizados para lastrear correlações que não correspondem a causalidades. Mais grave ainda, podem reproduzir correlações que sejam frutos de discriminações e de uma série de injustiças da vida social.
É por esse motivo que Cathy O`Neil<a href="#sdfootnote1sym" name="sdfootnote1anc">1</a> refere-se aos algoritmos como armas matemáticas de destruição, na medida em que, longe de serem neutros e objetivos, embutem em seus códigos uma série de decisões e opiniões que não podem ser contestadas, até porque não são conhecidas. Daí o seu potencial de destruição silenciosa, na medida em que podem basear seus julgamentos em preconceitos e padrões passados que automatizam o status quo e ainda podem ser utilizados para toda sorte de discriminações e violações de direitos.
A falta de transparência é reforçada quando se sabe que tais algoritmos são aperfeiçoados a partir da inteligência artificial, por meio da qual, com a aprendizagem de máquina (machine learning) e com as redes neurais artificiais, mais e mais algoritmos se desenvolvem independentemente, aprimorando a si mesmos e aprendendo com os próprios erros. Como bem resume Harari<a href="#sdfootnote2sym" name="sdfootnote2anc">2</a>, com a inteligência artificial, o algoritmo "segue o próprio caminho e vai aonde humanos nunca foram antes – até onde nenhum humano pode segui-lo”.
Daí o fundado receio de que dados e correlações manejados por algoritmos possam estar sendo utilizados como veículos de manutenção de discriminações e injustiças, preservando os padrões do passado – ainda que equivocados – ao mesmo tempo em que comprometem as possibilidades do futuro.
Logo, além dos riscos à privacidade e ao controle sobre os dados pessoais, é o próprio presente e o futuro das pessoas que pode estar sendo definido pelos algoritmos, sem que se tenha a possibilidade de conhecer e criticar os dados e correlações que alimentam seus processos decisórios.
Sob essa perspectiva, para o adequado endereçamento do problema, talvez não seja suficiente apenas uma lei de proteção de dados, embora esta seja certamente uma das providências mais importantes nessa seara, até para definir o que pode ser considerado dado pessoal. Há que se verificar igualmente a compatibilidade da utilização dos dados diante do Direito Constitucional, do Direito da Concorrência e do Direito do Consumidor, dentre outros.
Mais do que isso, há que se indagar sobre o grau e os mecanismos de transparência e accountability que se exigirão dos agentes empresariais que se utilizam de algoritmos para compreender e categorizar usuários para os mais diversos fins, o que traz impactos para a sua identidade pessoal - já que podem estar sendo definidos e classificados de forma equivocada - bem como para as oportunidades e opções de vida desses usuários, as quais podem estar sendo indevidamente restringidas em razão de diagnósticos apressados ou claramente equivocados.
<a name="_GoBack"></a> Ainda há que se analisar outro preocupante efeito da destinação dos dados pessoais: é que todo o conhecimento sobre os usuários ainda pode ser utilizado para, associado ao poder da comunicação e aos estudos da biologia, neurociência e psicologia, manipular as pessoas, bem como tentar modificar suas crenças e opiniões.
Como explica Tim Wu<a href="#sdfootnote3sym" name="sdfootnote3anc">3</a>, a partir do momento em que atenção se torna comoditizada, o tempo em que as pessoas passam em determinadas plataformas passa a ser importante fator não apenas para sujeitá-las à publicidade e à coleta dos seus dados, mas também para sujeitá-las a estratégias que visam influenciar e alterar suas preferências e visões de mundo<a href="#sdfootnote4sym" name="sdfootnote4anc">4</a>. É por essa razão que Tim Wu sustenta que o verdadeiro negócio de muitas das indústrias da nova economia é o de influenciar consciências.
Vista a questão por esse ângulo, a tecnologia pode estar sendo utilizada contra aquilo que temos de mais precioso: a nossa individualidade. A partir do momento em que as máquinas conseguem nos conhecer melhor do que nós mesmos, podem utilizar nossas fragilidades para manipular nossas emoções, crenças e opiniões para os mais diversos fins, inclusive políticos. Aliás, as eleições de Donald Trump e do Brexit ilustram bem tal preocupação.
Como bem afirma Castells<a href="#sdfootnote5sym" name="sdfootnote5anc">5</a>, a forma mais fundamental de poder é a de moldar a mente humana. No mesmo sentido, Martin Moore<a href="#sdfootnote6sym" name="sdfootnote6anc">6</a> destaca que as grandes plataformas adquiriram enorme poder de influenciar a ação coletiva e mesmo o voto das pessoas.
Ora, se o mais importante instrumento de poder em uma sociedade tecnológica e informacional é a capacidade de influenciar e manipular as pessoas, é fácil concluir que os principais riscos da nova economia vão muito além da violação à privacidade dos usuários, alcançando a identidade pessoal, a própria liberdade e, consequentemente, a cidadania e a democracia.
Como se procurou demonstrar ao longo do artigo, a coleta de dados e a sua utilização pelos diversos agentes da economia movida a dados vem colocando a personalidade sob um triplo risco: (i) a coleta em si dos dados, o que já seria preocupante do ponto de vista da privacidade e do controle dos dados pessoais; (ii) a utilização dos dados para a construção de julgamentos a respeito dos usuários que, corretos ou não, podem causar diversos danos a estes conforme os fins a que se destinam, limitando o acesso a produtos, serviços e oportunidades de vida e (iii) a utilização dessas informações com o propósito de manipular os próprios usuários, para os fins mais diversos, inclusive políticos.
Logo, o manuseio dos dados enseja preocupações que vão muito além da privacidade e do controle sobre os dados pessoais dos usuários: na verdade, o que está em jogo é a manutenção de valores como a identidade pessoal, a liberdade, as oportunidades e perspectivas do presente e do futuro das pessoas e a própria democracia.
&nbsp;
----------------------
<div id="sdfootnote1">
<a href="#sdfootnote1anc" name="sdfootnote1sym">1</a> Op.cit.
</div>
<div id="sdfootnote2">
<a href="#sdfootnote2anc" name="sdfootnote2sym">2</a> HARARI, Yuval Noah. Homo Deus: uma breve história do amanhã [edição eletrônica]. São Paulo: Companhia das Letras, 2016. 
</div>
<div id="sdfootnote3">
<a href="#sdfootnote3anc" name="sdfootnote3sym">3</a> WU, Tim. The attention merchants: the epic scramble to get insideour heads. Nova Iorque: Knopf, 2016.
</div>
<div id="sdfootnote4">
<a href="#sdfootnote4anc" name="sdfootnote4sym">4</a> Ver: FRAZÃO, Ana. Prefácio. In: FERNANDES, Ricardo Vieira de Carvalho; COSTA, Henrique Araújo; PRATA DE CARVALHO, Angelo Gamba. Tecnologia jurídica e direito digital. Belo Horizonte: Fórum, 2018.
</div>
<div id="sdfootnote5">
<a href="#sdfootnote5anc" name="sdfootnote5sym">5</a> CASTELLS, Manuel. O poder da comunicação. Tradução Vera Lucia Joyceline. Rio de Janeiro/São Paulo: Paz e Terra, 2015.
</div>
<div id="sdfootnote6">
<a href="#sdfootnote6anc" name="sdfootnote6sym">6</a> MOORE, Martin. Tech Giants and Civic Power. https://www.kcl.ac.uk/sspp/policy-institute/cmcp/tech-giants-and-civic-power.pdf. Acesso em 14.06.2018.
</div>

keyboard-616492_1920

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Indo além da privacidade e do controle aos dados pessoais

Data-driven economy e seus impactos sobre os direitos de personalidade

Indo além da privacidade e do controle aos dados pessoais