Constituição, Empresa e Mercado

Tecnologia

Capitalismo de vigilância e black box society

A vigilância constante e a ausência de transparência como desafios para a regulação jurídica

Imagem: Pixabay

Em tempos em que várias teorias liberalizantes do mercado ganham força, sob o argumento de que o papel do Estado é dispensável ou mesmo nefasto, é importante refletir sobre algumas características marcantes do capitalismo atual, que podem realçar a necessidade e a importância da regulação jurídica.

Alguns desses traços recentes são muito bem expostos por Frank Pasquale no seu instigante livro The black box society. The secret algorithms that control money and information1, no qual traz importantes questões sobre a regulação jurídica dos mercados, especialmente nos setores de tecnologia e finanças.

A primeira pergunta feita pelo autor é: como vamos entender, investigar ou regular mercados sobre os quais muito pouco – ou mesmo nada – é conhecido? Já a segunda pergunta é: e se essa ignorância não for propriamente um intrínseco aspecto do mercado, mas sim uma estratégia deliberada, tomada e encorajada por certos negócios, exatamente para evitar qualquer tipo de regulação?

Para responder a tais perguntas, o autor escolhe, como objeto de exame, os setores de alta tecnologia e finanças. Tal recorte metodológico não se dá por acaso, mas sim diante da centralidade de ambos em nossas vidas. Citando George Dyson em seu livro Turing’s Cathedral, Frank Pasquale menciona que o Facebook define quem somos, a Amazon define o que queremos e o Google define o que pensamos. E o mesmo raciocínio poderia ser estendido às finanças, que definem o que temos (pelo menos materialmente) e a nossa reputação, o que crescentemente delimita nossas oportunidades.

Prosseguindo em sua análise nos mercados mencionados, Frank Pasquale considera que os dados pessoais dos cidadãos têm sido utilizados por governos e grandes players econômicos para a criação do que chama de one way mirror, possibilitando que tais agentes saibam tudo dos cidadãos, enquanto estes nada sabem dos primeiros2. E tudo isso acontece por meio de um monitoramento e vigília constantes sobre cada passo da vida das pessoas, o que leva a um verdadeiro capitalismo de vigilância, cuja principal consequência é a consolidação de uma sociedade também de vigilância.

As preocupações a respeito da relação entre Big Data e uma sociedade de vigilância não são recentes. Ian Lloyd3 lembra-nos que, em 2004, Richard Thomas, então Information Comissioner do Reino Unido, já alertava para os perigos do fenômeno que via acontecer em seu país e que descreveu como um “sleepwalking into a surveillance society”. Tais preocupações foram consolidadas em relatório publicado em 2006 pela ICO e intitulado A Report on the Surveillance Society4.

Nos últimos anos, o alerta passou a acompanhar a evolução e crescente penetração do Big Data em nossas vidas. Não é sem razão que, na literatura a respeito da violação de dados, é recorrente a referência aos problemas decorrentes do excesso de vigilância que caracteriza os nossos tempos.

Um dos principais estudos recentes sobre o tema é o de Shoshana Zuboff5, para quem o capitalismo de vigilância utiliza-se de toda a experiência humana, incluindo vozes, personalidades e emoções, como matéria-prima gratuita para ser traduzida em dados comportamentais. Embora o que esteja em jogo seja a nossa própria autonomia individual, essas pretensões invasivas, segundo a autora, são alimentadas pela ausência de leis para conter o fenômeno, pela mutualidade de interesses entre os capitalistas e as agências de inteligência estatais e pela tenacidade com que as corporações defendem seus novos territórios.

A visão da autora, embora distinta, converge para os pontos ressaltados por Frank Pasquale, para quem o one way mirror, além de esvanecer a distinção entre estado e mercado, faz com que sejamos crescentemente governados pelo que Jeff Connaughton chamou de The Blob, ou seja, um network de atores que age às sombras, mobilizando dinheiro e mídia para ganhos privados, mesmo quando agem oficialmente em nome do negócio ou do governo.

Frank Pasquale ainda alerta para o fato de que a opacidade e a falta de transparência, longe de serem características intrínsecas aos mercados digitais e financeiros, são na verdade o resultado da ação deliberada dos agentes econômicos ou estatais a quem a ausência de controle aproveita. Por meio de uma série de estratégias jurídicas (como a proteção do segredo de negócios) e não jurídicas, importantes agentes econômicos e governamentais criam um ambiente de ofuscação que lhes permite ordenar, ranquear, avaliar e decidir sobre a vida das pessoas, mantendo suas técnicas em segredo.

O problema é que, como aponta Frank Pasquale, essa estratégia compromete todo o potencial de liberdade e difusão de informação inerente à internet, colocando em risco os direitos individuais e o próprio crescimento econômico. Na verdade, tal estratégia passa a servir de instrumento para consolidar o poder e a riqueza dos grandes agentes, cujas atividades deixam de estar sujeitas a qualquer tipo de controle, na medida em que não podem ser monitoradas nem reguladas.

Mesmo no tocante à indústria de dados em sentido mais amplo, da qual participam agentes de tratamento que não têm contato direto com os titulares de dados, a Federal Trade Comission norte-americana, em 2014, já denunciava os problemas decorrentes da opacidade e da ausência de conhecimento, pelos consumidores, das práticas utilizadas. Consta do seu relatório Data Brokers: A call for transparence and accountability6 a seguinte conclusão:

Many of these findings point to a fundamental lack of transparence about data broker industry practices. Data brokers acquire a vast array of detailed and specific information about consumers; analyze it to make inferences about consumers, some of which may be considered sensitive; and share information with clients in a range of industries. All of this activity takes place behind the scenes, without consumers’ knowledge.”

Todo esse diagnóstico contrasta com um dos pontos fundamentais defendidos por Pasquale: o de que a transparência é necessária para dar inteligibilidade não apenas ao mercado, mas ao mundo como um todo. Daí por que, se quisermos avançar na questão da regulação jurídica dos mercados, é fundamental que possamos criar mecanismos de transparência e accountability, pois não se tem como regular o que não se conhece.

Logo, cabe ao Estado e à regulação jurídica definir aquilo que não se conhece mas que pode e deve ser conhecido, bem como os meios pelos quais isso deve ocorrer. Somente assim será possível superar as distorções do one way mirror e equilibrar melhor o jogo de forças atualmente existente, preservando os direitos individuais e a própria democracia.

——————————-

1 Pasquale, Frank. The black box society. The secret algorithms that control money and information. Cambridge: Harvard University Press, 2015.

2 O problema da opacidade dos algoritmos já foi tratado em diversas colunas da autora, dentre as quais “Dados, estatísticas e algoritmos. Perspectivas e riscos da sua crescente utilização”. Jota. 28.06.2017 e “Algoritmos e Inteligência Artificial”. Jota. 16.05.2018.

3 LLOYD, Ian J. Information Technology Law. Oxford: Oxford University Press, 2017.

4 ICO. A Report on the Surveillance Society. https://ico.org.uk/media/about-the-ico/documents/1042390/surveillance-society-full-report-2006.pdf. Acesso em 20.02.2019.

5 ZUBOFF, Shoshana. The age of surveillance capitalism. The fight for a human future at the new frontier of power. New York: Public Affairs, 2019.


Cadastre-se e leia 10 matérias/mês de graça e receba conteúdo especializado

Cadastro Gratuito