Opinião e Análise

Ana Frazão

No <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-mito-da-soberania-do-consumidor-01122021">artigo anterior</a>, procurei demonstrar como os pressupostos da soberania do consumidor são idealizados e cada vez mais descolados do mundo real. No presente texto, meu propósito é advertir para o fato de que a economia digital pode tornar o consumidor ainda mais vulnerável, solapando por completo qualquer possibilidade de se pensar em soberania e em soluções de mercado para a devida proteção.
Para demonstrar os riscos a que os consumidores estão expostos, vale ressaltar que, em um dos mais abrangentes estudos realizados pelo governo norte-americano sobre mercados digitais<a href="#_ftn1" name="_ftnref1">[1]</a>, a conclusão foi no sentido do protagonismo das plataformas digitais e do crescente uso manipulativo do design destas para aumentar a possibilidade de que usuários consintam com práticas lesivas a seus interesses, como o tracking de dados pessoais.
<a href="https://www.jota.info/produtos/tributos?utm_source=Banner%20site&amp;utm_medium=Artigos&amp;utm_campaign=CTA_Tributos_materias"><img class="aligncenter cta-tributos size-full" src="https://www.jota.info/wp-content/uploads/2021/09/cta-jota-pro-tributos.png" width="688" height="688" /></a>
Com efeito, o meio digital é caracterizado pela presença maciça das chamadas dark patterns, estratégias que ou dificultam que os consumidores expressem suas reais preferências ou que os manipulam para que tomem ações que não sejam compatíveis com suas preferências ou expectativas.
Segundo o relatório do governo norte-americano, as dark patterns têm sido usadas para aumentar o poder de mercado das empresas e maximizar sua possibilidade de extrair indevidamente renda dos consumidores, fazendo com que paguem, em dinheiro ou em dados pessoais, por bens e serviços que não refletem suas preferências e que podem não servir aos seus interesses<a href="#_ftn2" name="_ftnref2">[2]</a>. Trata-se, portanto, de substancial falha de mercado, já que as dark patterns refletem situação na qual o que é bom para os lucros do comércio é ruim para os consumidores<a href="#_ftn3" name="_ftnref3">[3]</a>.
Tais conclusões são convergentes com o relatório do Stigler Center sobre plataformas digitais, do qual podem ser extraídas as seguintes conclusões principais em relação aos consumidores<a href="#_ftn4" name="_ftnref4">[4]</a>:
<ul>
<li>(i) os danos aos consumidores são maiores quando o poder de mercado é combinado com vieses comportamentais;</li>
<li>(ii) manipulações de consumidores são usuais no meio digital;</li>
<li>(iii) muitos dos produtos e serviços são arquitetados para viciar o consumidor ou mantê-lo conectado a determinada plataforma ou aplicativo;</li>
<li>(iv) as dark patterns são particularmente poderosas, largamente ignoradas e costumam impactar ainda mais gravemente em consumidores pobres ou com baixo nível de educação; e</li>
<li>(v) as dark patterns são ainda mais nocivas quando combinadas com poder de mercado.</li>
</ul>
Como fica claro pelo relatório do Stigler Center, o ambiente digital tem propiciado amplo e indiscriminado aproveitamento das limitações de racionalidade do consumidor, a fim de direcioná-lo para escolhas que beneficiem as plataformas em detrimento dos seus próprios interesses:
<blockquote class="jota-article__citation">“Framings, nudges, and defaults can direct a consumer to the choice that is more profitable to the platform. A platform can analyze a user’s data in real time to determine when she is in an emotional “hot state” and then offers targeted sales.”<a href="#_ftn5" name="_ftnref5">[5]</a></blockquote>
Outro ponto importante do relatório do Stigler Center é mostrar como a inteligência artificial, especialmente na modalidade machine learning, pode extrair vantagens dos consumidores, diante da vulnerabilidade destes diante das plataformas. Daí por que, por trás da fachada de competição e autonomia dos usuários, a realidade é caracterizada por um amplo controle e pela manipulação de consumidores por meio de técnicas comportamentais:
<blockquote class="jota-article__citation">“What is noteworthy, however, is the platform’s detailed, personalized, minute-by-minute control over their interface. This control enables platforms to create a façade of competition, choice, and autonomy when in fact users are being directed with behavioral techniques.<a href="#_ftn6" name="_ftnref6">[6]</a></blockquote>
Nesse quadro, os riscos de manipulação de preferências dos consumidores é cada vez maior, a fim de permitir às plataformas cobrar preços maiores e praticar discriminações comportamentais, extraindo mais valores dos consumidores precisamente quando eles estão mais fracos:
<blockquote class="jota-article__citation">“With big data and machine learning, firms are able to understand and manipulate individual preferences at a scale that goes far beyond what is possible in traditional markets. This capability is qualitatively new. The environment is characterized by extreme asymmetries of information and analytical capacity between the platform and the user. This enables firms to charge higher prices (for goods purchased and for advertising) and engage in behavioral discrimination, allowing platforms to extract more value from users where they are weak.”<a href="#_ftn7" name="_ftnref7">[7]</a></blockquote>
<blockquote class="jota-article__citation">“The problem is only growing; platforms continue to make investments to extract data, encourage stickiness and addiction, and promote ever-greater use, in order to run data analytics and enable more precise targeting.”<a href="#_ftn8" name="_ftnref8">[8]</a></blockquote>
É por essas razões que o relatório afasta a possibilidade de que o mero aumento da competição resolverá o problema de exploração dos vieses comportamentais dos consumidores ou da assimetria informacional que aumenta a vulnerabilidade destes. Na verdade, o próprio ambiente de competição incentiva esse tipo de manipulação, sob pena de o agente que não o fizer ficar fora do mercado:
<blockquote class="jota-article__citation">“The economic literature suggests that competition by itself cannot resolve the issue raised by the exploitation of behavioral biases or poor consumer information. This is because staying profitable in a competitive environment may force firms to exploit behavioral bias to achieve maximal profitability. Firms abstaining from doing so may be driven out of the market. Rather, competition causes a shift of surplus to wiser consumers; profit from exploitation of biased consumers is used to compete for well-informed consumers. For consumers who can guard against exploitation, there are therefore significant gains to be had from competition. But this will not be true for all people; some will be taken advantage of under perfect competition if consumer protection regulations are insufficient. Hence, while this report focuses on the competition problems created by powerful platforms, related issues raise broader consumer protection concerns that cannot be solved through greater competition.”<a href="#_ftn9" name="_ftnref9">[9]</a></blockquote>
O que se observa, portanto, é que o meio digital criou um nicho de manipulação até então nunca visto, pois agora as estratégias são personalizadas e construídas a partir de dados e informações sensíveis dos consumidores, muitos deles extraídos ou inferidos sem a sua autorização ou mesmo sem a sua ciência. Não obstante a eficiência de tais estratégias, elas são de difícil identificação e controle por uma série de razões, dentre as quais a opacidade dos algoritmos utilizados para tal fim.
Sob essa perspectiva, não é exagerada a conclusão de Tim Wu<a href="#_ftn10" name="_ftnref10">[10]</a> de que, mais do que mercados de tempo, a economia movida a dados tem estruturado verdadeiros mercados de manipulação de consciências, que procuram moldar as crenças, os valores e as preferências dos cidadãos para os mais diversos fins, que vão dos econômicos aos políticos.
A vulnerabilidade dos consumidores é ainda potencializada pelo fato de que seus dados são coletados e extraídos de inúmeras maneiras, muitas delas sub-reptícias, como por meio de aplicativos ou provedores que gravam até mesmo a conversa das pessoas. Cria-se, pois, uma verdadeira devassa nas vidas privadas dos indivíduos, a fim de que todas as informações assim coletadas possam alimentar rankings e classificações, a partir dos quais as pessoas poderão ser manipuladas ou exploradas.
Em interessante e recente artigo, Daron Acemoglu<a href="#_ftn11" name="_ftnref11">[11]</a> aponta que uma série de riscos, custos e danos relativos à inteligência artificial decorrem do fato de que esta tem sido utilizada para empoderar empresas e governos contra trabalhadores e cidadãos. Daí a sua conclusão de que os esforços para limitar e reverter tais custos poderão precisar da confiança em regulações e políticas públicas, já que a mera promoção da competição pode ser insuficiente para tais objetivos, pois os consumidores sozinhos dificilmente têm como reconhecer tais práticas ou delas se defender.
Dentre os efeitos nefastos da utilização da inteligência artificial sobre consumidores, Acemoglu<a href="#_ftn12" name="_ftnref12">[12]</a> destaca precisamente a manipulação comportamental, afirmando que dados e técnicas sofisticadas de machine learning possibilitam que empresas identifiquem e explorem vieses e vulnerabilidades que os próprios consumidores não reconhecem, empurrando-os para níveis menores de utilidade, transferindo surplus dos consumidores para as plataformas, distorcendo a composição do próprio consumo e criando novas ineficiências.
Daí por que os trabalhos e autores até então mencionados afastam por completo o mito da soberania do consumidor, assim como são descrentes em relação a soluções de mercado, insistindo no fato de que, para endereçar tais problemas e proteger efetivamente o consumidor, haverá necessidade de regulação e de um efetivo Direito Antitruste.
Vale ressaltar que, no tocante à regulação, há muito se aponta para a necessidade de outras iniciativas que não apenas uma legislação de proteção de dados. Não é sem razão que hoje se discute, na Europa, projeto para regulação de inteligência artificial<a href="#_ftn13" name="_ftnref13">[13]</a> que, dentre outras previsões, veda o uso da tecnologia sempre que, associada a técnicas subliminares que vão além da consciência das pessoas, possam manipulá-las. Também se veda a exploração de vulnerabilidades de grupos específicos de pessoas em razão da sua idade ou qualquer deficiência física ou mental.
Além das possibilidades de manipulação de consumidores, ainda há o problema de assimetria informacional. Como já tive a oportunidade de abordar em coluna anterior<a href="#_ftn14" name="_ftnref14">[14]</a>, a partir da obra de Shoshana Zuboff, a economia movida a dados vem possibilitando que alguns agentes passem a dispor de total informação sobre o mercado e seus contratantes, de forma que deixam de negociar contratos com base em riscos e incertezas, já que podem fazê-lo com base no amplo domínio da informação e na perspectiva de resultados garantidos.
Consequentemente, em situações assim, deixa de existir o relativo equilíbrio entre os agentes econômicos que decorreria da ignorância em relação à totalidade das informações do mercado, partindo-se da premissa de que estas seriam pulverizadas e descentralizadas.
De fato, a partir do momento em que determinados agentes conseguem agregar, centralizar e compreender todas as informações do mercado, o contrato deixa de ser um instrumento de alocação recíproca de riscos e torna-se forma de dominação da parte mais forte – que detém o pleno conhecimento e, portanto, não se submete propriamente ao risco do negócio – sobre a outra.
Se tal diagnóstico é preocupante para todos os tipos de contrato, incluindo os empresariais, com maior razão o é para contratos de consumo, o que evidencia e reforça a vulnerabilidade do consumidor.
Logo, o mundo digital não apenas confirma que a soberania do consumidor é um mito, como traz vários outros fundamentos para explicar as razões pelas quais a premissa é descolada da realidade.
Por essa razão, simplesmente aumentar a concorrência não resolve o problema, como concluem Maurice Stucke e Ariel Ezrachi em livro cujo título já antecipa o principal argumento dos autores: "Competition overdose. How free Market mythology transformed us from citizen kings to market servants".<a href="#_ftn15" name="_ftnref15">[15]</a> A ideia do livro é mostrar como o afrouxamento de regulações obrigatórias com a finalidade de proteger a saúde e o bem estar de consumidores os está transformando em verdadeiros servos, situação que tem se agravado no mundo digital.
Os autores não estão sozinhos. A literatura mais recente é repleta de estudos e análises que mostram a crescente vulnerabilidade do consumidor e, mais do que isso, da própria sociedade e do planeta. Um excelente exemplo é o livro de Michelle Meagher, cujo título também retrata as limitações da concorrência na atualidade: "Competition is killing us. How big business is harming our society and planet and what to do about it".<a href="#_ftn16" name="_ftnref16">[16]</a>
Obviamente que não se discute a importância da concorrência e do próprio Direito Antitruste diante do objetivo de controle do abuso do poder econômico e de proteção aos consumidores. O que se procura salientar é que a soberania do consumidor é um mito baseado na ideologia dos livres mercados.
Se realmente queremos proteger o consumidor, inclusive para efeitos de reverter os problemas de assimetria informacional, limitações de racionalidade e tentativas de manipulação informacional e digital, precisamos encarar a realidade e pensar em regulação adequada e eficaz para os problemas reais que afligem os consumidores.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> USA. Subcommittee in Antitrust, Commercial and Administrative Law of the Committee on the Judiciary. Investigation of Competition in Digital Markets. <a href="https://judiciary.house.gov/uploadedfiles/competition_in_digital_markets.pdf?utm_campaign=4493-519">https://judiciary.house.gov/uploadedfiles/competition_in_digital_markets.pdf?utm_campaign=4493-519</a>
<a href="#_ftnref2" name="_ftn2">[2]</a> Op.cit., p. 53.
<a href="#_ftnref3" name="_ftn3">[3]</a> Idem.
<a href="#_ftnref4" name="_ftn4">[4]</a> Stigler Center. Stigler Committee on Digital Platforms Final Report. <a href="https://www.publicknowledge.org/wp-content/uploads/2019/09/Stigler-Committee-on-Digital-Platforms-Final-Report.pdf">https://www.publicknowledge.org/wp-content/uploads/2019/09/Stigler-Committee-on-Digital-Platforms-Final-Report.pdf</a>
<a href="#_ftnref5" name="_ftn5">[5]</a> Op.cit., p. 30.
<a href="#_ftnref6" name="_ftn6">[6]</a> Op.cit., p. 97.
<a href="#_ftnref7" name="_ftn7">[7]</a> Op.cit., p. 98.
<a href="#_ftnref8" name="_ftn8">[8]</a> Op.cit., p. 99.
<a href="#_ftnref9" name="_ftn9">[9]</a> Op.cit., p. 59.
<a href="#_ftnref10" name="_ftn10">[10]</a> WU, Tim. The attention merchants. The epic scramble to get inside our heads. Knopf Publishing Group, 2016.
<a href="#_ftnref11" name="_ftn11">[11]</a> ACEMOGLU, Daron. Harms of AI. Working Paper 29247.  <a href="http://www.nber.org/papers/w29247">http://www.nber.org/papers/w29247</a>
<a href="#_ftnref12" name="_ftn12">[12]</a> Op.cit.
<a href="#_ftnref13" name="_ftn13">[13]</a> <a href="https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0004.02/DOC_1&amp;format=PDF">https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0004.02/DOC_1&amp;format=PDF</a>
<a href="#_ftnref14" name="_ftn14">[14]</a> FRAZÃO, Ana. Liberdade de contratar e alocação de riscos. As recentes transformações que colocam em xeque as premissas essenciais da teoria contratual. Jota. <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/liberdade-de-contratar-e-alocacao-de-riscos-10062020">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/liberdade-de-contratar-e-alocacao-de-riscos-10062020</a>.
<a href="#_ftnref15" name="_ftn15">[15]</a> STUCKE, Maurice; EZRACHI, Ariel. Competition overdose. How free Market mythology transformed us from citizen kings to Market servants. Harper Business, 2020.
<a href="#_ftnref16" name="_ftn16">[16]</a> MEAGHER, Michelle. Competition is killing us. How big business is harming our society and planet and what to do about it. Penguin Business, 2020.

rupixen-com-Q59HmzK38eQ-unsplash

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Economia digital pode tornar o consumidor ainda mais vulnerável

A falácia da soberania do consumidor

Economia digital pode tornar o consumidor ainda mais vulnerável