Opinião e Análise

Júlio Camargo de Azevedo

No contexto dos mercados digitais e da economia da atenção, a tecnologia e os sistemas de inteligência artificial deixam de constituir meras ferramentas imbuídas de neutralidade, transformando-se em poderosos instrumentos de persuasão, que passam a interagir com nossas necessidades, desejos, intuições e motivações, influenciando os processos de tomada de decisões humanas denominado arquitetura de escolhas.
Segundo Fogg, Cuellar, e Danielson, as tecnologias persuasivas tornam possível “the use of computers to change people’s attitudes and behavior”. Elas compõem, segundo os autores, a quarta onda renovatória da história da computação, movimento de ruptura que pode ser representado metaforicamente pela busca de (i) funcionalidade, (ii) entretenimento, (iii) facilidade de uso e (iv) persuasão.<a href="#_ftn1" name="_ftnref1">[1]</a>
Nesta última etapa, as ferramentas tecnológicas deixam de buscar apenas a usabilidade e a operabilidade como metas de fidelização de usuários, investindo em técnicas que agem diretamente sobre a mente humana, afetando nossas crenças, valores e comportamentos.
Conforme evidenciado por Daniel Kahneman, nosso cérebro evoluiu com base em dois sistemas de pensamento (dual process brain): o sistema 1 (intuitivo) e o sistema 2 (reflexivo).
O sistema 1 funciona de maneira rápida e automática, com pouco ou nenhum esforço e nenhuma percepção de controle voluntário, operando por meio de atalhos cognitivos que resolvem adequadamente questões complexas, mas geralmente com pouca precisão.
Já o sistema 2 opera em busca de maior coerência, detalhe e precisão, buscando o maior número de dados possível com a experiência subjetiva de atividade, escolha e concentração. Embora funcionem a partir de estruturas cerebrais específicas, ambos os sistemas laboram de modo conjugado, complementando-se.
As tecnologias de persuasão neural agem justamente sobre nosso sistema cerebral intuitivo (sistema 1), influenciando o processo de tomada rápida, automática e continuada de decisões.<a href="#_ftn2" name="_ftnref2">[2]</a>
Por meio da aplicação de diferentes metodologias, padrões de designs são desenvolvidos para influenciar nossa tomada de decisão, instituindo gatilhos, técnicas de enquadramento emocional (framing), além de incentivos [nudges] e desincentivos [sludges] que acabam direcionando o nosso modo intuitivo e menos reflexivo de agir.
É por isso que a última das dimensões da vulnerabilidade digital trabalhadas nesta série de artigos – vulnerabilidade neural ou psicológica-comportamental – envolve a situação de fragilidade humana frente às tecnologias e designs persuasivos, que afetam a arquitetura de escolhas dos indivíduos, modulando decisões, desejos e comportamentos humanos.
O chamado marketing agressivo ou comportamental explora exatamente esse tipo de fragilidade. A partir do processamento, filtragem e análise de dados, sistemas de inteligência artificial são capazes de promover a perfilização de consumidores, direcionando estratégias de publicidade que miram “a mensagem certa, no momento certo, no lugar certo, para o consumidor certo”.<a href="#_ftn3" name="_ftnref3">[3]</a>
Essas estratégias não se valem apenas de dados demográficos amplamente difundidos na rede da informação (ex: idade, sexo, endereço etc.), mas combinam fatores refinados de direcionamento psicológico com base em valores, opiniões, interesses e vulnerabilidades dos consumidores.
Com a adequada combinação de técnicas,<a href="#_ftn4" name="_ftnref4">[4]</a> que se aperfeiçoam a partir das vulnerabilidades de cada usuário, produtos e serviços são comercializados de modo a afetar a capacidade humana de racionalmente determinar se aquele produto ou serviço é de fato importante ou necessário, incentivando um consumo desenfreado, sem precedentes na história da economia capitalista.
Outro campo bastante profícuo para o florescimento de vulnerabilidades neurais são as redes sociais. O design de aplicativos como Facebook, Instagram e Tik Tok, projetados segundo técnicas de exposição pessoal e engajamento (curtidas, visualizações, comentários etc.), tendem a ativar o funcionamento de neurotransmissores relacionados ao bem-estar e ao sistema de recompensas cerebrais, criando um ambiente de conforto, aceitação e felicidade instantânea ao usuário.
Por trás desse processo aparentemente inocente de imitação das relações humanas, escondem-se diversos problemas contemporâneos pelo uso descuidado das redes, sendo possível citar a dependência tecnológica, o aumento da ansiedade, a perturbação do sono, a hiperatividade, a superestimulação, o déficit de atenção, a diminuição de atividades intelectuais, a restrição de interações familiares, além do aumento da busca pela modificação corporal, dentre outros cancros relacionados à “sociedade de likes”.
Igualmente, o universo de games e a construção de metaversos – em que mundos virtuais procuram replicar a realidade por meio da tecnologia – não apenas estimulam a entrega de informações pessoais sensíveis às empresas de tecnologia, auxiliando o processo de categorização de usuários, como permitem a identificação de vulnerabilidades pessoais, atributos que posteriormente são utilizados como instrumentos para a modulação do comportamento humano.
Como lembra Guilherme Mucelin, a “gamificação de todos os aspectos da vida pode ser relacionada à vulnerabilidade digital neuropsicológica e às vulnerabilidades transpostas por meio de perfis”. Assim, atributos pessoais aparentemente irrelevantes estão sendo utilizados para finalidades amplificadoras, já que a “nossa transposição a avatares/perfis carregam consigo vulnerabilidades que, às vezes, nem as pessoas ‘titulares’ da vulnerabilidade conseguem identificar”.<a href="#_ftn5" name="_ftnref5">[5]</a>
Não à toa, reclamam por fundamentalidade na sociedade tecnológica os chamados neurodireitos, que, para além da privacidade e proteção de dados, voltam-se à proteção da “integridade da mente contra a utilização abusiva de dispositivos, métodos ou instrumentos não farmacológicos que conectam diretamente o sistema nervoso humano a sistemas eletrônicos”.<a href="#_ftn6" name="_ftnref6">[6]</a>
Como afirmam Branco e Lage, “sem a soberania da própria mente é impossível fruir de todos os outros direitos humanos”, de modo que o Direito “deve garantir a liberdade de autodeterminação mental, que abrange a livre e consentida utilização das neurotecnologias emergentes e a consequente proteção contra o uso coercitivo dessas tecnologias”.<a href="#_ftn7" name="_ftnref7">[7]</a>
A vulnerabilidade neural também atinge desproporcionalmente grupos específicos na era digital. Exemplo disso são as crianças, inseridas na geração mais observada da história (“the most watched over generation in memory”).<a href="#_ftn8" name="_ftnref8">[8]</a> Nesse aspecto, chama a atenção o fenômeno do sharenting, prática consistente no compartilhamento exagerado de informações pessoais de crianças em ambientes virtuais, muitas vezes com finalidade lucrativa por seus genitores.
Como lembra Silva, a perda da chance de se ter uma infância equilibrada e harmônica, a erotização precoce (sexting), as dificuldades de se eliminar os dados disseminados na fase adulta, a exposição à prática de crimes, além da monetarização da personalidade alheia, são todos pontos que devem ser observados, regulados e combatidos na era digital.<a href="#_ftn9" name="_ftnref9">[9]</a>
Daí inclusive a importância do artigo 29 do <a href="https://www.jota.info/tudo-sobre/marco-civil-internet">Marco Civil da Internet</a> em relação ao uso de programas de computador, jogos e aplicativos por crianças e adolescentes, impondo aos genitores, ao poder público, aos provedores de conexão e de aplicações de internet e à sociedade civil o dever de promover a educação e definir boas práticas para a inclusão digital a partir dos valores estampados no <a href="https://www.jota.info/tudo-sobre/eca">Estatuto da Criança e do Adolescente</a>.
Em suma, se os dados pessoais constituem o novo “petróleo”, a modulação de comportamento humano corresponderia ao “produto de luxo, feitos sob medida, já na ponta da cadeia de produção”.<a href="#_ftn10" name="_ftnref10">[10]</a>
Essa é a razão pela qual as vulnerabilidades neurais deveriam preocupar o futuro da humanidade, sendo possível projetar que seu controle e prevenção constituirão pautas obrigatórias do Direito Civil, Direito do Consumidor e Direito Infanto-juvenil da próxima década.
Em síntese, as cinco dimensões da vulnerabilidade digital propostas nessa série de artigos – tecnológica, técnica, informacional, algorítmica e neural – não nutrem a intenção de esgotar o estudo das fragilidades na era da economia da atenção.
Assim como no mundo tecnológico, é provável que outras dimensões da vulnerabilidade surjam ao longo do tempo, substituindo às categorias até aqui trabalhadas por novos estados humanos de susceptibilidade.
Enquanto isso não ocorre, entretanto, parece legítimo cogitar de remédios, ações, políticas e apoios, buscando minimizar os impactos negativos que as tecnologias da informação atualmente projetam sobre os cidadãos. Nossa intenção foi contribuir com esse debate.
Até breve!
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> Em que pese o uso desta modalidade tecnológica esteja hoje diretamente associada à atividade comercial das big techs, os autores evidenciam que há uma série de domínios em que a persuasão é considerada importante, tais como educação, segurança, prevenção, saúde, finanças, ativismo social, gestão pessoal, relações pessoais etc. FOGG, B J.; CUELLAR, Gregory; DANIELSON, David. “Motivating, Influencing, and Persuading Users”. Stanford Persuasive Tech Lab. 2007.
<a href="#_ftnref2" name="_ftn2">[2]</a> KAHNEMAN, Daniel. Rápido e devagar – duas formas de pensar. Trad. Cássio de Arantes Leite. Rio de Janeiro: Objetiva, 2012, p. 29-32.
<a href="#_ftnref3" name="_ftn3">[3]</a> MICKLITZ, Hans-W.; HELBERGER, Natali; STRYCHARZ, Joanna et al. EU consumer protection 2.0: Structural asymmetries in digital consumer markets. Bruxelas: BEUC, mar. 2021, p. 05-14.
<a href="#_ftnref4" name="_ftn4">[4]</a> “Practices can range from default settings, bait and switch, sneak into basket, disguised advertising interfaces, forced continuity or design choices that make price comparison more difficult. 11 In addition, digital price discrimination uses personal characteristics to differentiate prices and marketing conditions, thereby making consumers vulnerable to misleading claims about, for example, the price (if they are not aware that they are paying a higher price than other consumers), the availability of a product or service, or its conditions, but also more generally differential or even discriminatory marketing practices”. MICKLITZ et. al., op. cit., p. 06.
<a href="#_ftnref5" name="_ftn5">[5]</a> MUCELIN, Guilherme. Metaverso e vulnerabilidade digital, Revista Consultor Jurídico, disponível em: <a href="https://www.conjur.com.br/2021-nov-24/garantias-consumo-consideracoes-metaverso-vulnerabilidade-digital">https://www.conjur.com.br/2021-nov-24/garantias-consumo-consideracoes-metaverso-vulnerabilidade-digital</a> Acesso em nov. 2021.
<a href="#_ftnref6" name="_ftn6">[6]</a> BRANCO, Pedro Gonet; LAGE, Fernanda de Carvalho. Neurodireito: o direito fundamental do futuro. Jota, disponível em: <a href="https://www.jota.info/opiniao-e-analise/artigos/neurodireito-o-direito-fundamental-do-futuro-08042022">https://www.jota.info/opiniao-e-analise/artigos/neurodireito-o-direito-fundamental-do-futuro-08042022</a> Acesso em 01/05/2022.
<a href="#_ftnref7" name="_ftn7">[7]</a> Ibid.
<a href="#_ftnref8" name="_ftn8">[8]</a> SHMUELI, Benjamin; BLECHER-PRIGAT, Ayelet. Privacy for Children. Columbia Human Rights Law Review, vol. 42, jan. 2011, p. 759-95.
<a href="#_ftnref9" name="_ftn9">[9]</a> SILVA, Joseane Suzart Lopes da. Sharenting comercial viola dados pessoais e direitos da personalidade das crianças. Revista Consultor Jurídico, disponível em: <a href="https://www.conjur.com.br/2022-jan-31/direito-civil-atual-sharenting-comercial-viola-dados-pessoais-direitos-personalidade-criancas">https://www.conjur.com.br/2022-jan-31/direito-civil-atual-sharenting-comercial-viola-dados-pessoais-direitos-personalidade-criancas</a> Acesso em 02/02/2022.
<a href="#_ftnref10" name="_ftn10">[10]</a> SOUZA, Joyce; et. al. A sociedade de controle – manipulação e modulação nas redes digitais. São Paulo: Hedra, p. 47/48.

mercado digital

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

O quão inofensivas são as ferramentas tecnológicas na era digital?

Vulnerabilidade neural e tecnologias de persuasão &#8211; parte 6

Vulnerabilidade neural e tecnologias de persuasão - parte 6

O quão inofensivas são as tecnologias da era digital quando passam a interagir com nossas necessidades, desejos, intuições e motivações?