Opinião e Análise

Ana Frazão

Durante a 43ª Conferência Geral da Unesco, ocorrida recentemente, foi aprovada a primeira recomendação mundial sobre neurotecnologia, voltada a estabelecer os parâmetros éticos para a sua utilização<a href="#_ftn1" name="_ftnref1">[1]</a>.
Por neurotecnologias, devem ser entendidos todos os equipamentos, sistemas e procedimentos – abrangendo tanto hardwares como softwares – que diretamente mensurem, acessem, monitorem, analisem, realizem predições ou modulem o sistema nervoso para entender, influenciar, restaurar ou antecipar sua estrutura, atividade e função.
<a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a>
Diante do poder de tais tecnologias para ler, registrar ou mesmo influenciar a atividade cerebral, é fundamental criar critérios para diferenciar o seu uso responsável e voltado à criação de benefícios, especialmente os terapêuticos, da sua utilização indevida.
Nesse sentido, um dos principais objetivos da Recomendação é proteger os chamados dados neurais, assim considerados os dados qualitativos e quantitativos sobre a estrutura, atividade e função do sistema nervoso reunidos por meio de neurotecnologias.
Entretanto, a Recomendação também se preocupa com a proteção dos dados neurais indiretos ou dados que permitem inferência de estados emocionais, uma vez que eles geram informações que podem interpretar ou mesmo predizer estados mentais. Trata-se de algo relevante, diante da utilização constante, por diversos indivíduos, de dispositivos que coletam e monitoram dados biológicos – tais como frequência cardíaca e sono – que podem desvelar as emoções das pessoas.
Diante disso, a Recomendação deixa claro que está fundada em importantes valores, tais como respeito, proteção e promoção de direitos humanos, liberdades fundamentais e dignidade humana, promoção de saúde humana e bem estar, diversidade e justiça, solidariedade global, cooperação internacional, sustentabilidade, integridade e responsabilidade.
Parte importante da Recomendação diz respeito aos seus princípios estruturantes, ora descritos:
<ul>
<li>beneficência, proporcionalidade e ausência de danos, sob a premissa de que as neurotecnologias devem empoderar indivíduos para tomarem decisões livres e informadas sobre o seu sistema nervoso e sua saúde mental a partir de vetores de proporcionalidade, equilíbrio e legitimidade;</li>
<li>autonomia e liberdade de pensamento, a fim de se resguardar a autodeterminação das pessoas, protegendo-as contra qualquer coerção implícita e explícita;</li>
<li>proteção dos dados neurais, assim como dos dados neurais indiretos e dados não neurais que possibilitam inferências sobre os estados mentais dos indivíduos, a fim de se assegurar a sua privacidade e reconhecer salvaguardas claras contra a coleta e o mau uso ou o acesso não autorizado a tais dados;</li>
<li>não discriminação e inclusão;</li>
<li>accountability;</li>
<li>confiança e transparência, inclusive no que diz respeito à possibilidade de monitoramento por todos os stakeholders;</li>
<li>justiça epistêmica, engajamento inclusivo e empoderamento público;</li>
<li>melhor interesse das crianças e proteção das gerações futuras; e</li>
<li>justiça global e social.</li>
</ul>
Para concretizar tais princípios, especial atenção deve ser dada a crianças, adolescentes e outros vulneráveis, além da necessidade de se adotar cuidados específicos quanto ao consentimento, que, mais do que prévio, livre, informado e na modalidade opt-in, precisa ser afirmativo, dinâmico, interativo, compreensivo, transparente e adequadamente documentado.
Logo, é fundamental que haja informação detalhada e acessível sobre os propósitos, riscos, benefícios, alternativas e resultados do uso da tecnologia, além da necessidade de que o consentimento seja adaptado a idade, capacidade decisória, cultura, linguagem, nível de educação nível mental e condições físicas.
A Recomendação é também categórica ao afirmar que a neurotecnologia jamais pode ser usada para exercer influência indevida ou manipulação por meio de força, coerção, percepção de desvantagem, pressão social ou outros meios que podem comprometer a autonomia e a liberdade de pensamento. Isso se refere tanto aos processos internos de pensamento como sua expressão externa.
Daí por que, especialmente na área do consumo, a Recomendação menciona expressamente o risco de algumas atividades tais como:
<ul>
<li>Sistemas de recomendação, em relação aos quais deve ser proibido o uso de dados neurais com propósitos manipulatórios ou enganadores, especialmente quando incluídos em contextos políticos, médicos e comerciais;</li>
<li>Priming e nudging, práticas que não podem ocorrer sem a consciência explícita e a compreensão dos indivíduos, especialmente diante de conteúdos políticos e propaganda;</li>
<li>Marketing durante o sono e o sonho, o que também deve ser proibido;</li>
<li>Neuromarketing, área em que deve haver salvaguardas contra usos e praticas antiéticas,</li>
<li>Closed-loop enviroments, normalmente relacionados a equipamentos de computação imersivos</li>
</ul>
Como se pode observar pela breve síntese ora realizada, trata-se de importante iniciativa da Unesco para endereçar vários dos principais desafios do neurocapitalismo<a href="#_ftn2" name="_ftnref2">[2]</a>, assim como para evitar que as neurotecnologias acabem tornando-se uma estratégia poderosa para alimentar o pujante mercado de manipulação de consciências<a href="#_ftn3" name="_ftnref3">[3]</a>.
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
Como já tive oportunidade de sustentar em artigo doutrinário<a href="#_ftn4" name="_ftnref4">[4]</a>, a defesa do livre arbítrio deve ser uma das maiores preocupações dos tempos atuais, o que nos faz refletir não só sobre novas regulações, mas também sobre como utilizar a regulação jurídica já existente em prol dessa tutela, seja em relação às neurotecnologias, seja em relação a todas as demais ameaças à nossa privacidade cerebral e à nossa autodeterminação.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> Unesdoc.unesco.org
<a href="#_ftnref2" name="_ftn2">[2]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/neurocapitalismo-e-o-negocio-de-dados-cerebrais">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/neurocapitalismo-e-o-negocio-de-dados-cerebrais</a>
<a href="#_ftnref3" name="_ftn3">[3]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/mercados-de-manipulacao-de-consciencias">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/mercados-de-manipulacao-de-consciencias</a>
<a href="#_ftnref4" name="_ftn4">[4]</a> FRAZÃO, Ana. Direito ao livre pensamento na era digital: A necessária proteção das pessoas contra as múltiplas e variadas estratégias de manipulação. In: A prioridade da Pessoa Humana no Direito Civil-Constitucional - Estudos em homenagem a Maria Celina Bodin de Moraes, Editora Foco, 2024.

marco legal da inteligencia artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Recente Recomendação da Unesco mostra a necessidade de proteção dos dados neurais

Proteção dos dados neurais diante das neurotecnologias

Recente Recomendação da Unesco mostra a necessidade de proteção dos dados neurais