Marcelo Costa Soares

Inova&amp;Ação

Em abril de 2021, a Comissão Europeia colocou em pauta a sua proposta de atualização no que se refere à regulação sobre o desenvolvimento e utilização de Inteligência Artificial (IA) no bloco econômico. A proposta de regulação 2021/006 (COD)[1], tem o intuito de proporcionar uma abordagem regulatória horizontal equilibrada e proporcional à IA. Se limita aos requisitos mínimos necessários para enfrentar os riscos e problemas ligados ao tema, sem restringir indevidamente ou dificultar o desenvolvimento tecnológico ou aumentar desproporcionalmente o custo de colocação de soluções de IA no mercado. O que proporciona um equilíbrio entre os riscos e benefícios no uso da tecnologia.
Dito isto, é necessário também analisar que quando se aborda o tema IA, o termo agente artificial inteligente[2], se torna importante. É preciso, levar em conta as interações sociais, culturais e econômicas da atualidade, e ainda refletir sobre o papel essencial de uma governança algorítmica em relação à questões, tais como: hábitos de compra e venda de mercadorias/serviços online; análise de elegibilidade para benefícios como obtenção de crédito ou assistência médica por meio de decisões algorítmicas; como também  negociações em bolsas de valores por meio de métodos que se utilizam de conjuntos de redes neurais artificiais[3] para prever se determinadas ações irão subir ou descer tendo como base análises de sazonalidade, e inúmeras outras aplicações cotidianas.
<a style="font-family: inherit; font-size: inherit; font-style: inherit; font-variant-ligatures: inherit; font-variant-caps: inherit;" href="https://www.jota.info/produtos/tributos?utm_source=Banner%20site&amp;utm_medium=Artigos&amp;utm_campaign=CTA_Tributos_materias" rel="attachment wp-att-291213"><img class="size-medium wp-image-291213 aligncenter" src="https://www.jota.info/wp-content/uploads/2021/01/jota-pro-tributos-v2.jpg" alt="" width="300" height="300" /></a>
É importante, tendo isto em mente, enfatizar que o Título II da mencionada proposta de regulação atualizada pela Comissão Europeia apresenta quatro utilizações proibitivas para IA, explicadas abaixo, caso o texto seja aprovado.
A primeira utilização, é a implementação da tecnologia para influenciar ou distorcer o comportamento de um determinado indivíduo de modo a lhe fazer mal físico ou psicológico por meio de técnicas subliminares de manipulação. A segunda, similar à primeira, consiste em vedar a venda ou utilização de sistemas de IA que se aproveitem de vulnerabilidades de grupos específicos com base, em idade, deficiência física ou mental, com a finalidade de modificar o comportamento de uma ou mais pessoas destes grupos por meio de manipulação ou influência.
O terceiro tipo, proíbe a utilização de sistemas de IA por autoridades públicas com o fim de avaliar pessoas naturais para classificar sua confiabilidade com base em seu comportamento social conhecido também como social scoring[4], sistema utilizado em países como China e que pode gerar tratamento desfavorável à indivíduos com base em dados que não tenham relação direta com o contexto do tratamento ou que este desfavorável seja desproporcional ao comportamento social esperado.
A quarta forma de utilização, por fim, proíbe a aplicação de Sistemas de Identificação Biométrica Remota em espaços públicos para fins de segurança pública. Todavia, cita três exceções que justificam a utilização destes sistemas, tais como: busca por vítimas específicas de crimes; prevenção a um risco específico, substancial e iminente como ataque terrorista, e detecção, localização, identificação ou investigação de suspeitos de ofensas criminais.
Percebe-se, portanto, uma nítida preocupação da Comissão Europeia em procurar dar maior segurança jurídica na imputação de responsabilidades no uso desta tecnologia. Por outro lado, o debate em relação à imputação de responsabilização aplicável numa eventual futura personificação de agentes artificiais parece ainda distante de ser resolvida. O tema já foi de certa forma proposto pelo Parlamento Europeu em 2017.O mesmo, na época, apresentou a resolução 2015/2013 (INL)[5] com orientações sobre robótica, e que continha uma proposta em relação à criação de uma personalidade eletrônica para artefatos robóticos inteligentes.
Sabe-se, no entanto, que o tema da personificação dos agentes artificiais inteligentes, ainda sem definição, é e parece ser um assunto que será polêmico ainda nos próximos anos. Conquanto passem a atuar sem o aval e, muitas vezes, sem o conhecimento de seus programadores, as ações praticadas por estes agentes, por óbvio, acarretam repercussões jurídicas e, portanto, demandam soluções de forma premente. Sobretudo no âmbito da Internet, a IA já está presente nos provedores de aplicação de comércio eletrônico, de redes sociais e nas principais plataformas de busca e de compartilhamento de dados. Logo esta tecnologia, que opera e toma decisões de forma independente, já faz parte de nossas vidas.
Neste sentido o autor, Leon Wein[6], já em 1992, mencionava que os resultados obtidos por computadores seriam tão propensos a erros quanto qualquer decisão humana e, como consequência, esperava-se que ordenamentos jurídicos principalmente de países desenvolvidos pudessem distribuir a responsabilidade pelos equívocos ocorridos entre o proprietário da máquina, seu designer, seu programador, e outros . Desse modo, os dispositivos tecnológicos gerariam responsabilidades de ordem ou grau diferente dos humanos. Respostas assertivas em relação à personificação dos agentes artificiais e a sua responsabilização ainda estão longe de serem resolvidas. Perguntas reflexivas, tais como: 1) Uma vez que a imprevisibilidade emana da própria capacidade de aprendizado dos agentes, é impraticável identificar a priori todas as potencialidades danosas da aplicação do sistema? 2) Ou o dano causado estará diretamente ligado à conduta do agente artificial inteligente, mas não necessariamente à conduta culposa do programador, operador? Dentre outras, difíceis e polêmicas, cria um cenário desafiador frente ao Direito.
Além disto, a capacidade de se mimetizar a forma como o ser humano aprende, utilizando-se de algoritmos aplicados que não conhece ainda limitações teóricas, no sentido que, de fato, passam a possibilitar que programas de computador sejam criativos e desenvolvam, eles próprios, habilidade de desempenhar ações e chegar a resultados que seus criadores não são capazes de alcançar ou de prever é fascinante, contudo, perturbador.
Diante do exposto, é preciso dizer que a Europa mostra sempre estar um passo à frente em relação à debates e reflexões sobre IA. No tocante ao objetivo central da proposta de regulação europeia 2021/006 (COD) ressalta-se uma importante preocupação no que se refere ao equilíbrio entre as possibilidades positivas e negativas da IA. Com isto, a busca por um desenvolvimento tecnológico ético que possa fazer com que se tenha um ambiente propício para inovação e ao mesmo tempo confiança a partir da criação de limites e diretrizes para seu desenvolvimento e aplicação, se torna mais evidente.
Por fim, e ainda, num contexto, dependente de dados e fortemente impactado também por aspectos fortemente culturais, no qual o universalismo do Direitos Humanos Digitais[7] e a proteção de costumes locais traçam uma relação por vezes conflitante, entender e analisar os desdobramentos desta proposta se faz necessário. Ressalta-se que se a mesma, aqui exposta, for aprovada será aplicada a toda e qualquer empresa na União Europeia e a empresas em quaisquer outros países que venham a vender ou oferecer seus sistemas de IA para entidades dentro do bloco europeu ou que afetem cidadãos europeus.
____________________________________________________________________________________________
<h3>REFERÊNCIAS</h3>
[1] https://media-exp1.licdn.com/dms/document/C4D1FAQHFyIq0xUTG-A/feedshare-document-pdf-analyzed/0/1619045664603?e=1619560800&amp;v=beta&amp;t=HrzGlII1zEv2MZ8uLUGZsevyHOYVtJkKAVCf8eQr_nw. Acesso em: 26 de abril de 2021.
[2] <a href="https://www.livrosgratis.com.br/ler-livro-online-79890/agentes-inteligentes-artificiais">https://www.livrosgratis.com.br/ler-livro-online-79890/agentes-inteligentes-artificiais</a>. Acesso em: 26 de abril de 2021.
[3] <a href="https://matheusfacure.github.io/2017/03/05/ann-intro/">https://matheusfacure.github.io/2017/03/05/ann-intro/</a>. Acesso em: 26 de abril de 2021.
[4] <a href="https://www.euronews.com/2020/06/24/social-scoring-could-that-facebook-post-stop-you-getting-a-loan-or-a-mortgage">https://www.euronews.com/2020/06/24/social-scoring-could-that-facebook-post-stop-you-getting-a-loan-or-a-mortgage</a>.Acesso em: 26 de abril de 2021.
[5] <a href="https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_PT.html?redirect">https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_PT.html?redirect</a>.Acesso em: 26 de abril de 2021
[6]<a href="https://jolt.law.harvard.edu/assets/articlePDFs/v06/06HarvJLTech103.pdf">https://jolt.law.harvard.edu/assets/articlePDFs/v06/06HarvJLTech103.pdf</a>. Acesso em: 26 de abril de 2021.
[7] https://politics.org.br/edicoes/declara%C3%A7%C3%A3o-universal-dos-direitos-humanos-na-era-digital.Acesso em: 26 de abril de 2021.

franki-chamaki-1K6IQsQbizI-unsplash

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Europa mostra sempre estar um passo à frente em relação a debates e reflexões sobre inteligência artificial

Proposta de atualização regulatória para IA na União Europeia

Este texto integra a cobertura de novos temas do JOTA. Apoiadores participam da escolha dos temas, mas não interferem na produção editorial. [Conheça o projeto!](/pro#jota-discute)