Opinião e Análise

Fernando Aith

No último dia 14 de junho o Parlamento Europeu aprovou definitivamente o Regulamento sobre Inteligência Artificial (Artificial Intelligence Act). O texto regulamenta o uso da IA e considerou os avanços revolucionários recentes vistos nesse campo, em particular o desenvolvimento de modelos de fundação e IAs generativas, como ChatGPT, BARD, Midjourney e DALL-E. Ao incluir estes novos casos de uso de IA generativa, o projeto de regulamento propõe sujeitar esses sistemas a obrigações de segurança e qualidade, visando garantir o respeito aos direitos fundamentais (incluindo o direito à saúde), ao estado de direito, à cibersegurança e à proteção ambiental.
O projeto de regulamento europeu prevê medidas destinadas a regular a utilização da IA, criando uma nova estrutura de governança com o reforço dos poderes do Gabinete Europeu de IA para investigar infrações transfronteiriças e tem como objetivo harmonizar as regras a serem adotadas pelos países da União Europeia para a colocação no mercado, entrada em serviço e utilização de sistemas de IA nos países do bloco. 
Dentre os temas que o regulamento visa harmonizar, destacam-se: 
<ul>
<li>i) as proibições de certas práticas de inteligência artificial; </li>
<li>ii) a criação de requisitos específicos para sistemas de IA de alto risco e a definição de obrigações para os operadores desses sistemas; </li>
<li>iii) o estabelecimento de regras de transparência harmonizadas para sistemas de IA destinados a interagir com indivíduos, sistemas de reconhecimento de emoções e sistemas de categorização biométrica e sistemas de IA utilizados para gerar ou manipular conteúdos de imagem, áudio ou vídeo e; </li>
<li>iv) estabelecimento de regras de acompanhamento e vigilância do mercado.</li>
</ul>
O novo Regulamento Europeu para IA aplica-se a prestadores que colocam no mercado ou em serviço sistemas de IA na União Europeia (<a href="https://www.jota.info/tudo-sobre/Uniao-europeia">UE</a>), independentemente de estarem lá estabelecidos ou num país de fora do bloco. O regulamento também se aplica aos utilizadores de sistemas de IA localizados no território da UE e aos fornecedores e utilizadores de sistemas de IA localizados em países de fora do bloco, quando o produto produzido pelo sistema for utilizado na UE. 
Uma das principais inovações do novo marco regulatório europeu, que o Brasil deve prestar atenção e caminhar no mesmo sentido, foi a conceituação e identificação dos “sistemas de IA de alto risco”. Partindo da premissa de que as novas tecnologias que utilizam IA podem ser nocivas ao ser humano, o regulamento cria regras de classificação para sistemas de IA de alto risco que permitirão às autoridades regulatórias priorizar a fiscalização e o controle sobre esses produtos específicos.
De acordo com o Regulamento, um sistema de IA deve ser considerado de alto risco quando as seguintes condições forem preenchidas: 
<ul>
<li>a) o sistema de IA se destina a ser utilizado como componente de segurança de um produto, ou é ele próprio um produto, abrangido pela legislação de harmonização da União enumerada no anexo II; </li>
<li>b) o produto cujo componente de segurança é o sistema AI, ou o próprio sistema AI como produto, é submetido a uma avaliação de conformidade por terceiros com vista à colocação no mercado ou entrada em serviço desse produto nos termos da legislação de harmonização da União enumerada no anexo II. </li>
<li>c) também serão considerados de alto risco os sistemas de IA referidos no anexo III do Regulamento. </li>
</ul>
O Anexo I do novo Regulamento referencia as técnicas e abordagens de inteligência artificial, tais como: as abordagens de aprendizado de máquina, incluindo supervisão, não supervisão e reforço de aprendizado, usando uma ampla variedade de métodos, incluindo aprendizado profundo; as abordagens baseadas em lógica e conhecimento, incluindo representação de conhecimento, programação indutiva (lógica), bases de conhecimento, mecanismos de inferência e dedução, raciocínio (simbólico) e sistemas especialistas e; as abordagens estatísticas, estimação bayesiana, métodos de busca e otimização. 
O Anexo 2 do regulamento apresenta duas listas de legislação de harmonização da união europeia sobre inteligência artificial, organizando o marco regulatório deste campo para além do próprio regulamento. 
E o Anexo 3, por sua vez, relaciona os sistemas de IA de alto risco, elencando que serão considerados de alto risco os sistemas de IA que se encaixem em qualquer ums das seguintes áreas: i) identificação biométrica e categorização de pessoas físicas; ii) gestão e operação de infraestrutura crítica: iii) educação e formação profissional; iv) emprego, gestão de trabalhadores e acesso ao auto-emprego; v) cessão e usufruto de serviços públicos e privados essenciais e benefícios e; vi) aplicação da lei.
A opção de relacionar o que são os sistemas de IA de alto risco em listagens de Anexos é uma opção legislativa aberta que deixa espaço para a inclusão ou exclusão de produtos na medida em que o conhecimento sobre o tema evolua e sem necessitar de grandes revisões legislativas (basta atualizar os anexos). A partir destas definições mais abertas, e ciente de que certas tecnologias de IA já representam riscos iminentes à humanidade, o Regulamento trata de proibir expressamente, no artigo 5 de seu texto principal, alguns produtos e usos da inteligência artificial, entre os quais vale destacar:
<ul>
<li>(a) a colocação no mercado, colocação em serviço ou uso de um sistema de IA que implemente técnicas subliminares além da consciência de uma pessoa, a fim de distorcer materialmente o comportamento desta pessoa de uma maneira que cause ou possa causar a ela ou a outra pessoa dano físico ou psicológico;</li>
<li>(b) a colocação no mercado, colocação em serviço ou utilização de um sistema de IA que explore qualquer uma das vulnerabilidades de um grupo específico de pessoas devido à sua idade, deficiência física ou mental, a fim de distorcer materialmente o comportamento de uma pessoa pertencente a esse grupo de uma maneira que cause ou possa causar a ela ou a outra pessoa dano físico ou psicológico;</li>
<li>(c) A colocação no mercado, colocação em serviço ou utilização de sistemas de IA pelas autoridades públicas ou por sua conta para avaliação ou classificação da fiabilidade de indivíduos durante um determinado período de tempo com base no seu comportamento social ou conhecido, ou características pessoais ou de personalidade previstas, com a pontuação social levando a tratamento prejudicial ou desfavorável de certas pessoas físicas ou grupos inteiros delas em contextos sociais que não estejam relacionados aos contextos em que os dados foram originalmente gerados ou coletados; ou a tratamento prejudicial ou desfavorável de certas pessoas físicas ou grupos inteiros delas, injustificado ou desproporcional ao seu comportamento social ou à sua gravidade;</li>
<li>(d) A utilização de sistemas de identificação biométrica remota «em tempo real» em espaços acessíveis ao público para efeitos de aplicação da lei, a menos e na medida em que tal utilização seja estritamente necessária para alguns objetivos associados à segurança pública.</li>
</ul>
O texto do regulamento europeu é um enorme avanço na medida em que propõe uma classificação de sistemas de IA de alto risco, exigindo que as empresas avaliem se seu sistema representa um risco significativo à saúde, segurança e direitos fundamentais dos indivíduos. No entanto, o documento não oferece critérios suficientemente claros para determinar quais sistemas se enquadram nessa categoria. Esta ambiguidade corre o risco de criar confusão e incerteza quanto à aplicação do regulamento, deixando reguladores e regulados em um campo de incerteza jurídica.
A explicabilidade dos sistemas de IA também é um ponto que não foi bem desenvolvido pelo texto aprovado. Ao invés de propor disposições legais específicas que permitam a compreensão de como os sistemas de IA são desenvolvidos, como evoluem (especialmente os que envolvem aprendizado de máquina) e como funcionam na prática, o regulamento contenta-se com medidas de transparência e rastreabilidade. Essas medições parecem ser insuficientes para garantir uma adequada proteção da sociedade. 
O regulamento aprovado pela UE menciona a saúde diversas vezes, na medida em que os riscos destas novas tecnologias à saúde individual e coletiva são visíveis e ainda pouco conhecidos. O Brasil deve acelerar sua agenda regulatória sobre as relações entre IA e saúde, antes que seja tarde.

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Regulamento aprovado pela UE define o conceito de IA e fixa bases regulatórias


Inteligência artificial de alto risco para a saúde e a sociedade

Regulamento aprovado pela União Europeia define o conceito de inteligência artificial e fixa bases regulatórias