Opinião e Análise

Tainá Aguiar Junquilho

Berto Igor Caballero

Matheus de Oliveira Ferreira

<h3>O que significa uma legislação baseada em riscos?</h3>
O <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">PL 2338/2023</a>, em tramitação na Comissão Temporária de Inteligência Artificial (CTIA) no Senado, chamado de Marco Legal da <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">Inteligência Artificial</a>, traz uma regulamentação baseada na classificação de riscos. O que isso significa?
Uma opção legislativa que segue a seguinte lógica: quanto maior a possibilidade de afetação aos direitos previstos em especial no Capítulo II do texto atual (Dos Direitos), maiores deveres os atores que participam do ciclo de vida da IA deverão respeitar. Alguns desses <a href="https://www.jota.info/opiniao-e-analise/colunas/ia-regulacao-democracia/classificacao-de-riscos-a-solucao-adotada-pelo-pl-2338-23-04042024">riscos são tão elevados que tornam-se inaceitáveis</a> e, por isso, são banidos<a href="#_ftn1" name="_ftnref1">[1]</a>.
O projeto brasileiro cria duas categorias expressas, que são enumeradas no decorrer do texto, a saber: a Inteligência Artificial de Alto Risco e a Inteligência Artificial de Risco Excessivo. Estas classificações ganharam destaque e têm inspiração na regulação apresentada no contexto europeu, que foi aprovada no início deste ano de 2024 e ficou conhecida como AI Act. Por outro lado, a legislação europeia classifica os sistemas de inteligência artificial em 4 níveis de risco: inaceitável, elevado ou alto, limitado e mínimo.<a href="#_ftn2" name="_ftnref2">[2]</a>
A partir disso, podemos encontrar diferenças e adaptações da legislação do Brasil, pois a atual versão do projeto, no seu artigo 13, elenca sete hipóteses em que um sistema de IA pode ser classificado como de risco excessivo, isto é, cujo "desenvolvimento e implementação são vedados". Aqui trataremos de duas hipóteses em específico, para demonstrar a relevância de previsões legislativas de proibição de certos resultados perigosos da tecnologia:
a) A utilização de IA para avaliar, classificar e ranquear pessoas com base no seu comportamento social ou em atributos da personalidade
O comportamento social inclui as ações, interações e comportamentos de uma pessoa na sociedade, como sua conduta em público, interações online, atividades financeiras, adesão a normas sociais, entre outros. Atributos pessoais referem-se a características inerentes ou adquiridas de uma pessoa, como idade, gênero, etnia, histórico de saúde, antecedentes criminais e nível de educação.
Neste cenário, a IA seria utilizada para analisar grandes volumes de dados sobre o comportamento social das pessoas. A partir dessa análise o sistema estaria apto a gerar uma pontuação que "mede" a confiabilidade, ou adesão às normas sociais estabelecidas.
Essa tecnologia já é utilizada na China, no Sistema de Crédito Social, que analisa o comportamento das pessoas com base em uma enorme quantidade de dados, incluindo atividades sociais, financeiras e até mesmo criminais. O governo chinês utiliza essa pontuação para tomar decisões sobre o acesso de seus cidadãos a bens e serviços. Como exemplo, podemos citar a proibição da compra de passagens para aviões e trens de alta velocidade a depender da pontuação do cidadão, o que pode afetar os direitos de ir e vir das pessoas.<a href="#_ftn3" name="_ftnref3">[3]</a>
b) Sistemas de Armas Autônomas 
Nesta hipótese, teríamos a utilização de inteligência artificial em contextos bélicos, por exemplo, como armas letais para identificação de alvos por algoritmos cuja taxa de acerto não é total e diante da identificação, a eliminação do alvo de forma automatizada, o que já vem acontecendo ao redor do mundo<a href="#_ftn4" name="_ftnref4">[4]</a>.
Em texto de abril de 2024, Dorrit Harazim denunciou o que chamou de "algoritmo da morte", sistemas de IA que têm sido utilizados no conflito entre Israel e Palestina e que até o momento da reportagem já haviam provocado 36 mil mortes de alvos humanos no território da Faixa de Gaza<a href="#_ftn5" name="_ftnref5">[5]</a>.
Em uma de suas versões, o texto do PL 2338 previa exceções e possibilitava o uso de Sistemas de Armas Autônomas (SAA), o que era considerado um retrocesso no contexto dos direitos humanos. As armas autônomas, violam os princípios do Direito Internacional Humanitário, pois “sua aplicação é complexa, subjetiva e variável, de acordo com o caso e as circunstâncias do momento, especialmente em conflitos dinâmicos”.<a href="#_ftn6" name="_ftnref6">[6]</a>
Além disso, há questionamentos sobre a responsabilidade de uma ação errada cometida por uma arma autônoma, que podem ser letais. Isso porque, não é tarefa fácil introduzir no algoritmo a análise do comportamento humano e a compreensão de decisões difíceis, por exemplo, de diferenciação de alvos, o que é capaz de resultar em morte acidental de pessoas inocentes por causa de falhas na compreensão de dados.
A última versão do texto acerta, portanto, em proibir Sistemas de Armas Autônomas, sem exceções. Nesse sentido, para compreender onde cada aplicação e desenvolvimento de IA se encaixa, o projeto prevê que todo sistema de inteligência artificial passará por avaliação preliminar antes da sua colocação no mercado ou utilização para classificação de seu grau de risco (artigo 13)<a href="#_ftn7" name="_ftnref7">[7]</a>.
Assim, será necessário analisar, antecipadamente a IA antes de sua utilização, para compreender sua finalidade e seus possíveis riscos. Não sendo caso de IA banida, o segundo passo é compreender quais deveres o produto da IA deverá seguir para que se concretize uma "IA para o Bem de Todos" (conceito chave no Plano Brasileiro de IA)<a href="#_ftn8" name="_ftnref8">[8]</a>.
<h3>Afinal, quais estórias o Brasil não quer que virem histórias?</h3>
Ao examinar o Marco Legal da IA brasileiro, é importante observar que o país tem buscado trazer o que há de mais interessante da abordagem europeia, com as devidas adaptações às peculiaridades de um país tão complexo e heterogêneo como o Brasil. Nesse sentido, a abordagem baseada em riscos que prevê riscos inaceitáveis é um acerto legislativo.
Ora, não é difícil perceber pelas as duas situações aqui analisadas caracterizadas pelo PL 2338 como de risco excessivo, e que, portanto, seriam proibidas no direito brasileiro, podem trazer consequências danosas e representam riscos que não superam quaisquer eventuais benefícios de inovação que o uso da tecnologia possa promover.
Nas duas hipóteses de banimento aqui trabalhadas há riscos de violação aos direitos fundamentais, especialmente as liberdades individuais e os direitos de personalidade como intimidade e privacidade ou à existência da vida humana.
O exemplo da já implementada política pública chinesa, que monitora sua população quase que integralmente, remonta às clássicas obras distópicas de George Orwell e Aldous Huxley<a href="#_ftn9" name="_ftnref9">[9]</a> e reforça um Estado hipervigilante, que pode acentuar desigualdades e promover exclusões. Já o uso para armas autônomas remonta às ficções de filmes como O exterminador do futuro, em que a tecnologia criada ganha uma suposta autonomia para aniquilar a espécie humana.
Em resumo, a inovação não é um fim em si mesmo e por isso o conceito de "IA para o Bem de Todos", isso é, de uma IA com propósito, responsável e governável. Por isso também as hipóteses de risco excessivo devem ser banidas: porque representam de fato a possibilidade de concretização de futuros imaginados em diversas estórias<a href="#_ftn10" name="_ftnref9">[10]</a> de ficção científica. O banimento evita o que hoje em alguns países já se concretiza como história concreta, cujo final é trágico.
<hr />
<a href="#_ftnref1" name="_ftn1">[1] </a><a href="https://www.jota.info/opiniao-e-analise/colunas/ia-regulacao-democracia/classificacao-de-riscos-a-solucao-adotada-pelo-pl-2338-23-04042024">https://www.jota.info/opiniao-e-analise/colunas/ia-regulacao-democracia/classificacao-de-riscos-a-solucao-adotada-pelo-pl-2338-23-04042024</a>
<a href="#_ftnref2" name="_ftn2">[2]</a> Regulamento Inteligência Artificial. Disponível em:  <a href="https://digital-strategy.ec.europa.eu/pt/policies/regulatory-framework-ai">https://digital-strategy.ec.europa.eu/pt/policies/regulatory-framework-ai</a>. Acesso em: 17 ago 2024.
<a href="#_ftnref3" name="_ftn3">[3]</a> CREEMERS, Rogier. China’s Social Credit System: An Evolving Practice of Control. SSRN, 2018. Disponível em: <a href="https://ssrn.com/abstract=3175792">https://ssrn.com/abstract=3175792</a>. Acesso em: 20 ago. 2024
<a href="#_ftnref4" name="_ftn4">[4]</a> <a href="https://desinformante.com.br/israel-ia-gaza/">https://desinformante.com.br/israel-ia-gaza/</a>
<a href="#_ftnref5" name="_ftn5">[5]</a> <a href="https://oglobo.globo.com/opiniao/dorrit-harazim/coluna/2024/04/algoritmo-da-morte-ia-gerou-36-mil-alvos-humanos-a-eliminar-na-faixa-de-gaza.ghtml">https://oglobo.globo.com/opiniao/dorrit-harazim/coluna/2024/04/algoritmo-da-morte-ia-gerou-36-mil-alvos-humanos-a-eliminar-na-faixa-de-gaza.ghtml</a>
<a href="#_ftnref6" name="_ftn6">[6]</a><a href="https://www1.folha.uol.com.br/blogs/politicas-e-justica/2024/08/armas-autonomas-no-pl-de-ia-colocam-o-pais-na-contramao-dos-direitos-humanos.shtml">https://www1.folha.uol.com.br/blogs/politicas-e-justica/2024/08/armas-autonomas-no-pl-de-ia-colocam-o-pais-na-contramao-dos-direitos-humanos.shtml</a>
<a href="#_ftnref7" name="_ftn7">[7]</a> FRAZÃO, Ana. Por que regular a inteligência artificial? Reflexões sobre os riscos e as incertezas inerentes à utilização da tecnologia. Direitos fundamentais e novas tecnologias: homenagem ao professor Danilo Doneda/ organizadores Ricardo Villas Bôas Cueva [et al]. - 1. ed. Rio de Janeiro: GZ, 2024. p.10-14.
<a href="#_ftnref8" name="_ftn8">[8]</a> <a href="https://www.gov.br/lncc/pt-br/assuntos/noticias/ultimas-noticias-1/plano-brasileiro-de-inteligencia-artificial-pbia-2024-2028">https://www.gov.br/lncc/pt-br/assuntos/noticias/ultimas-noticias-1/plano-brasileiro-de-inteligencia-artificial-pbia-2024-2028</a>
<a href="#_ftnref9" name="_ftn9">[9]</a> 1984 e Admirável mundo novo, respectivamente.
<a href="#_ftn10" name="_ftnref9">[10] </a>A palavra "estória" por muito tempo foi usada para referir-se à ficção. Em 1943 a distinção gráfica foi abolida pela Academia Brasileira de Letras, mas o uso neste texto remete à diferença entre realidade e ficção. <a href="https://exame.com/carreira/historia-ou-estoria-qual-e-o-certo/">https://exame.com/carreira/historia-ou-estoria-qual-e-o-certo/</a>

Inteligência artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Para que a estória não vire história trágica

O Marco Legal da Inteligência Artificial e o risco excessivo

Brasil tem buscado o que há de mais interessante da abordagem europeia para construir o seu Marco Legal da Inteligência Artificial