Estamos vivendo em uma era de rápido desenvolvimento de tecnologias e a antiga ideia de que as relações sociais que decorrem delas não poderiam ser reguladas (que teve seu grande ápice na Declaração de Independência do Ciberespaço de John Perry Barlow em 1996) está superada por acadêmicos ^[1] e chegou ao centro das discussões legislativas.

A mais recente manifestação dessa preocupação é a tentativa de regulamentação dos algoritmos de inteligência artificial, com o pontapé inicial pela União Europeia em 2021 após vários anos de estudos pelos órgãos do bloco. Questões relativas à falta de transparência dos processos decisórios dos algoritmos que impactam direitos individuais e resultam em danos que variam desde perdas financeiras até discriminações sociais ^[2] estão no centro das preocupações.

O Brasil está acompanhando o movimento de regulação de novas tecnologias junto ao cenário internacional, principalmente na União Europeia, podendo estabelecer um modelo regulatório para países do Sul global que possuem características em comum e que divergem daquelas dos países desenvolvidos e responsáveis pela exportação de muitos desses algoritmos.

Recentemente a Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil entregou seu relatório final com a primeira minuta do texto que será objeto de debate no Congresso ^[3].

O presente artigo tem como foco analisar alguns dos impactos desse texto em setores da economia brasileira que utilizam essas ferramentas como núcleo de suas atividades.

Algumas premissas entendemos que devem ser importantes para o avanço no debate do texto: 1) o Brasil é um país que importa muitos desses algoritmos, uma vez que países do bloco europeu e dos Estados Unidos possuem investimentos expressivos em empresas de tecnologia; 2) o desenvolvimento do país passa pela necessidade de investimentos e incentivos à inovação tecnológica e uma regulamentação não pode criar barreiras que dificultem desproporcionalmente o crescimento de empresas brasileiras; e 3) empresas que contratam sistemas de inteligência artificial são operadores de inteligência artificial, conforme artigo 4º, inciso III e, muitas vezes, são sujeitas à contratos de adesão de grandes empresas internacionais, sem poder de decisão ou até mesmo possibilidade de informações.

Segundo aponta estudo de mercado encomendado pela IBM, a adoção de inteligência artificial cresceu constantemente ao redor do mundo, de modo que cerca de 41% das organizações no Brasil já indicam que implementaram de maneira ativa IA em seus negócios ^[4].

São diversas atividades econômicas que usam inteligência artificial em seus processos, desde a recomendação de produtos personalizados até o auxílio para combate a fraudes. A IA está se tornando uma realidade em quase todos os setores da economia, uma vez que pode proporcionar uma série de benefícios às empresas ao automatizar tarefas e possibilitar maior eficiência.

Diante desse cenário, cresce a preocupação e a necessidade de estabelecer parâmetros para o desenvolvimento e a aplicação da inteligência artificial no Brasil, os quais sejam aptos a garantir direitos aos indivíduos submetidos a aplicação de sistemas de IA ^[5] e, também, promover maior segurança jurídica ao mercado. Esses parâmetros também são importantes para que o mercado nacional de desenvolvimento de tecnologias seja competitivo no cenário internacional, considerando o movimento internacional para regular o uso delas.

Como fruto do trabalho desenvolvido pela Comissão de Juristas foi divulgado o relatório final que contempla minuta de substitutivo aos PLs 5051/2019, 21/2020, e 872/2021, que dispõem sobre inteligência artificial no Brasil.

No texto substitutivo, consta uma série de direitos conferidos às pessoas afetadas por sistemas de inteligência artificial, sendo eles: 1) o direito à informação prévia; 2) direito à explicação; 3) direito de contestação das decisões e previsões; 4) direito à determinação e participação humana; 5) direito à não discriminação e correção de vieses e 6) direito à privacidade e proteção dos dados nos termos da legislação vigente.

A previsão de tais direitos é de suma importância em consideração aos potenciais impactos que sistemas de inteligência artificial podem proporcionar na vida das pessoas, desde problemas relacionados a discriminação ^[6] até a opacidade e falta de transparência desses instrumentos ^[7].

Nesse contexto, o substitutivo estabelece uma classificação de riscos provenientes de sistemas de IA, subdivididos entre dois tipos. A primeira categoria diz respeito aos sistemas avaliados com risco excessivo, que são proibidos pela possibilidade de danos irreversíveis.

Segundo prevê o artigo 14, estão incluídos nessa modalidade de risco os sistemas de IA com 1) emprego de técnicas subliminares que tenham por objetivo ou por efeito induzir a pessoa natural a se comportar de forma prejudicial ou perigosa à sua saúde ou segurança ou contra os fundamentos da lei; 2) exploração de quaisquer vulnerabilidades de grupos específicos de pessoas naturais, tais como associadas à sua idade ou deficiência física ou mental, de modo a induzi-las a se comportar de forma prejudicial à sua saúde ou segurança ou contra os fundamentos da lei; 3) uso pelo poder público, para avaliar, classificar ou ranquear as pessoas naturais, com base no seu comportamento social ou em atributos da sua personalidade, por meio de pontuação universal, para o acesso a bens e serviços e políticas públicas, de forma ilegítima ou desproporcional.

Nos dois primeiros casos há consequências não só para grandes plataformas de redes sociais, mas também para o setor de publicidade e propaganda, uma vez que o uso de dados para explorar determinados perfis de indivíduos se torna proibido.

A segunda categoria diz respeito aos algoritmos de alto risco previstas no artigo 17, ainda com a possibilidade de a autoridade competente identificar novas hipóteses e realizar atualizações na lista dos sistemas de inteligência artificial de risco excessivo ou de alto risco.

Nota-se que muitas das finalidades indicadas no artigo 17 estão presentes nas aplicações de IA realizadas por diversos setores da economia.

Hoje, é comum que, por exemplo, o setor de recursos humanos de algumas instituições utilize sistemas de IA para análise de currículos de maneira automatizada, para avaliações de desempenho, tomada de decisões sobre promoções ou cessações de relações contratuais de trabalho, entre outras finalidades. Na área financeira, para análise do perfil de consumo, concessão de crédito ou para autenticação de transações financeiras através de sistemas biométricos de identificação. Na saúde, para detecção precoce e prevenção de doenças, auxílio no atendimento clínico e diagnóstico de pacientes.

Considerando os riscos, os agentes de inteligência artificial deverão respeitar os direitos dos indivíduos afetados por sistemas de IA e adotar de medidas de governança específicas para esses sistemas, incluindo a elaboração da Avaliação de Impacto Algorítmico para análise de impactos nos titulares e a probabilidade de danos.

O artigo 19 estabelece obrigações de governança que vão desde medidas para o desenvolvimento de algoritmos até transparência e organização pelas empresas que utilizam essas ferramentas nas suas atividades.

O parágrafo segundo estabelece a necessidade de elaboração de documentação antes da disponibilização no mercado ou na prestação de serviços em áreas que são consideradas de alto risco.

Assim, empresas que prestam serviços financeiros voltados para a educação (artigo 17, II) concessão de crédito (artigo 17, V), de saúde (artigo 17, IX) e segurança privada (artigo 17, X) devem estar atentos à essa obrigação de estudos prévios à disponibilização de serviços que possuem inteligência artificial no mercado. Será de extrema importância a relação dessas empresas com as desenvolvedoras dos algoritmos no momento da contratação, devendo existir responsabilidades contratuais definidas para garantir que essas obrigações possam ser cumpridas pelas operadoras de IA.

Considerando que algumas dessas empresas podem utilizar vários tipos diferentes de IA, como, por exemplo, aquelas que realizam exames de diagnósticos por imagem na área da saúde e podem empregar o uso de diferentes algoritmos para diferentes tipos de exames, devem estar atentas ao cumprimento dessa obrigação para cada tipo de exame.

O artigo 20 estabelece como isso pode ser alcançado, através da demanda de documentações que estabelecem critérios de decisão, registros do desenvolvimento, estabelecimento de acurácia, entre outros.

Chama atenção a necessidade de supervisão de um ser humano estabelecida no parágrafo único, que deve entender o funcionamento dos sistemas algoritmos utilizados e ter liberdade de decisão em relação à utilização ou não dos algoritmos para casos específicos. Isso demandará que as empresas identifiquem funcionários altamente capacitados e com liberdade para tomar decisões que podem impactar o negócio.

O artigo 22 estabelece obrigação de uma Avaliação de Impacto Algoritmo para sistemas de alto risco. Ou seja, além das obrigações dos artigos acima descritos, aqueles que contratam sistemas de inteligência artificial no fornecimento dos serviços dos setores já citados deverão observar esse requisito antes de efetivamente empregar o uso deles no seu dia a dia.

Questões acerca da possibilidade de cumprimento do parágrafo único do artigo 22 devem ser pauta de discussões futuras, uma vez que deverá existir autoridade para receber notificações de sistemas de IA utilizadas em empresas pelo país inteiro. As experiências e dificuldades da Autoridade Nacional de Proteção de Dados (ANPD) devem ser levadas em conta, uma vez que cada empresa pode empregar vários algoritmos, como no caso já citado de empresas de diagnóstico que empregam algoritmos diferentes para cada tipo de exame, e essa autoridade deverá receber documentações de todos eles. Considerando as dimensões territoriais e populacionais do Brasil, a observância desse artigo pode ser quase impossível de cumprimento.

^[1] Discute-se, atualmente, a existência de uma teoria para garantir que novas tecnologias devam observar direitos fundamentais, chamada de Constitucionalismo Digital. Para mais informações: https://digi-con.org/what-is-digital-constitutionalism/

^[2] O algoritmo do Facebook está sendo acusado de alimentar a guerra civil na Etiópia por como seu algoritmo entrega conteúdo. Disponível em https://www.bbc.com/portuguese/geral-63974172

^[3] O relatório pode ser encontrado na página do Senado Federal, disponível em https://legis.senado.leg.br/comissoes/txtmat?codmat=152136 .

^[4] Estudo IBM: 41% das empresas no Brasil já implementaram ativamente Inteligência Artificial em seus negócios. IBM. 29 de set. de 2022. Disponível em: Acesso em: 20 de dez. 2022.

^[5] Conforme definição do artigo 4º do texto substitutivo, sistema de inteligência artificial é o “sistema computacional, com graus diferentes de autonomia, desenhado para inferir como atingir um dado conjunto de objetivos, utilizando abordagens baseadas em aprendizagem de máquina e/ou lógica e representação do conhecimento, por meio de dados de entrada provenientes de máquinas ou humanos, com o objetivo de produzir previsões, recomendações ou decisões que possam influenciar o ambiente virtual ou real.”

^[6] O’NEIL, Cathy. Algoritmos de Destruição em Massa. Editora Rua do Sabão, 2021.

^[7] Pasquale, Frank. The black box society. The secret algorithms that control money and information. Cambridge: Harvard University Press, 2015.

A proposta para regulação da inteligência artificial no Brasil

Os impactos no mercado nacional