Opinião e Análise

Joshua Walker

Em relação ao Projeto de Lei de Inteligência Artificial elaborado pela Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil (CJSUBIA):
Não há nenhuma lâmpada na qual colocar o gênio de volta. Os brasileiros – assim como pessoas de todas as nações – continuarão a fazer uso copioso e crescente de produtos de <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> (IA), de seus efeitos e de seus detritos (aplicações secundárias) de todos os tipos – seja aberta e explicitamente, seja à sombra da lei. O poder da tecnologia, juntamente com seu efeito social, se compõe (cresce a uma taxa não linear); e o fará de formas altamente inovadoras, boas e ruins.
Portanto, assim como em certos fenômenos astronômicos, os motores analíticos atuais e em evolução apresentam um fenômeno novo além do qual não podemos ver. Os seres humanos nunca tiveram sistemas automatizados tão capazes.  (E, ressalte-se, essa novidade é de natureza composta). Somos confrontados com uma espécie de "Horizonte de Eventos de Inteligência Artificial". Posto que não podemos ver o que a IA se tornará logo adiante, tampouco podemos enxergar de forma precisa a melhor maneira de regulá-la. Estamos tentando enquadrar algo que não podemos ver.
Mas a humildade é a linha de corte que pode ajudar a guiar as determinações do Senado.
I. Podemos aproveitar e transcrever os precedentes legais existentes para novas tecnologias à medida que elas surgem. (Em outras palavras, podemos usar a lei de forma adaptável e incremental, aplicando legislação nova e já existente).
II. Podemos impulsionar grupos profissionais e da sociedade civil para ajudar a criar um ecossistema de auditoria de IA – concretizando, eficientemente, as metas do Senado. A lei nacional pode criar princípios e limites amplos, enquanto grupos técnicos capacitados e gerenciados podem implementar a intenção legislativa com rapidez, escala e agilidade. Os Estados nacionais frequentemente fazem isso com grande efeito e eficiência em tudo, desde licenciamento financeiro e de corretagem até códigos elétricos e de segurança de edifícios.
III. O Senado, e outros órgãos, devem financiar, desenvolver e alavancar a "Governança de IA" pública e privada para equilibrar a velocidade e a escala da IA comercial e civil. Este pode ser um meio eficiente e socialmente produtivo de regular a explosão da IA. Em outras palavras, deveríamos criar uma “Governança de IA” pública e privada de última geração para gerenciar a IA comercial. (Para mais informações sobre esse tema, veja mais em: On Legal AI, Parte I, Capítulo 5). 
<h3>O dilema regulatório atual </h3>
A IA é, essencialmente, software que faz análise. O Brasil já regulamenta várias formas de análise em diferentes contextos - desde habitação, até medicina, finanças etc., seja em relação à discriminação, proporcionalidade, ou outras métricas e filtros legais. Não precisamos inventar novas rodas para cada maquinário. 
O problema relativamente novo e acelerado da IA está relacionado à velocidade e à escala pela qual ela conduz análises (sejam essas análises "generativas", informacionalmente "extrativas", ou "preditivas"). Por esta razão, a infraestrutura de regulamentação legal precisa espelhar a velocidade e a escala da IA. 
Há apenas uma forma de fazer isso, que é impulsionar a IA para regular a própria IA. A criação de IA para ajudar a auditar e regular a IA deve ser requerida em três níveis: 
(1) Implementadores. Pessoas que criam IA para n propósitos (comercial/civil/consumerista).  
(2) Auditoria. Grupos de auditoria independentes – com exigências de licenciamento profissional, para encorajar forçosamente a independência e o comportamento ético de auditoria – deveriam poder auditar os detalhes algorítmicos e de implementação dos implementadores. Usando a própria tecnologia, além de verificações cruzadas humanas e exigências federais de divulgação (ex., leis de valores mobiliários no Brasil, EUA etc.), os auditores técnico-jurídicos podem analisar a atividade comercial de IA com rapidez, diligência e acuidade. (O autor sugere exigir que os advogados façam parte desses grupos de auditoria, pois talvez ajude a deter a corrupção e o abuso financeiro. Embora todos necessitem de monitoramento.)
(3) Governo. As próprias entidades governamentais precisarão de ferramentas de IA para auditar a conformidade legal – seja porque auditores independentes, implementadores ou outros falharam em garantir a conformidade, seja porque o Senado e outros órgãos estão realmente lidando com questões novas e materiais, que exigem investigação governamental.
Este conjunto aninhado, e sobreposto, de Governanças de IA – e sistemas de controle de Engenharia Jurídica incorporados em sistemas de IA pelos implementadores – pode vir a modular e regular de forma adaptável as implementações de IA e seus fenômenos secundários. (Os implementadores também podem escapar às leis fixas de "IA"  por meio de envolvimento humano mínimo antes de que a análise chegue aos humanos. Pode haver outras evasões às quais o projeto de lei do Senado e outros modelos regulatórios precisarão se adaptar).  
A Governança de IA pode operar seletivamente onde necessário. Auditores independentes de IA (usando IA jurídica) podem potencialmente fazer testes de conformidade periódicos e regulares sem dificuldade e relativamente baratos para a maioria dos implementadores, de vários portes. Os requisitos de controle do implementador – conforme aludido no presente projeto de lei – podem tornar o desenvolvimento de IA mais seguro e mais produtivo (tanto para os implementadores como para os clientes finais). A responsabilização civil também pode funcionar como um "zagueiro", encorajando o setor privado a adotar as melhores práticas de segurança de IA.
A razão pela qual este sistema aninhado de controles regulatórios pode funcionar melhor do que, digamos, a abordagem de repositório algorítmico da China, é multiforme.  
Primeiramente, a exigência da China de que todos os implementadores de IA depositem seus algoritmos (ou, o coração de seus sistemas de IA) em um banco de IA do governo é uma “apropriação” em escala maciça – isso sem falar de segredos comerciais. Isto coloca todo o negócio ou organização de cada depositante em risco. Um repositório dessa escala seria enormemente valioso para o governo, e para qualquer agente do governo. Corrupção, mau uso e "peculato algorítmico" podem ser inevitáveis. De fato, todos os agentes governamentais engajados nesse repositório ganhariam um know-how competitivo extremamente valioso e impossível de extrair sobre esses sistemas.  O mau uso é inevitável.  
Em segundo lugar, podem ser feitos depósitos algorítmicos que não necessariamente dizem ao governo como a IA está sendo usada (por exemplo, se há uso ou alimentação de dados discriminatório(a). Um auditor independente experiente, com experiência tanto em direito quanto na engenharia de IA, poderia detectar isso.
Por esta razão, recomendamos que o governo brasileiro promova e/ou patrocine um sistema de três níveis de Governança de IA, aninhado e sobreposto – para Implementadores, Auditores Independentes, Governo e Definição de Padrões. A criação de tal ecossistema não precisa ser cara. Primeiramente, as normas técnico-legais nacionais podem reduzir enormemente os custos de conformidade – muito semelhantes a códigos elétricos bem projetados e aplicados localmente/profissionalmente etc.  
Em segundo lugar, um bom software – embora raro – tem um alto custo fixo para ser desenvolvido, mas um baixo custo marginal para reutilização – chegando a zero para cada uso/cópia/etc. O governo poderia até mesmo viabilizar a criação de um código fonte nacional para ajudar os implementadores de IA a terem um compliance eficiente – com penalidades por falsificação e controles de segurança.  
O Brasil tem um ecossistema jurídico e de Ciências da Computação vasto e altamente sofisticado, apto a acrescentar rigor acadêmico, e testes amplos e independentes, à escala civil. A principal recomendação desta nota é um ecossistema de três níveis de governança de IA. Tal ecossistema pode ser aplicado e efetivar a intenção do Senado de forma muito mais adequada e adaptável, com menor custo, em complemento à legislação.
*
Agradecimentos especiais ao professor Juliano Maranhão (Universidade de São Paulo) e à sua equipe, por ter solicitado o comentário original e, particularmente, a Anthony Novaes (Universidade Presbiteriana Mackenzie), por coordenar e traduzir este texto, e por sua abrangente liderança e dedicação acadêmica.

fotis-fotopoulos-DuHKoV44prg-unsplash

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

JOTA estreia coluna semanal que irá discutir a intersecção entre inovação, tecnologia, negócios e regulação

Governança de IA: uma perspectiva sobre o PL de inteligência artificial

JOTA estreia coluna semanal que irá discutir a intersecção entre inovação, tecnologia, negócios e regulação