Alexandre R. Silva

Felipe Oriá

Rafael Garofano

Thiago Ferrarezi

Toda proposta de regulação de tecnologias emergentes enfrenta um dilema intrínseco. De um lado, a regulamentação oferece segurança jurídica, um alicerce indispensável para fomentar investimentos e estimular o avanço tecnológico. Por outro lado, a regulação prematura dessas tecnologias pode criar obstáculos ao seu desenvolvimento. Com o aumento da relevância das inteligências artificiais (IA) e sua aplicação generalizada em diversas indústrias, a urgência de estabelecer uma legislação clara para governar o uso dessa tecnologia no Brasil tornou-se iminente.  
Desde 2019 se discute a necessidade de se regular as inteligências artificiais. Segundo dados do relatório do Google “O impacto e o futuro da inteligência artificial no Brasil”, publicado em 2020, 49% das startups entrevistadas acreditavam que uma regulação é muito ou extremamente importante para o desenvolvimento da categoria no Brasil. O apoio à regulação citado na pesquisa fazia referência ao <a href="https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=1853928">PL 21/2020</a>, de autoria do deputado Eduardo Bismarck (PDT-CE).  
Com apenas dez artigos, o projeto tinha como proposta ser um marco legal das inteligências artificiais, estabelecendo “fundamentos, princípios e diretrizes para o desenvolvimento e aplicação da inteligência artificial no Brasil". Além de definir as diretrizes e princípios para o uso da tecnologia, o projeto previa, entre outros pontos, a figura do agente de IA, que poderia ser tanto o desenvolvedor (agente de desenvolvimento) quanto o implementador do sistema de IA (agente de operação). Outra inovação do projeto foi a criação do relatório de impacto de IA, um documento elaborado pelos agentes de IA com a descrição da tecnologia, incluindo medidas de gerenciamento e contenção de riscos. O PL foi aprovado no plenário da Câmara dos Deputados em setembro de 2021.  
Afora o <a href="https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=1853928">PL 21/2020</a>, foram propostos mais dois projetos sobre o tema. O <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/138790">PL 5051/2021</a>, do senador Styvenson Valentim (Podemos-RN), e o <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/147434">PL 872/2021</a>, do senador Veneziano Vital do Rêgo (MDB-PB). Os três projetos citados são muito parecidos, estabelecendo os princípios e diretrizes gerais para o uso e implementação de IA. Contudo, essas propostas foram consideradas excessivamente principiológicas e pouco pragmáticas.  
A fim de elaborar uma proposta mais completa e permitir uma discussão mais técnica e extensa do tema, foi instalada em março de 2022 uma comissão de juristas responsável por subsidiar a elaboração de um substitutivo sobre inteligência artificial. A comissão foi instituída pelo presidente do Senado, <a href="https://www.jota.info/tudo-sobre/rodrigo-pacheco">Rodrigo Pacheco</a> (PSD-MG), com o objetivo de analisar as três propostas apresentadas até então e elaborar uma minuta de texto, que poderia ser analisada pelos senadores na forma de substitutivo.   
Acompanhando os debates na comissão foi possível discernir duas narrativas centrais. De um lado, representantes do mercado e alguns experts do terceiro setor defenderam uma regulação mais branda e principiológica, semelhante ao <a href="https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=1853928">PL 21/2020</a>. Do outro lado, os representantes do setor público e das instituições de ensino superior focaram as preocupações éticas e os riscos que a tecnologia pode trazer para direitos fundamentais, privacidade, proteção de dados, além da perpetuação de preconceitos e desigualdades sociais e raciais.  
Do lado “pró-mercado” do debate, foi destacado o potencial transformador da tecnologia no Brasil e os riscos que uma regulação precoce pode oferecer ao desenvolvimento de inteligências artificiais. Essa posição ressaltou a importância de regular aplicações específicas de inteligência artificial, ao invés de regular a tecnologia como um todo.
A inteligência artificial é aplicada em uma série de setores. Existem aplicações de maior risco, que exigem supervisão humana, como por exemplo IAs usadas para diagnóstico de câncer de mama. Contudo, existem inúmeras aplicações de IA de baixíssimo risco que oferecem, senão zero, quase nenhum risco à sociedade ou aos indivíduos que a usam, como é o caso da aplicação de IA para monitorar o crescimento de gado ou para identificação de doenças e malformações em plantações. Em um universo tão amplo de aplicações, qualquer regulação que tente oferecer regras gerais, vai , inevitavelmente, criar assimetrias regulatórias.    
No lado oposto do debate, foi enfatizado o potencial negativo da tecnologia. Existe uma literatura já estabelecida que aborda as aplicações de IA que reforçam vieses, preconceitos e injustiças sociais e raciais. Em um país profundamente desigual e marcado pela luta contra o racismo, essas questões são muito relevantes. Em um cenário de vastas possibilidades de aplicação e desenvolvimento constante de novas tecnologias, o campo mais cético do debate enfatizou a importância de uma regulamentação rigorosa para as aplicações de IA consideradas "de alto risco" e a proibição de certas aplicações que podem ser prejudiciais tanto para indivíduos quanto para a sociedade como um todo.  
Depois de seis audiências públicas, 12 painéis e debates com representantes do terceiro setor, governo, mercado e universidades, a comissão entregou o seu relatório final em dezembro de 2022. O resultado final de mais de 250 dias de discussões na comissão foi o <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">PL 2338/2023</a>, de autoria de Pacheco. 
O texto não foi muito longe do que foi discutido na comissão. Traz uma definição de inteligência artificial, levanta os princípios e fundamentos para o uso e implementação da tecnologia e traz os direitos dos indivíduos afetados por sistemas artificiais. Contudo, o ponto mais importante é a categorização das aplicações de inteligência artificial baseada no risco. Afora as obrigações gerais descritas no artigo 19 da lei, agentes de inteligência artificial que forneçam ou operem sistemas de alto risco deverão adotar uma série de medidas de segurança. Dentre elas vale destacar: 
<ul>
<li data-leveltext="" data-font="Symbol" data-listid="1" data-list-defn-props="{&quot;335552541&quot;:1,&quot;335559684&quot;:-2,&quot;335559685&quot;:720,&quot;335559991&quot;:360,&quot;469769226&quot;:&quot;Symbol&quot;,&quot;469769242&quot;:[8226],&quot;469777803&quot;:&quot;left&quot;,&quot;469777804&quot;:&quot;&quot;,&quot;469777815&quot;:&quot;multilevel&quot;}" aria-setsize="-1" data-aria-posinset="1" data-aria-level="1">Testes de confiabilidade: deve ser realizada uma avaliação dos níveis apropriados de confiabilidade do sistema de acordo com o setor e o tipo de aplicação da inteligência artificial. Isso inclui testes de robustez, acurácia, precisão e cobertura. </li>
<li data-leveltext="" data-font="Symbol" data-listid="1" data-list-defn-props="{&quot;335552541&quot;:1,&quot;335559684&quot;:-2,&quot;335559685&quot;:720,&quot;335559991&quot;:360,&quot;469769226&quot;:&quot;Symbol&quot;,&quot;469769242&quot;:[8226],&quot;469777803&quot;:&quot;left&quot;,&quot;469777804&quot;:&quot;&quot;,&quot;469777815&quot;:&quot;multilevel&quot;}" aria-setsize="-1" data-aria-posinset="2" data-aria-level="1">Gestão de dados para evitar vieses discriminatórios: devem ser adotadas medidas de gestão de dados com o objetivo de mitigar e prevenir vieses discriminatórias. Isso inclui a avaliação dos dados com medidas apropriadas de controle de vieses cognitivos humanos, evitando a inclusão de vieses sociais estruturais. Além disso, é importante formar uma equipe inclusiva e diversa responsável pelo desenvolvimento do sistema. </li>
</ul>
<ul>
<li data-leveltext="" data-font="Symbol" data-listid="1" data-list-defn-props="{&quot;335552541&quot;:1,&quot;335559684&quot;:-2,&quot;335559685&quot;:720,&quot;335559991&quot;:360,&quot;469769226&quot;:&quot;Symbol&quot;,&quot;469769242&quot;:[8226],&quot;469777803&quot;:&quot;left&quot;,&quot;469777804&quot;:&quot;&quot;,&quot;469777815&quot;:&quot;multilevel&quot;}" aria-setsize="-1" data-aria-posinset="1" data-aria-level="1">Explicabilidade dos resultados: devem ser adotadas medidas técnicas para viabilizar a explicabilidade dos resultados produzidos pelos sistemas de inteligência artificial. Também é necessário disponibilizar informações gerais sobre o funcionamento do modelo de inteligência artificial empregado, incluindo a lógica e os critérios relevantes para a produção dos resultados. Quando solicitado, informações adequadas devem ser disponibilizadas para permitir a interpretação dos resultados concretamente produzidos, respeitando o sigilo industrial e comercial. </li>
</ul>
Em síntese, a regulamentação das tecnologias emergentes, incluindo a inteligência artificial, traz consigo um desafio delicado: assegurar a segurança jurídica sem obstruir o seu progresso. A incessante busca por um ponto de equilíbrio entre regulação e inovação perdura, e essa legislação representa um passo significativo em direção à governança da inteligência artificial no Brasil. Nesse contexto, é crucial encontrar soluções que promovam a proteção dos direitos e interesses envolvidos, sem sufocar a capacidade de avanço e desenvolvimento dessas tecnologias promissoras. A efetivação desse equilíbrio se mostra fundamental para potencializar os benefícios proporcionados pela inteligência artificial em nosso país. 
*
Este artigo faz parte de uma série do Instituto Mirã publicados em conjunto com o <a href="https://www.xn--mir-ola.com/relat%C3%B3rioiabrasil">relatório "IA no Brasil: Desafios e Oportunidades"</a>.

Inteligência artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Regulamentação traz consigo um desafio delicado: assegurar a segurança jurídica sem obstruir o seu progresso

Desafios e perspectivas da regulação da IA no Brasil

Regulamentação da inteligência artificial traz consigo um desafio delicado: assegurar a segurança jurídica sem obstruir o seu progresso