Opinião e Análise

Marcella Meirelles

Após a elaboração de relatório final pela Comissão Temporária Interna sobre Inteligência Artificial no Brasil<a href="#_ftn1" name="_ftnref1">[1]</a>, o Senado aprovou Projeto de Lei que regulamenta o uso de <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> no Brasil.
O texto, que tem como base o <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">PL 2338/2023</a>, englobou diversos dispositivos sugeridos em mais sete propostas e recebeu quase 200 propostas de emendas, além de ter sido objeto de 14 audiências públicas, em um esforço necessário para incluir a sociedade civil e os setores afetados.
<h3><a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias">Assine a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas no seu email</a></h3>
Apesar da possibilidade de que ocorram alterações relevantes no texto durante a tramitação na Câmara dos Deputados, o projeto aprovado dá indícios do direcionamento que o tema deve tomar no país em questões relevantes como a opção pela adoção de uma classificação dos sistemas de IA por nível de risco, a proteção dos direitos autorais e a eleição da Autoridade Nacional de Proteção de Dados (<a href="https://www.jota.info/tudo-sobre/anpd">ANPD</a>) como ente central na governança da inteligência artificial.
Um dos pilares do projeto, inspirado no regulamento europeu<a href="#_ftn2" name="_ftnref2">[2]</a>, é a divisão dos sistemas de IA em níveis de risco, com normas mais rigorosas para aqueles classificados como de alto risco.
O texto, aliás, traz um rol de formas de utilização consideradas como de alto risco, no qual foram incluídos aqueles sistemas utilizados em áreas sensíveis, como diagnósticos médicos, seleção de estudantes e de trabalhadores, análise de dados para prevenção de ocorrência de crimes, entre outros.
Ao longo da tramitação, um dos pontos de maior controvérsia foi a inclusão das redes sociais na lista de alto risco, o que acabou sendo deixado de lado no relatório final da Comissão. A despeito das disputas em torno do que seria elencado como utilização de alto risco, a aplicação na prática da norma, se aprovada, pode acabar por indicar que o rol deve ter um caráter exemplificativo, a fim de atender às mudanças ocorridas com avanços tecnológicos que certamente ampliarão o uso da IA para novas áreas ao longo do tempo.
O texto atual prevê ainda consequências palpáveis para a classificação. Os sistemas categorizados como de alto risco deverão ser submetidos a uma avaliação do impacto algorítmico por uma equipe capaz de identificar as consequências técnicas, científicas, regulatórias e jurídicas da tecnologia. Tal análise deverá atentar aos riscos gerados aos direitos fundamentais, os benefícios do sistema, bem como a probabilidade e gravidade de eventuais consequências diversas.
A classificação de riscos vai além ao proibir o desenvolvimento e uso de alguns sistemas por representarem risco excessivo, como sistemas de armas autônomas. Também é vedada a utilização de técnicas que explorem a vulnerabilidade de pessoas ou grupos para induzir comportamentos danosos à saúde e à segurança, bem como a avaliação de traços de personalidade e características de comportamento para determinar, de forma ilegítima e desproporcional, o acesso a bens, serviços e políticas públicas.
Além disso, a proposta aprovada pelo Senado prevê a proteção dos direitos de criadores de conteúdos e obras artísticas. No desenho apresentado, conteúdos protegidos por direitos autorais poderão ser utilizados para o desenvolvimento de sistemas de IA por instituições de pesquisa, jornalismo e com fins educacionais, desde que o material seja (i) obtido de forma legítima, (ii) não tenha finalidade comercial, (iii) o objetivo principal não seja a reprodução, exibição e disseminação e (iv) a utilização se limite ao necessário para alcançar a finalidade proposta. É facultado ainda ao titular dos direitos autorais vedar o uso do conteúdo e obter remuneração caso o seu conteúdo seja utilizado no desenvolvimento e treinamento de sistemas de inteligência artificial.
Outro ponto de destaque no texto aprovado pelo Senado foi o arranjo institucional adotado para fiscalizar e regular o uso desta tecnologia. A ANPD foi escolhida como ente responsável para impor sanções, aplicar multas, receber a comunicação de graves incidentes e expedir normas sobre as formas e requisitos de certificação, bem como sobre os procedimentos da avaliação de impacto algorítmico.
A ANPD deve ainda ser ouvida nos processos de edição de normas de outros órgãos reguladores que envolvam IA, além de ser responsável por exercer competência normativa, regulatória e sancionatória no uso de IA nas atividades econômicas que não possuem órgão regulador específico.
O texto prevê também a criação do Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), coordenado pela ANPD e integrado por diferentes órgãos, como entidades de regulação setorial estaduais, entidade de autorregulação, bem como por duas novas instituições também criadas pelo Projeto: (i) o Conselho de Cooperação Regulatória de Inteligência Artificial (Cria), fórum permanente de comunicação dos órgãos e entidades da administração pública responsáveis pela regulação de setores específicos, e (ii) o Comitê de Especialistas e Cientistas de Inteligência Artificial (Cecia), cujo objetivo é orientar e supervisionar o desenvolvimento e aplicação da IA a partir de regras e critérios estabelecidas em regulamento.
A aprovação de uma primeira versão do arcabouço normativo para regular IA é um avanço importante que demonstra o amadurecimento do tema no país e busca alinhar o Brasil às melhores práticas internacionais.
Além disso, a realização de um processo legislativo com ampla participação dos interessados por meio de diversas audiências públicas e com a discussão de inúmeras emendas mostra a acertada disposição do Congresso Nacional de capitanear um debate aprofundado sobre o tema.
Ainda assim, ante a complexidade e dinamicidade próprias do objeto, o texto provavelmente passará por novas mudanças na sua tramitação na Câmara e tem longo caminho a avançar até que a regulação de IA se torne uma realidade para os brasileiros.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> O relatório pode ser acessado na página da CTIA, disponível em: &lt; https://legis.senado.leg.br/atividade/comissoes/comissao/2629/ &gt;. Acesso em 12 dez. 2024.
<a href="#_ftnref2" name="_ftn2">[2]</a> Trata-se do Regulamento (UE) 2024/1689. Disponível em: &lt;https://eur-lex.europa.eu/legal-content/PT/TXT/?uri=OJ%3AL_202401689&gt;. Acesso em 12 dez. 2024.

inteligência artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

O que diz o texto do PL 2338 aprovado no Senado?

O futuro da regulamentação da IA no Brasil

O que diz o texto do PL 2338/2023 aprovado no Senado que regulamenta a inteligência artificial (IA) no Brasil?