Ciro Torres Freitas

Marina Guapindaia Figueiredo

Em mais um passo em direção à regulamentação da <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial?non-beta=1">inteligência artificial</a> (IA) no Brasil, a Comissão Temporária sobre Inteligência Artificial do Senado (CTIA) apresentou, no dia 24 de abril, relatório preliminar com sua proposta de revisão do <a href="https://www.congressonacional.leg.br/materias/materias-bicamerais/-/ver/pl-2338-2023">PL 2338/2023</a>, trazendo uma nova versão da mais avançada iniciativa legislativa sobre o tema em nosso país.
O novo texto apresenta significativas mudanças em relação à versão original do PL 2338. Enquanto algumas destas mudanças indicam a preocupação com os entraves que a regulamentação excessiva pode representar para o desenvolvimento tecnológico e para a inovação, outras ainda colocam em dúvida se o percurso regulatório está seguindo o rumo mais adequado.
A primeira grande mudança consiste na ampliação do conceito de sistemas de inteligência artificial. Além de deixar de limitar a aplicação da lei a sistemas baseados em aprendizagem de máquina e/ou lógica e representação do conhecimento, o novo texto compreende expressamente os conceitos de inteligência artificial generativa e sistemas de propósito geral, inclusive com a previsão de medidas de governança em relação a estes.
A ascensão dessas novas categorias, que sequer eram ponto de discussão no momento de elaboração do texto original do PL 2338, revela a rápida evolução da tecnologia e a constante necessidade de adaptação e aperfeiçoamento das normas que pretendem regulamentá-la.
Em contrapartida, o texto proposto exclui do âmbito de aplicação da futura lei os sistemas de IA utilizados por pessoas naturais para fins exclusivamente particulares, assim como aqueles empregados com a finalidade de defesa nacional, os desenvolvidos para atividades de testagem, desenvolvimento e pesquisa que não sejam colocados em circulação no mercado e os sistemas com padrões e formatos abertos e livres (exceto aqueles considerados de alto risco).
O texto propõe a constituição do chamado Sistema Nacional de Regulação e Governança da Inteligência Artificial (SIA), coordenado por uma autoridade competente a ser designada pelo Poder Executivo. A criação desse ecossistema regulatório, ao dialogar de forma estreita com as agências e os órgãos reguladores para garantir a implementação e o cumprimento da lei, visa a valorizar a regulação setorial, num singelo passo para além de um modelo legislativo de caráter estritamente geral. Há, ainda, a previsão de que os agentes de inteligência artificial poderão promover a autorregulação, com o objetivo de incentivar e assegurar melhores práticas de governança ao longo de todo o ciclo de vida dos sistemas.
Outro ponto que merece atenção é a exclusão do rol de sistemas de inteligência artificial de alto risco previsto na versão original do PL 2338. O texto proposto delega à SIA, após a realização de consulta pública sobre o tema, a posterior classificação dos sistemas de IA de alto risco segundo critérios definidos na própria lei.
Assegura-se, com isso, que seja levado em consideração o estado da arte do desenvolvimento tecnológico no momento da classificação – preocupação endereçada em diversas passagens da nova proposta. Nesse ponto, o texto harmoniza-se com os interesses de diferentes setores cujos sistemas de IA seriam enquadrados a priori como de alto risco, a exemplo das áreas de saúde, educação e serviços essenciais.
O texto acrescenta mais três tipos de sistemas de inteligência artificial entre aqueles considerados de risco excessivo, cujos uso e implementação são vedados, quais sejam, os sistemas que possibilitem ou facilitem a produção e a disseminação de material que caracterize ou represente abuso ou exploração sexual infantil; aqueles que avaliem os traços de personalidade, as características ou o comportamento passado, criminal, ou não, de pessoas singulares ou grupos, para avaliação de risco de cometimento de crime, infrações ou de reincidência; e os sistemas de armas autônomas (aqueles que, uma vez ativados, podem selecionar e atacar alvos sem intervenção humana adicional) que não permitam controle humano significativo, cujos efeitos sejam imprevisíveis, indiscriminados ou cujo uso implique violações ao direito internacional humanitário.
O texto proposto introduz a figura do encarregado de governança para os sistemas de inteligência artificial de alto risco, incumbido de atuar como o canal de comunicação com pessoas e grupos afetados e as autoridades competentes, bem como de supervisionar o uso ético e responsável dos sistemas.
Também ganharam destaque os direitos autorais e direitos da personalidade conexos. Agora, o texto traz uma seção específica sobre o tema, prevendo que o fornecedor deverá informar as obras protegidas utilizadas no processo de treinamento do sistema de inteligência artificial. Nessa mesma linha, é permitido que o titular dos direitos autorais proíba a utilização de suas obras. Ainda, é prevista a criação de um sandbox regulatório para dispor sobre a remuneração relacionada às obras utilizadas no desenvolvimento de sistemas disponibilizados com finalidade comercial – reflexo de uma grande pressão sofrida pelo Senado, proveniente de grupos que visam à preservação de direitos autorais de jornalistas e artistas.
Igualmente, ganharam maior relevância temas como a defesa do meio ambiente, a proteção ao trabalho e ao trabalhador, com a criação de um novo capítulo destinado ao fomento à inovação sustentável. No entanto, o texto ainda gera dúvidas quanto à efetividade das obrigações previstas para garantir tais direitos. Por exemplo, ao defender a proteção ao trabalho e aos trabalhadores, as normas limitam-se a prever que a SIA, em cooperação com o Ministério do Trabalho, deverá mitigar os potenciais impactos negativos aos trabalhadores, potencializado os impactos positivos e valorizando instrumentos de negociações e convenções coletivas.
Em que pese a importância de uma abordagem humanista que resguarde direitos fundamentais e sociais a fim de remediar os impactos indesejados dos sistemas de inteligência artificial, verifica-se que o debate legislativo ainda carece de estudos, dados e estatísticas sobre os efetivos impactos dessa tecnologia no país, o que não parece ter sido levado em consideração no relatório preliminar.
É imprescindível a análise dos reais impactos dos sistemas de inteligência artificial nas mais diversas esferas de sua aplicação, bem como de suas consequências residuais, para que sejam definidas as medidas e as obrigações a serem criadas ou aprimoradas para mitigar os efeitos negativos.
A proximidade da apresentação do texto final do PL 2338 pela CTIA, prevista para o final de maio, continua a causar preocupação, pois ainda não é possível afirmar que o debate legislativo tem sido profundo o suficiente. Embora a nova proposta do CTIA contenha avanços relativamente ao texto original do PL 2338, a regulamentação da IA no Brasil por meio de uma lei geral, de alcance amplo, como se propõe, ainda demanda um diagnóstico sobre os benefícios e riscos do emprego dessa tecnologia em nosso país.
É essencial que o debate legislativo seja informado pela real situação do uso da IA no Brasil, inclusive a partir da aceleração da revisão da Estratégia Brasileira de Inteligência Artificial. Com isso, os riscos decorrentes da implementação e do uso da inteligência artificial serão mais bem delimitados e as medidas necessárias para mitigá-los poderão ser traçadas de forma eficaz e específica, seja por meio de uma lei geral, seja pelo aprimoramento das normas já existentes e criação de regras específicas para suprir as lacunas identificadas.

pzzb2083

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Texto final deve ser apresentado no fim de maio, mas ainda não é possível afirmar que debate tem sido profundo o suficiente

Proposta de revisão do PL 2338/23: mais um passo rumo à regulamentação da IA?

Texto final do PL 2338, que regula a inteligência artificial, deve ser apresentado no fim de maio no Senado