Experimente o JOTA PRO por 10 dias e decida com mais segurança.

Tania Liberman

A discussão sobre a necessidade de regulação da inteligência artificial (IA) tem ocorrido em todo o mundo, inclusive no Brasil, onde grande parte dos estudiosos do tema defendem algum tipo de regulamentação sobre a matéria. Vários projetos de lei foram elaborados. Os principais foram os PLs 5051/2019, 21/2020 e 872/2021. 
A aprovação do regime de urgência para o PL 21/20, em julho de 2021, na <a href="https://www.jota.info/tudo-sobre/camara-dos-deputados">Câmara dos Deputados</a>, sofreu diversas críticas, uma vez que a rapidez no processo de aprovação impede um debate público mais aprofundado sobre um tema tão complexo. O texto do projeto, inclusive, foi considerado excessivamente principiológico, generalista e simplista. 
Em razão disso, o Senado criou, em fevereiro de 2022, uma Comissão de Juristas para elaborar uma minuta de substitutivo mais prática aos PLs. A comissão publicou um relatório final sobre o tema em dezembro do mesmo ano, que se transformou no <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">PL 2338/2023</a>, o chamado Marco Legal da Inteligência Artificial.  
O Marco Legal da IA possui uma abordagem regulatória baseada em riscos e direitos, criando uma regulação assimétrica dos agentes regulados, com obrigações mais rígidas para agentes/operações com grau mais elevado de risco, similar à forma como o assunto foi abordado na União Europeia por meio do EU AI Act.
O novo texto estabelece que pessoas afetadas por sistemas de IA possuem os seguintes direitos:
<ul>
<li>a) à informação prévia sobre as suas interações com sistemas de inteligência artificial;</li>
<li>b) à explicação sobre a decisão, a recomendação ou a previsão tomada por sistemas de IA;</li>
<li>c) direito de contestar decisões ou previsões desses sistemas que produzam efeitos jurídicos ou que impactem de maneira significativa os interesses da pessoa que foi afetada;</li>
<li>d) à determinação e à participação humana em decisões tomadas a partir de IA;</li>
<li>e) à não discriminação e à correção de vieses discriminatórios diretos, indiretos, ilegais ou abusivos;</li>
<li>f) direito à privacidade e à proteção de dados pessoais. </li>
</ul>
O texto determina que todo sistema de IA deve passar por avaliação para indicação do grau de risco. Assim, a autoridade competente poderá determinar a sua reclassificação, ainda que o Marco Legal da IA não defina quem será a autoridade competente.  
O PL 2338 proíbe a implantação de sistemas de inteligência artificial de risco excessivo, que incluam técnicas subliminares que possam induzir as pessoas a se comportarem de forma prejudicial ou perigosa à saúde e à segurança, explorem vulnerabilidades de grupos específicos ou sejam usados pelo poder público para classificar ou ranquear pessoas.   
O texto estabelece, também, que o uso, pelo poder público, de sistemas de IA de identificação biométrica a distância, de forma contínua e em locais públicos, só pode ocorrer com base em lei específica e autorização judicial em conexão com atividade penal individualizada, para a) perseguição a condenados a pena de reclusão superior a 2 anos; b) busca de vítimas de crimes ou pessoas desaparecidas; e c) crimes em flagrante. Desta forma, reconhecimento facial em vias públicas das chamadas “cidades inteligentes” deve ser analisado com cuidado, considerando-se, em especial, questões de racismo algorítmico.   
O projeto também prevê que podem ser considerados de alto risco os sistemas de IA usados para finalidades consideradas sensíveis, como segurança de infraestrutura, educação e formação profissional, recrutamento e avaliações, prioridade em emergências, veículos autônomos, aplicações na área de saúde, sistemas biométricos de identificação, investigação criminal e de segurança pública, gestão da migração e controle de fronteiras.   
Para sistemas de IA de alto risco, é obrigatória a avaliação de impacto algorítmico, que deverá ser feita por profissional tecnicamente competente e independente do desenvolvedor/operador do sistema e, após, encaminhada à autoridade competente.   
Um ponto relevante do Marco Legal da IA trata da responsabilidade civil dos agentes de sistemas de IA. Nesse sentido, o fornecedor ou operador do sistema que causar dano patrimonial, moral, individual ou coletivo será obrigado a repará-lo integralmente, independentemente do grau de autonomia do sistema. Para sistemas de IA de alto risco ou de risco excessivo, o fornecedor ou operador responde objetivamente pelos danos causados. Caso o sistema de IA não seja de alto risco, a culpa do agente é presumida, ou seja, a pessoa lesada precisa apresentar as provas do dano.   
O Marco Legal da IA também estabelece sanções administrativas a serem aplicadas para agentes: advertência, multa simples limitada a R$ 50 milhões ou 2% do faturamento do grupo, publicização da infração, proibição para participar do regime de sandbox regulatório, suspensão do desenvolvimento, operação ou fornecimento de sistema de IA e proibição de tratamento de dados.   
O Marco Legal da IA representa uma grande evolução em relação aos projetos iniciais, mas certamente poderá ser melhorado após realização de consultas públicas. Um dos temas que poderia ganhar mais destaque no texto é o do tratamento do direito autoral/propriedade intelectual de produtos criados por IA e de produtos usados para fins de machine learning. Além disso, é importante que se estabeleça, tão logo possível, quem será a autoridade competente por regular a matéria, de forma a viabilizar, mais rapidamente, após a entrada em vigor do PL, a sua aplicação prática.  
Esperamos ter novidades sobre o assunto até o final deste ano. De qualquer forma, mesmo antes da aprovação do Marco Legal da IA, os sistemas de inteligência artificial estão sujeitos à legislação brasileira aplicável, em especial, ao Código Civil, ao Código de Defesa do Consumidor e à Lei Geral de Proteção de Dados (LGPD).

mac-gf64732bd5_1920

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

O que prevê o PL 2338 e para onde deveremos caminhar

A regulamentação da IA no Brasil

Marco Legal da IA (PL 2338) é uma grande evolução em relação aos projetos iniciais, mas poderá ser melhorado após consultas públicas