Felipe Roquete

Porque me negas o que te não peço.<a href="#_edn1" name="_ednref1">[1]</a>
A Comissão de Juristas instituída pelo Senado Federal para subsidiar a elaboração de minuta de substitutivo para os projetos de lei que visam à regulação da inteligência artificial (IA), divulgou seu relatório final<a href="#_edn1" name="_ednref1">[2]</a> no último dia 6 de dezembro.
Com 912 páginas, o relatório consiste em um belo exemplo de transparência (ao apresentar todo seu histórico de funcionamento e os documentos-chave), de participação social (ao consolidar insumos oriundos de audiências públicas<a href="#_edn2" name="_ednref2">[3]</a> e contribuições escritas recebidas<a href="#_edn3" name="_ednref3">[4]</a>) e de busca da motivação racional da proposta apresentada (ao definir os temas relevantes e buscar exemplos do que outros países estão desenvolvendo<a href="#_edn4" name="_ednref4">[5]</a>).
Diversas são as dimensões relevantes na proposta da comissão, mas creio que valeria a pena destacar três pontos que impactarão sua eventual implementação, bem como apontar um tema que mereceria um tratamento mais detido.
O primeiro ponto refere-se ao conceito de inteligência artificial trazido pela proposta<a href="#_edn5" name="_ednref5">[6]</a>. É importante ressaltar que a própria decisão de apresentar um conceito, dada a virtual inexistência de um consenso acerca do que seriam sistemas de inteligência artificial, é uma característica marcante da ambição (consequente, ressalte-se!) da minuta.
Se, de um lado, a existência de um conceito possibilita que a regulação tenha previamente definidos seu escopo e abrangência – o que dá concretude aos princípios da segurança jurídica e da transparência – de outro lado, eleva, simultaneamente, os riscos de sobre-inclusão e sub-inclusão da norma, o que pode atingir os princípios da previsibilidade e da efetividade da atuação estatal<a href="#_edn6" name="_ednref6">[7]</a>.
À primeira vista, o conceito proposto, ao citar “abordagens baseadas em aprendizagem de máquina”, assume o risco de fornecedores e operadores de inteligência artificial desenvolverem estratégias para contornar a classificação de suas aplicações como passíveis de regulação. Em outras palavras, ao apresentar dimensões específicas para construção conceitual – no caso, as técnicas de aprendizagem de máquina – é criada uma oportunidade para que futuros regulados se evadam da regulação: bastaria, para tanto, que suas aplicações não utilizassem, direta e/ou nominalmente, as técnicas que definem seu enquadramento no conceito legal.
E, dada a assimetria informacional entre aqueles agentes e a (futura) autoridade competente, não é negligenciável a probabilidade de surgirem controvérsias – inclusive, judiciais – nas quais os fornecedores e operadores do sistema busquem excluir do conceito seus sistemas de IA. Aqui, portanto, o conceito implicaria o caráter sub-inclusivo da norma, ou seja, a não inclusão, na regulação, daquelas aplicações consideradas relevantes.
Da mesma forma, ao incluir no conceito “abordagens baseadas em (…) lógica e representação do conhecimento”, a norma torna tão abrangente seu escopo que diversas aplicações passariam a ser objeto da regulação, mesmo que sejam irrelevantes em termos dos objetos jurídicos que se pretende proteger. Aqui, o caráter sobre-inclusivo da norma poderia sobrecarregar a autoridade e trazer ônus regulatório excessivo para os agentes de inteligência artificial.
Não há solução fácil nesse continuum entre sobre-inclusão e sub-inclusão, pois exige que seja realizada uma ponderação entre aqueles valores – segurança jurídica, transparência previsibilidade e efetividade da atuação estatal – relevantes para o arcabouço regulatório. Ressalte-se, contudo, que os integrantes da Comissão de Juristas aceitaram enfrentar tal dilema, de forma transparente e fundamentada.
O segundo ponto trata da opção pela regulação baseada em risco. Trata-se de uma estratégia que, a partir da definição ex ante de um rol de temas sensíveis, busca criar instrumentos regulatórios adequados para enfrentar seus possíveis impactos<a href="#_edn7" name="_ednref7">[8]</a>.
No caso da minuta apresentada, decidiu-se pela criação de duas categorias de risco – excessivo e alto – que implicam, no primeiro caso, o banimento de aplicações de IA (ou seja, sua proibição) e, no segundo caso, a necessidade de estratégias de mitigação de riscos como condicionantes para sua implementação (por intermédio, por exemplo, de regras de governança e da elaboração de Avaliações de Impacto Algorítmico)<a href="#_edn8" name="_ednref8">[9]</a>.
O ponto central, aqui, refere-se ao suposto forte assumido pela Comissão de Juristas: de que seria possível, a priori, realizar o cálculo dos riscos, em outras palavras, da probabilidade de ocorrência de determinados fatos, a partir da indução com base na experiência e na avaliação empírica.
Ainda que exista uma casuística sobre impactos deletérios advindos do uso acrítico de sistemas de <a href="https://www.jota.info/tudo-sobre/ia">IA</a> junto a determinados grupos sociais, parece-nos que estamos diante, na verdade, do uso envergonhado do princípio da precaução. Em outras palavras, a proposta apresentada denota que haveria um determinado conjunto de aplicações que – dada sua sensibilidade social, política e/ou econômica – exigiria a cautela máxima por parte do Estado. Dessa forma, havendo incerteza quanto aos resultados (em outras palavras, diante de riscos não-quantificáveis, dada a inexistência de bases válidas para classificar novos eventos) pressupõe-se que serão deletérios e, portanto, decide-se por proibir e/ou estabelecer critérios estritos para o uso de determinadas tecnologias<a href="#_edn9" name="_ednref9">[10]</a>.
Lidar com incertezas exige instrumentos regulatórios específicos, que não se confundem com aqueles utilizados em ambientes nos quais é possível o cálculo acurado de riscos. Nesse sentido, é fundamental delinear corretamente cada cenário, para que os atores possam tomar as decisões mais adequadas para cada realidade.
O terceiro ponto consiste na sugestão de designação de uma autoridade específica para regular os sistemas de inteligência artificial.
É louvável a lição de pragmatismo da proposta, ao estabelecer que a União deveria designar a autoridade competente, sem determinar a criação de um órgão específico<a href="#_edn10" name="_ednref10">[11]</a>.
Contudo, a batalha institucional, ainda que adiada, está longe de ter sido vencida, principalmente no que se refere à organização da futura autoridade. Não são negligenciáveis os desafios de (re)construção de um órgão que venha a ter as capacidades institucionais – em termos de recursos organizacionais, tecnológicos, humanos etc. – que lhe permita (i) realizar uma interlocução qualificada – e minimamente equilibrada – com os fornecedores e operadores de sistemas de IA e (ii) atender à diversidade de ônus estabelecidos pela proposta, tais como os informacionais (artigo 7º) e os procedimentais (artigo 8º e 9º).
Em termos organizacionais, são claros os riscos de designação de uma autoridade que não seja provida com os meios adequados para cumprir as determinações regulatórias: não apenas o impacto reputacional, mas principalmente a dificuldade de reversão de aplicações implementadas que tenham produzido resultados deletérios.
Finalmente, há um tema que é importante destacar, pelos desafios de longo prazo que apresenta. A comissão optou por uma abordagem prudente no que se refere à estratégia regulatória a ser adotada, pois não ficou adstrita a instrumentos baseados em comando e controle, tampouco decidiu pelo uso exclusivo de instrumentos fundados na regulação responsiva, na autorregulação ou na co-regulação.
A minuta apresenta uma tentativa de utilizar as estratégias mais adequadas para cada dimensão do problema regulatório, conformando uma abordagem híbrida. Contudo, tal estratégia híbrida traz um ônus adicional para a autoridade competente para a regulação, principalmente no que concerne ao desafio de compatibilizar instrumentos diversos e, simultaneamente, implementa-los em um ambiente institucional complexo.
Em outras palavras, a autoridade competente necessitará implementar aqueles instrumentos em uma realidade na qual há outras agências reguladoras setoriais – que baseiam suas atuações em abordagens regulatórias potencialmente incompatíveis ou divergentes – trazendo uma camada adicional de complexidade à sua atuação, pois aqui surgirá o nada trivial desafio da coordenação interinstitucional.
Ainda que a minuta tenha sinalizado que a questão da coordenação é essencial para o sucesso da regulação, o hibridismo regulatório que conforma pode dar origem a ruídos e divergências no momento da atuação conjunta entre a autoridade competente e as agências reguladoras setoriais.
O desafio assumido pela Comissão de Juristas não foi trivial. A análise crítica dos resultados produzidos só é possível porque as atividades da comissão basearam-se na transparência e na busca de evidências para tomada de decisão. Que o trabalho desenvolvido torne-se não apenas exemplo para futuras iniciativas, mas que também seja apenas o passo inicial de um debate produtivo.
<hr />
<a href="#_ednref1" name="_edn1">[1]</a> Trecho de Fernando Pessoa, “Odes" do heterônimo Ricardo Reis.
<a href="#_ednref1" name="_edn1">[2]</a> RELATÓRIO FINAL Comissão de Juristas instituída pelo Ato do Presidente do Senado nº 4, de 2022, destinada a subsidiar a elaboração de minuta de substitutivo para instruir a apreciação dos Projetos de Lei nºs 5.051, de 2019, 21, de 2020, e 872, de 2021, que têm como objetivo estabelecer princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da inteligência artificial no Brasil: <a href="https://www.stj.jus.br/sites/portalp/SiteAssets/documentos/noticias/Relat%25C3%25B3rio%2520final%2520CJSUBIA.pdf">https://www.stj.jus.br/sites/portalp/SiteAssets/documentos/noticias/Relatório%20final%20CJSUBIA.pdf</a>
<a href="#_ednref2" name="_edn2">[3]</a> Foram quatro audiências públicas, totalizando mais de 30 horas.
<a href="#_ednref3" name="_edn3">[4]</a> Foram 103 contribuições escritas, da sociedade civil, governo, mercado e academia, que totalizaram mais de 2.000 páginas de texto.
<a href="#_ednref4" name="_edn4">[5]</a> Além da realização de seminário internacional com a presença de especialistas de diversos países, a equipe técnica do Senado Federal fez um estudo comparado sobre 31 países da OCDE, mapeando iniciativas de regulação de Inteligência Artificial.
<a href="#_ednref5" name="_edn5">[6]</a> Artigo 4º inciso I, da Minuta:
(…) I – sistema de inteligência artificial: sistema computacional, com graus diferentes de autonomia, desenhado para inferir como atingir um dado conjunto de objetivos, utilizando abordagens baseadas em aprendizagem de máquina e/ou lógica e representação do conhecimento, por meio de dados de entrada provenientes de máquinas ou humanos, com o objetivo de produzir previsões, recomendações ou decisões que possam influenciar o ambiente virtual ou real.
<a href="#_ednref6" name="_edn6">[7]</a> Recomendo a leitura dos textos de Marco Almada, em sua newsletter “AI, Law and Otter things” (<a href="https://marcoalmada.substack.com">https://marcoalmada.substack.com</a>), que vem refletindo sobre o tema da regulação de IA de maneira atenta.
<a href="#_ednref7" name="_edn7">[8]</a> Veja-se a proposta em fase final de aprovação pelo Parlamento Europeu: <a href="https://artificialintelligenceact.eu">https://artificialintelligenceact.eu</a>.
<a href="#_ednref8" name="_edn8">[9]</a> Além disso, o artigo 21 cria cautelas adicionais para que a Administração Pública utilize sistemas de IA de alto risco.
<a href="#_ednref9" name="_edn9">[10]</a> Interessante notar que no parágrafo 2º do artigo 24, há referência direta ao princípio da precaução, ainda que relacionado apenas à metodologia para elaboração da Análise de Impacto Algorítmico.
<a href="#_ednref10" name="_edn10">[11]</a> É patente que os desafios vividos para consolidação da Autoridade Nacional de Proteção de Dados (ANPD) serviram como aprendizado para a Comissão.

Inteligência artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Relatório é um belo exemplo de transparência, participação social e busca da motivação racional da proposta apresentada

Inteligência artificial, regulação e a Comissão de Juristas do Senado

Relatório da comissão é um belo exemplo de transparência, participação social e busca da motivação racional da proposta apresentada