Rony Vainzof

Ricardo Campos

A inteligência artificial (IA) é tecnologia condicionante para o atual desenvolvimento econômico e social de nações ao permitir a exploração de níveis de conhecimento inimagináveis há poucos anos, abrir margem para novas descobertas e contribuir com a possível solução de grandes desafios da humanidade.
A IA potencializa a revolução do mercado e a maneira como nos relacionamos com a tecnologia. Contudo, elementos responsáveis por produzir tais benefícios podem também trazer novos riscos a direitos ou consequências adversas, o que motiva a discussão global sobre estratégias para o uso ético, confiável e responsável dos sistemas de IA.
Desde 2017, pelo menos 60 países adotaram alguma forma de regulação de IA, gênero que abarca diversas metodologias, como procedimentos de programação clássica (tais como os chamados sistemas especialistas) e machine learning (aprendizado de máquina e suas variantes, como deep learning e neural networks).
Sistemas de IA pautados em técnicas de aprendizado podem contar com elevado grau de opacidade, dificultando a compreensão e explicação de como determinado output (que frequentemente se traduzirá em uma decisão que terá impacto sobre a vida de alguém) foi alcançado. A opacidade desses sistemas – muitas vezes comparados a uma “caixa preta”<a href="#_ftn1" name="_ftnref1">[1]</a> — torna difícil não apenas a compreensão do seu funcionamento pelos indivíduos, mas também reduz a possibilidade de que eles possam desafiar determinadas decisões.
Ainda, considerando que a fonte de aprendizado de um sistema de IA é o grande volume de dados para, a partir daí, extrair padrões, é possível que preconceitos históricos sejam temerariamente reproduzidos nas aplicações.
Além disso, a análise de dados de forma automatizada traz também riscos à privacidade, razão pela qual deve ser realizada em conformidade às leis de proteção de dados aplicáveis.
Finalmente, a possibilidade de que uma IA atue de forma autônoma, ou seja, sem controle ou supervisão direta por parte de seus programadores e usuários, pode criar lacuna de responsabilidade em caso de danos causados <a href="#_ftn2" name="_ftnref2">[2]</a>.
Diante desse cenário, há discussão mundial de regulação do uso de IA, definindo-se não apenas padrões éticos e de accountability, mas também questões como vedação de uso para determinadas atividades, regimes de responsabilidade civil, requisitos mínimos para a disponibilização no mercado, entre outros.
<h3> Regulação de IA na União Europeia </h3>
Em abril de 2021, a Comissão Europeia lançou o Artificial Intelligence Act - COM/2021/206<a href="#_ftn3" name="_ftnref3">[3]</a>, proposta de regulamento baseada em risco, que impõe amplas obrigações em relação aos sistemas de IA.
A proposta proíbe inteiramente certas aplicações de IA de “risco inaceitável” (como score social por governos), impõe obrigações especiais de governança em relação a sistemas de IA de “alto risco” (Anexos II e III da proposta); e cria nova estrutura de regulação e processos de teste, monitoramento e conformidade.
Ainda, o texto traz estrutura para a criação de Códigos de Conduta, que visam incentivar fornecedores de sistemas de IA de risco baixo ou mínimo a aplicar voluntariamente os requisitos obrigatórios para os sistemas de alto risco. 
<h3> Abordagem norte-americana de regulação </h3>
Diferentemente da abrangente estrutura regulatória da União Europeia, nos Estados Unidos há propostas de diretrizes regulatórias específicas por parte de diferentes agências setoriais do país.
O documento regulatório mais específico a dispor sobre IA nos EUA é o National AI Initiative Act (NAIIA) de 2020, convertido em lei em 2021. Ele estabelece programa coordenado em todo o governo federal para acelerar a pesquisa e aplicação da IA, com objetivos de assegurar a liderança contínua dos EUA em pesquisa e desenvolvimento de IA, liderar o desenvolvimento e uso de IA confiável nos setores público e privado, e preparar a força de trabalho americana presente e futura para a integração dos sistemas de IA em todos os setores da economia e da sociedade.
A NAIIA pouco diz sobre a regulação da IA em si, limitando-se a indicar princípios e estratégias de atuação para desenvolvimento da tecnologia em diferentes campos e setores, como já vem sendo feito, por exemplo, pela Federal Trade Commission<a href="#_ftn4" name="_ftnref4">[4]</a> e pelo Departamento de Comércio dos EUA<a href="#_ftn5" name="_ftnref5">[5]</a>.
<h3> Perspectiva regulatória no Brasil </h3>
O <a href="https://www.camara.leg.br/propostas-legislativas/2236340">PL 21/2020</a>, aprovado na Câmara dos Deputados, estabelece salvaguardas para o uso ético, responsável e transparente de tecnologias de IA, materializadas no texto principalmente sob a forma de princípios, como o da transparência, segurança e prevenção, e não discriminação.
A observância de parâmetros éticos em IA é fundamental para que as potencialidades dessa tecnologia sejam desenvolvidas de modo responsável. Contudo, a mera enumeração de princípios éticos abstratos e diretrizes genéricas, sem o estabelecimento de parâmetros mínimos de governança e boas práticas para o desenvolvimento e emprego desses sistemas, é um ponto de importante reflexão.
Uma abordagem regulatória equilibrada, apta a propiciar mecanismos de estímulo e fomento ao investimento, bem como segurança jurídica em relação aos parâmetros de governança mínimos necessários à promoção de tecnologias éticas e seguras, pode viabilizar a confiança necessária nas aplicações de IA, e simultaneamente incentivar as empresas para que as desenvolvam, desde que haja modelação de níveis escalonados e criação de salvaguardas proporcionais para a mitigação de riscos a depender da aplicação da IA. Ou seja, o nível de risco deve ser baseado numa abordagem setorial e casuística.
Estabelecer requisitos mínimos de governança a serem adotados é importante para a segurança jurídica acerca das obrigações concretas a serem extraídas dos princípios estabelecidos, evitando-se interpretações heterogêneas e fragmentadas.
Ainda, por mais que se busque precisão e robustez, a IA pode resultar em decisões imprevisíveis, capazes de acarretar danos, restando aos agentes desenvolvedores e empregadores da tecnologia assegurar que seguiram as melhores práticas no ciclo de vida da IA. A demonstração de que a empresa seguiu padrões de governança pode eximir os desenvolvedores e empregadores de culpa, ou, no mínimo, reforçar o ônus da prova sobre aqueles que alegam o dano, considerando a demonstração de sua adequação às normas aplicáveis por meio de esforços razoáveis compatíveis com padrões internacionais e melhores práticas de mercado.
O comprometimento das empresas com boas práticas mínimas de governança estipuladas pelo Estado legitima a tecnologia perante os usuários e cidadãos em geral, elevando o consumo e reduzindo potencial de litígios e questionamentos dos resultados apresentados pela IA.
Considerando a rápida evolução da tecnologia, assim, seriam estabelecidas apenas obrigações mínimas de governança, formuladas de modo aberto, cuja especificação caberia as entidades setoriais que adotam soluções incorporando IA. Uma vez direcionada e homologada pelo Estado, a autorregulação passa a ter maior legitimidade, e a conformidade com seus códigos reduz o risco de punições ou mesmo responsabilizações civis.
O Estado pode induzir a formação e reconhecer instituições de autorregulação de desenvolvimento responsável e ético da IA, bem como instituições de certificação que possam gerar confiança para o uso e crescimento saudável da IA no Brasil.
Sobre a criação – ou não – de uma nova agência regulatória especializada e independente, considerando a IA como tecnologia, podendo ser utilizada em diferentes contextos e setores, a sua normatização e fiscalização será mais eficiente se for realizada por órgãos reguladores já constituídos e que detêm competência setorial para tanto.
<h3> Conclusão </h3>
As pujantes iniciativas regulatórias refletem a importância que a IA tem para as nações, assim como a significante preocupação quanto à necessidade de se proteger pessoas dos potenciais danos, bem como gerar segurança jurídica e confiança no mercado.
Na União Europeia, vê-se iniciativa de legislação abrangente, com definição de riscos ex ante e regras firmes quanto aos requisitos para desenvolvimento e emprego da IA. Nos Estados Unidos, a descentralização do sistema normativo faz com que, até o momento, a regulação de IA se resuma, em nível federal, a enunciados principiólogicos.
Por aqui, esperamos que a nossa norma tenha abordagem principiológica, consolidando princípios e diretrizes gerais de outros instrumentos normativos ao redor do mundo, e algumas poucas definições e regras de governança.
A abordagem principiológica e baseada em graus de risco e accountability, complementada por códigos de conduta setoriais e autorregularão regulada, limita os riscos de violação a direitos fundamentais e promove a supervisão e execução eficazes, ao associar requisitos aos sistemas com riscos nos casos setoriais práticos.
Diante desse cenário, talvez a solução seja justamente retomar o clássico pensamento da mediana aristotélica, e buscar, uma vez que nos tenha sido dado essa oportunidade, o caminho do meio.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> PASQUALE, Frank. The Black Box Society: The secret algorithms that control money and information. Cambridge: Harvard University Press, 2015.
<a href="#_ftnref2" name="_ftn2">[2]</a> MATTHIAS, Andreas. The responsibility gap: ascribing responsibility for the actions of learning automata. Ethics and Information Technology, v. 6, n. 3, p. 175-183, 2004.
<a href="#_ftnref3" name="_ftn3">[3]</a> UNIÃO EUROPEIA. Proposal for a Regulation of the European Parliament and the Council Laying Down Harmonized Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts (COM/2021/206). Bruxelas: Comissão Europeia, 2021. Disponível em: <a href="https://eur-lex.europa.eu/legal-content/EN/TXT/?qid=1623335154975&amp;uri=CELEX%3A52021PC0206">https://eur-lex.europa.eu/legal-content/EN/TXT/?qid=1623335154975&amp;uri=CELEX%3A52021PC0206</a>. Acesso em: 10 jun. 2021.
<a href="#_ftnref4" name="_ftn4">[4]</a> <a href="https://www.ftc.gov/business-guidance/blog/2021/04/aiming-truth-fairness-equity-your-companys-use-ai">https://www.ftc.gov/business-guidance/blog/2021/04/aiming-truth-fairness-equity-your-companys-use-ai</a>
<a href="#_ftnref5" name="_ftn5">[5]</a> Com base também na NAIIA, o Congresso norte-americano determinou que o National Institute of Standards and Technology (NIST), que faz parte do DoC, desenvolvesse "uma estrutura voluntária de gerenciamento de risco para sistemas de IA confiáveis". O NIST emitiu Request for Information (espécie de consulta pública), buscando informações para direcionar o desenvolvimento do AI Risk Management Framework – AI. A expectativa é que o AI RMF possa influenciar a forma como empresas e organizações abordam os riscos relacionados à IA, evitando vieses discriminatórios e promovendo princípios como precisão, privacidade e segurança. <a href="https://www.nist.gov/itl/ai-risk-management-framework">https://www.nist.gov/itl/ai-risk-management-framework</a>

inteligência artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Talvez a solução seja retomar o clássico pensamento da mediana aristotélica e buscar o caminho do meio

Caminhos possíveis para a regulação da inteligência artificial

Talvez a solução para a regulação da inteligência artificial seja retomar o pensamento da mediana aristotélica e buscar o caminho do meio