Opinião e Análise

Leonardo Peixoto Barbosa

Em meio a discussões internacionais sobre a regulação de inteligência artificial (<a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">IA</a>), a exemplo de <a href="https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence#:~:text=It%20says%20that%20AI%20systems,world's%20first%20rules%20on%20AI.">União Europeia</a>, <a href="https://www.gov.uk/government/publications/ai-regulation-a-pro-innovation-approach#:~:text=The%20UK%20Science%20and%20Technology,environment%20for%20AI%20to%20flourish.">Reino Unido</a>, <a href="https://ised-isde.canada.ca/site/innovation-better-canada/en/artificial-intelligence-and-data-act">Canadá</a> e Brasil (<a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">PL 2338/23</a>), os Estados Unidos da América (EUA) tornaram pública, em 30/10/2023, a Ordem Executiva sobre Inteligência Artificial Segura e Confiável (<a href="https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/">Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence</a>).
Essa iniciativa reflete a participação dos EUA em importantes eventos internacional recentes: o <a href="https://digital-strategy.ec.europa.eu/en/library/g7-leaders-statement-hiroshima-ai-process">G-7 Hiroshima Process</a>, o <a href="https://gpai.ai/">Global Partnership on AI Summit 2023</a> e o <a href="https://www.gov.uk/government/topical-events/ai-safety-summit-2023">UK Summit on AI Safety</a>.
<h3><a href="https://www.jota.info/produtos/poder%20?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Tenha acesso ao JOTA PRO Poder, uma plataforma de monitoramento político com informações de bastidores que oferece mais transparência e previsibilidade para empresas. Conheça!</a></h3>
Essa é a mais atual de várias medidas adotadas pelo Poder Executivo dos EUA, para lidar com os desafios postos pela IA, dentre as quais: a Ordem Executiva n.º <a href="https://www.federalregister.gov/documents/2020/12/08/2020-27065/promoting-the-use-of-trustworthy-artificial-intelligence-in-the-federal-government">13960</a>, o Blueprint para uma Declaração de Direitos em IA (<a href="https://www.whitehouse.gov/ostp/ai-bill-of-rights/#applying">Blueprint for an AI Bill of Rights</a>) e o recém-lançado <a href="https://www.nist.gov/itl/ai-risk-management-framework">Artificial Intelligence Risk Management Framework</a>, no National Institute of Standards and Technology (NIST).
Ainda, a Ordem Executiva sobre Inteligência Artificial Segura e Confiável é possivelmente o passo mais ambicioso da Administração Biden para o gerenciamento dos riscos gerados pela IA e para o direcionamento do desenvolvimento dessa tecnologia aliada a princípios e interesses dos EUA, utilizando ferramentas regulatórias como um mecanismo de conformação de dinâmicas de mercado.
Como defendido por MAZZUCATO et al<a href="#sdfootnote1sym" name="sdfootnote1anc">1</a>, governos soberanos não deveriam assumir uma posição passiva em relação ao desenvolvimento da inteligência artificial, mas, sim, avocar controle e direção do desenvolvimento tecnológico a fim de atingir finalidades públicas bem definidas (common good) e permitir incrementos de valor à sociedade. É o que parece estar em vias de implementação nos EUA.
A Ordem Executiva n.º 13960 sinaliza, por exemplo que:
"[a] liderança contínua dos Estados Unidos em IA é de importância primordial para manter a segurança econômica e nacional dos Estados Unidos e para moldar a evolução global da IA de maneira consistente com os valores, políticas e prioridades de nossa nação." (tradução própria)
O Blueprint for an AI Bill of Rights segue a mesma lógica, estabelecendo princípios fundamentais na implementação da IA que estão alinhados "com os valores democráticos e protegem os direitos civis, as liberdades civis e a privacidade". Da mesma forma, a Ordem Executiva sobre Inteligência Artificial Segura e Confiável enaltece a busca da liderança dos EUA, nacional e internacionalmente, no desenvolvimento e gerenciamento de riscos da IA.
Nesse passo, e tomando a perspectiva de efetividade/normatividade da regulação, referida Ordem sinaliza alguns avanços em relação ao Blueprint.
A uma, a declaração de direitos estabelecia disposições não vinculativas para apoiar o desenvolvimento de políticas públicas e práticas que protejam os direitos civis no uso e implementação de sistemas de IA, baseadas em cinco princípios norteadores das aplicações automatizadas que possam impactar ou limitar o acesso, direitos e oportunidades a recursos ou serviços críticos.
Esses princípios são: (i) proteção contra sistemas inseguros ou ineficazes; (ii) acesso a sistemas algorítmicos não discriminatórios, projetados de maneira equitativa; (iii) controle dos dados pessoais pelos titulares; (iv) sistemas de IA explicáveis e transparentes; e (v) alternativas humanas sempre disponíveis caso alguém opte por não lidar com um sistema de IA.
No caso da Ordem Executiva, por mais que suas disposições pareçam assumir caráter voluntário a particulares, provavelmente terão caráter cogente para os órgãos subordinados à administração pública federal estadunidense. Nesse sentido, a Ordem Executiva terá um papel indutor de comportamento coletivo, nos EUA e internacionalmente, ao criar parâmetros basilares de segurança e confiabilidade de IA nas aplicações da tecnologia empreendidas pelo governo.
A duas, a Ordem Executiva é mais detalhada que o Blueprint, criando diretrizes concretas para a atuação dos entes da administração direta e indireta dos EUA – organizadas em 7 eixos principais de atuação, e recomendações legislativas ao Congresso estadunidense.
O primeiro eixo trata de regras e padrões de conduta relacionadas à segurança do uso de sistemas de IA. Os desenvolvedores de sistemas de IA com impacto significativo na segurança pública, economia nacional ou saúde pública deverão compartilhar seus testes de segurança.
Há incentivo à implementação de testes red-team de segurança, que partem da premissa da existência de falhas de segurança e sua comprovação por equipes especializadas. Os parâmetros desses testes serão delineados pelo NIST. Essa padronização para fins de segurança abarca a criação de mecanismos de identificação de conteúdos gerados por IA e emissão de certificados de autenticidade para conteúdos oficiais, visando evitar manipulações públicas e disseminação de informações falsas.
O segundo eixo compreende iniciativas para a proteção da privacidade dos cidadãos estadunidenses, estimulando o Congresso dos EUA a aprovar legislações que acelerem técnicas de tratamento de dados preservando a privacidade de seus titulares, fortaleçam pesquisas e tecnologias nessa direção, e orientem o uso comercial de informações disponíveis, estabelecendo diretrizes para agências federais avaliarem a efetividade de suas práticas de preservação de privacidade.
O terceiro eixo abrange as diretrizes para o uso da IA em conformidade com os direitos civis, com foco em evitar o uso discriminatório por entidades federais. Para isso, será útil a experiência do Departamento de Justiça (DOJ) e da Justiça Federal para prevenir que esse uso indevido ocorra nos sistemas judiciais, tanto criminal quanto civil.
Os eixos quatro e cinco incluem medidas de proteção de consumidores, pacientes, estudantes e trabalhadores expostos a ferramentas de IA. Por exemplo, diretrizes para o uso responsável de IA na área da saúde, acesso a serviços seguros e sua aplicação no sistema educacional, especialmente sensível diante do surgimento de modelos de IA generativos, e a implementação de métodos adequados para avaliar o desempenho de algoritmos.
No âmbito das relações trabalhistas, pretende-se reduzir o impacto do aumento da vigilância, vieses na seleção de empregados e substituição de postos de trabalho, com esforços do Governo Federal para avaliar potenciais perdas de emprego e direcionar a força de trabalho para novas atividades.
O sexto eixo trata do ambiente de inovação e competição, visando a manter a liderança dos EUA no ciclo digital de transformações econômicas. Nesse sentido, pesquisas em IA serão impulsionadas por meio de uma espécie de data lake que estará disponível para uso por estudantes e pesquisadores, os quais terão acesso a subsídios para pesquisa em áreas vitais como saúde e mudanças climáticas. O objetivo é promover um ecossistema justo e competitivo para pequenos desenvolvedores e empreendedores, fornecendo assistência técnica e recursos.
Além disso, há a possibilidade de alteração de requisitos para concessão de vistos de estudo e trabalho, com vistas a atrair imigrantes altamente qualificados para os EUA.
Por fim, o sétimo eixo destaca os desafios e oportunidades globais da IA, sugerindo que a Administração Biden continuará a colaborar internacionalmente para apoiar a implantação segura, protegida e confiável de IA. Ações incluem: expandir as colaborações internacionais e multissetoriais para colaborar na área de IA e trabalhar para criar estruturas internacionais sólidas que aproveitem os benefícios da IA e gerenciem seus riscos.
Resta observar como estas diretrizes, refletoras do zeitgeist regulatório sobre IA, se desdobrarão na prática, influenciando a busca de um consenso global sobre a regulação da tecnologia.
_______________________________________________________________
<div id="sdfootnote1">
<a class="sdfootnotesym" href="#sdfootnote1anc" name="sdfootnote1sym">1</a> MAZZUCATO et al, Governing artificial intelligence in the public interest.; MAZZUCATO, Mariana, Mission economy: A moonshot guide to changing capitalism, New York: Harper Business, 2021.
</div>

P20231007CS-0251

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Novo ato de inspiração e expiração regulatória

A nova ordem executiva dos EUA sobre Inteligência Artificial segura e confiável

Em meio a discussões internacionais sobre a regulação de inteligência artificial (IA), a exemplo de União Europeia, Reino Unido, Canadá e Brasil (PL 2338/23), os Estados Unidos da América (EUA) tornaram pública, em 30/10/2023, a Ordem Executiva sobre Inteligência Artificial Segura e Confiável (Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence).