Opinião e Análise

Paula Guedes Fernandes da Silva

A inteligência artificial não é mais uma questão futurística, mas cada vez mais atual e urgente, consideradas estratégicas para o cenário de transformação digital,<a href="#_ftn1" name="_ftnref1">[1]</a> sendo o tópico de "Desafios, oportunidades e governança da inteligência artificial", uma das áreas de foco da Força Tarefa 5 em Transformação Digital Inclusiva da atual presidência brasileira no <a href="https://www.jota.info/tudo-sobre/g20">G20</a>.<a href="#_ftn2" name="_ftnref2">[2]</a>
<h3><a href="https://whatsapp.com/channel/0029VaFvFd73rZZflK7yGD0I">Inscreva-se no canal de notícias do JOTA no WhatsApp e fique por dentro das principais discussões do país!</a></h3>
Apesar de seus benefícios e da proliferação de iniciativas de princípios éticos para a tecnologia, o desenvolvimento da IA na ausência de regras coercitivas de governança gera e reforça uma série de riscos aos direitos fundamentais, valores democráticos, meio ambiente e ao Estado Democrático. Só em 2023, a <a href="https://www.jota.info/tudo-sobre/ocde">OCDE</a> e o G7 publicaram uma série de relatórios sobre IA<a href="#_ftn3" name="_ftnref3">[3]</a>; a Unesco atualizou suas Recomendações sobre a Ética da IA<a href="#_ftn4" name="_ftnref4">[4]</a>; o PE e o Conselho da UE chegaram a um acordo a respeito do AI Act,<a href="#_ftn5" name="_ftnref5">[5]</a> o presidente do <a href="https://www.jota.info/tudo-sobre/senado-federal">Senado Federal do Brasil</a>, Rodrigo Pacheco, propôs o <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">Projeto de Lei 2338/2023</a> que visa criar um Marco Legal para a IA no país e que atualmente é analisado na CTIA;<a href="#_ftn6" name="_ftnref6">[6]</a> a administração norte-americana Biden-Harris publicou uma ordem executiva sobre a IA;<a href="#_ftn7" name="_ftnref7">[7]</a> o CAI do Conselho Europeu publicou um rascunho da primeira Convenção Internacional sobre a IA;<a href="#_ftn8" name="_ftnref8">[8]</a> a China publicou medidas provisórias para a gestão de IA generativa;<a href="#_ftn9" name="_ftnref9">[9]</a> e o Reino Unido realizou o AI Safety Summit que reuniu governos, empresas, grupos da sociedade civil e especialistas no tópico de IA para debater os seus riscos e como mitigá-los por meio de uma ação internacional coordenada.<a href="#_ftn10" name="_ftnref10">[10]</a>
<h3>Não mais “se”, mas “como” regular </h3>
Tal panorama de efervescência regulatória corrobora a premissa de que a questão não é mais regular ou não os usos da IA, mas como melhor o fazer, afastando também o argumento de que a regulação representaria um entrave ao avanço tecnológico e à inovação, especialmente em países de Sul-Global, que ainda precisam avançar em sua produção técnica enquanto também exportadores de tecnologias. Isso porque o que se deseja estimular não é qualquer tipo de inovação, mas aquela que seja responsável socioeconomicamente, isto é, que reforce direitos fundamentais e o próprio Estado Democrático.<a href="#_ftn11" name="_ftnref11">[11]</a>
Utilizemos o exemplo do CDC: antes de sua criação, produtos e serviços inseguros e defeituosos eram colocados ou disponibilizados no mercado sem grandes garantias de violação de direitos.<a href="#_ftn12" name="_ftnref12">[12]</a> Anos depois, o cenário que se apresenta não é o de ausência de novos produtos e serviços inovadores, mas sim, mais seguros, informativos e com a garantia mínima de que, em caso de danos, há meios de cobrar por seus direitos com a criação de um microssistema de proteção do consumidor. É algo similar a isso que se espera da regulação transversal de sistemas de IA, que ela atue como potencial catalisador do desenvolvimento tecnológico, econômico e social responsáveis.
<h3><a href="https://conteudo.jota.info/marketing-lp-newsletter-por-dentro-da-maquina">Quer saber os principais fatos ligados ao serviço público? Clique aqui e se inscreva gratuitamente para receber a newsletter Por Dentro da Máquina</a></h3>
<h3>A desejável interoperabilidade regulatória</h3>
Historicamente, a criação de regulações estatais limitava-se quase que majoritariamente ao contexto socioeconômico e às particularidades locais de cada país. A partir do surgimento da internet somado à ascensão de novos atores globais influentes (como as big techs), ao crescimento do modelo econômico baseado em dados e ao progressivo desenvolvimento tecnológico, tal estrutura clássica foi desafiada.
É neste contexto que surge a ideia de “interoperabilidade regulatória” – a existência de pontos em comum entre iniciativas regulatórias locais, regionais e globais que permitam que, diante deste pluralismo de fontes legislativas, haja diálogo entre elas, permitindo melhor coordenação e aplicação convergente.<a href="#_ftn13" name="_ftnref13">[13]</a> Nesse sentido, Colin Bennet utiliza a expressão ”convergência regulatória” para ressaltar que, apesar de o Direito ser tradicionalmente nacional, há contextos em que é possível observar certa padronização de aspectos regulatórios ao existir elementos fundantes semelhantes entre as diferentes legislações nacionais.<a href="#_ftn14" name="_ftnref14">[14]</a>
No contexto da IA, uma análise de diferentes fontes normativas, feita pelo relatório “Temas centrais na Regulação de IA: O local, o regional e o global na busca da interoperabilidade regulatória” da Data Privacy Brasil, constatou certa convergência em pelo menos três eixos temáticos:<a href="#_ftn15" name="_ftnref15">[15]</a>
<ol>
<li>adoção do modelo regulatório assimétrico baseado no risco, o que faz com que a intervenção regulatória – por meio da imposição de obrigações, deveres e direitos – varie de acordo com o nível de risco do sistema. Esta técnica regulatória apresenta diferentes variações no que tange ao gerenciamento de riscos, sendo a corregulação o mais comum no campo da IA;</li>
<li>necessidade de AIA como instrumento de governança que se estrutura a partir de um tripé de publicidade, participação pública significativa; e variedade dos riscos e benefícios avaliados (não limitando-se apenas aos individuais, mas também coletivos);</li>
<li>preocupação com a imposição de regras para sistemas de IA generativos.<a href="#_ftn16" name="_ftnref16">[16]</a></li>
</ol>
<h3>Empoderamento nacional frente às nossas particularidades: por uma emancipação regulatória</h3>
Apesar de desejável a comunicação entre as diferentes fontes normativas no que se refere às regras de governança para a IA, é fundamental que haja um olhar atento com lentes locais. O Brasil, enquanto país de mundo majoritário,<a href="#_ftn17" name="_ftnref17">[17]</a> é perpassado por estruturas sociais, políticas e econômicas que nos são próprias e devem ser diretamente desafiadas pela futura regulação, como é o caso das diferentes formas de discriminação estruturais, especialmente o racismo, e nossa posição enquanto “colônia” de um chamado colonialismo digital.<a href="#_ftn18" name="_ftnref18">[18]</a>
Logo, apesar da irrefutável necessidade de diálogo da regulação nacional de IA com as demais de outras localidades, especialmente vindas do Norte-Global, é essencial ativamente recusar a importação acrítica de modelos regulatórios estrangeiros como se fossem mais avançados ou melhores do que as produções locais, de forma a também recusarmos uma nova forma de colonização normativa pela replicação irrefletida de documentos internacionais com dispositivos que não fazem sentido para nossa realidade.
Em meio às discussões legislativas de criação de um marco legal para a IA no Brasil, o projeto de lei que mais caminha em direção a um adequado equilíbrio entre convergência regulatória e destaque para as pautas nacionais é o PL 2338/2023<a href="#_ftn19" name="_ftnref19">[19]</a> – em discussão na Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA), no Senado – especialmente por reconhecer as desigualdades estruturais do país e buscar mitigá-las. Neste âmbito, dentre os pontos louváveis deste projeto, destacamos:
<ol>
<li>definição de discriminação direta e indireta no artigo 4º, incisos VI e VII de acordo com a Convenção Interamericana contra o Racismo , o que indica um primeiro passo em direção a um compromisso antidiscriminatório do PL, apesar de ainda haver espaço para melhora e aprofundamento;</li>
<li>adoção do modelo baseado em risco com supervisão democrática a partir da criação de obrigações de participação pública e controle social, especialmente no Capítulo IV de governança, como a previsão de participação pública na AIA no art. 25, §2º, e a obrigação de publicação das principais conclusões no art. 26 – apesar de ainda haver pontos de melhora, como a inclusão de um capítulo mais programático;</li>
<li>linguagem mais afirmativa de direitos, com a previsão de um rol de direitos (arts. 5º ao 12), o que faz com que haja um maior equilíbrio entre a abordagem baseada em riscos e em direitos, já que há uma imbricação entre direitos, riscos e deveres. Isso porque, mesmo havendo direitos que se aplicam independentemente do nível de risco, outros são destravados apenas em casos de sistemas de IA de riscos mais elevados;</li>
<li>proteção reforçada a grupos vulneráveis, como a inclusão do critério de o sistema “ser discriminatório” ou “afetar pessoas de um grupo vulnerável específico” como elemento de atualização das listas de risco excessivo e alto e considerar como ponto de análise na AIA  os “potenciais impactos discriminatórios nos arts. 18c, 18d e 24, §1º, f, respectivamente.</li>
</ol>
Considerando a influência geopolítica do Brasil com a presidência do G20 em 2024, há uma grande oportunidade para o país influenciar uma ampla agenda de governança global, priorizando a pauta de IA a partir dos pontos que possibilitem interoperabilidade regulatória, mas que enderece precisamente questões que nos são caras como desigualdade, mudanças climáticas e, claro, transformações digitais justas e inclusivas.<a href="#_ftn20" name="_ftnref20">[20]</a> As cartas estão na mesa, resta saber se o Brasil jogará adequadamente na construção de uma regulação que exerça influência positiva nas discussões regulatórias transatlânticas.
<hr />
Algumas abreviações foram utilizadas no texto. São elas:
- IA: Inteligência Artificial;
- CDC: Código de Defesa do Consumidor;
- OCDE: Organização para a Cooperação e Desenvolvimento Econômico
- PE: Parlamento Europeu;
- CTIA: Comissão Temporária Interna sobre Inteligência Artificial;
- CAI: Comitê de Inteligência Artificial;
- UE: União Europeia.
- AIA: Avaliação de Impacto Algorítmico.
<a href="#_ftnref1" name="_ftn1">[1]</a> FILGUEIRAS, Fernando. Running for artificial intelligence policy in G20 Countries - Policy instruments and mixes matters? Revista Brasileira de Inovação, Campinas (SP), 21, e022016, p. 1-36, 2022. Disponível em: <a href="https://www.scielo.br/j/rbi/a/LJYjTn5PnZhSncfDw5jcfLP/?format=pdf&amp;lang=en">https://www.scielo.br/j/rbi/a/LJYjTn5PnZhSncfDw5jcfLP/?format=pdf&amp;lang=en</a>.
<a href="#_ftnref2" name="_ftn2">[2]</a> Para mais informações, acesse: <a href="https://t20brasil.org">https://t20brasil.org</a>.
<a href="#_ftnref3" name="_ftn3">[3]</a> Para saber mais, acesse: <a href="https://www.oecd.org/digital/artificial-intelligence/">https://www.oecd.org/digital/artificial-intelligence/</a>.
<a href="#_ftnref4" name="_ftn4">[4]</a> Para saber mais, acesse: <a href="https://www.unesco.org/en/articles/recommendation-ethics-artificial-intelligence">https://www.unesco.org/en/articles/recommendation-ethics-artificial-intelligence</a>.
<a href="#_ftnref5" name="_ftn5">[5]</a> European Parliament. Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. Press Release, publicado em 09 dez. 2023. Disponível em: <a href="https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai">https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai</a>;
<a href="#_ftnref6" name="_ftn6">[6]</a> Para saber mais, acesse: <a href="https://legis.senado.leg.br/comissoes/comissao?codcol=2629">https://legis.senado.leg.br/comissoes/comissao?codcol=2629</a>.
<a href="#_ftnref7" name="_ftn7">[7]</a> The White House. Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence. Publicado em 30 de outubro de 2023. Disponível em: https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/
<a href="#_ftnref8" name="_ftn8">[8]</a> Committee on Artificial Intelligence (CAI). Draft Framework Convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law. Council of Europe, CAI (2023) 28, publicado em 28 de dez. 2023. Disponível em:<a href="https://rm.coe.int/cai-2023-28-draft-framework-convention/1680ade043">https://rm.coe.int/cai-2023-28-draft-framework-convention/1680ade043</a>.
<a href="#_ftnref9" name="_ftn9">[9]</a> Cyberspace Administration of China. Medidas Provisórias para Gestão de Serviços de Inteligência Artificial Generativa. Publicado em 13 jul 2023. Disponível em: <a href="http://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm">www.cac.gov.cn/2023-07/13/c_1690898327029107.htm</a>.
<a href="#_ftnref10" name="_ftn10">[10]</a> Para saber mais, acesse a página do AI Safety Summit 2023 disponível em: <a href="https://www.gov.uk/government/topical-events/ai-safety-summit-2023">https://www.gov.uk/government/topical-events/ai-safety-summit-2023</a>.
<a href="#_ftnref11" name="_ftn11">[11]</a> BIONI, Bruno; GARROTE, Marina; GUEDES, Paula. Temas centrais na Regulação de IA: O local, o regional e o global na busca da interoperabilidade regulatória. São Paulo: Associação Data Privacy Brasil de Pesquisa, 2023.
<a href="#_ftnref12" name="_ftn12">[12]</a> BESSA, Leonardo Roscoe; DE MOURA, Walter José Faiad. Manual de direito do consumidor. Brasília: Escola Nacional de Defesa do Consumidor, 4ª Ed., 2014, 290p.
<a href="#_ftnref13" name="_ftn13">[13]</a> MARQUES, Claudia Lima; BENHAMIN, Antônio Herman. A Teoria do Diálogo das Fontes e seu Impacto no Brasil: uma homenagem a Erik Jayme. Revista de Direito do Consumidor (RDC) 2340, 115 indb, 2018. Disponível em:  https://revistadedireitodoconsumidor. emnuvens.com.br/rdc/article/view/1042/911.
<a href="#_ftnref14" name="_ftn14">[14]</a>  BENNETT, Colin J.; RAAB, Charles D., Revisiting the governance of privacy: Contemporary policy instruments in global perspective. Regulation &amp; Governance,Vol. 14, Issue 3, p. 447-464, 2018.
<a href="#_ftnref15" name="_ftn15">[15]</a> BIONI, Bruno; GARROTE, Marina; GUEDES, Paula. Temas centrais na Regulação de IA: O local, o regional e o global na busca da interoperabilidade regulatória. São Paulo: Associação Data Privacy Brasil de Pesquisa, 2023.
<a href="#_ftnref16" name="_ftn16">[16]</a>  BIONI, Bruno; GARROTE, Marina; GUEDES, Paula. Temas centrais na Regulação de IA: O local, o regional e o global na busca da interoperabilidade regulatória. São Paulo: Associação Data Privacy Brasil de Pesquisa, 2023.
<a href="#_ftnref17" name="_ftn17">[17]</a> Adotamos a expressão “mundo majoritário” no lugar de “sul global” já que, nos últimos tempos, esta expressão passou a ser vista como pejorativa, já que acaba por ser imprecisa ao homogeneizar grupos e criar certo determinismo geográfico, como se os países do Hemisfério Sul fossem fadados a ser pobres e não terem expectativas de desenvolvimento; HEINE; Jorge. O Sul Global está em ascensão – mas o que é exatamente o Sul Global? Interesse Nacional, publicado em 10 de jul. 2023. Disponível em:  https://interessenacional.com.br/edicoes-posts/o-sul-global-esta-em-ascensao-mas-o-que-e-exatamente-o-sul-global/. Acesso em 05 fev. 2024; Demetriodor. O ‘Sul Global’ é um termo terrível. Não use! Publicado em 11 nov. 2018. Disponível em: re-design.dimiter. eu/?p=969; ARUN, Chinmayi. AI and the Global South: Designing for Other Worlds. In: DUBBER, M.; PASQUALE, F; DAS, S. Oxford Handbook of Ethics of AI. 2019.
<a href="#_ftnref18" name="_ftn18">[18]</a> Segundo estudos de Deivison Faustino, Walter Lippold e Rodolfo Avelino, o colonialismo digital seria a continuação do colonialismo histórico, mas atualizado pelas novas relações econômicas e principalmente pelas novas tecnologias e modelos de negócio. Nesse contexto, certos países encontram-se em posição de colônia, de onde se retira mão de obra barata, extrai dados e matéria-prima bruta utilizada para produção de tecnologias, enquanto também servem como mercado consumidor e até mesmo “laboratórios” de tecnologias emergentes ainda em desenvolvimento; FAUSTINO, Deivison; LIPPOLD, Walter. Colonialismo Digital: por uma crítica hacker-fenoniana. 1ª ed. São Paulo: Boitempo, 2023; AVELINO, Rodolfo da Silva. Colonialismo Digital: Tecnologias de rastreamento online e economia informacional. São Paulo: Alameda, 1ª Ed., 2023.
<a href="#_ftnref19" name="_ftn19">[19]</a> Para saber mais sobre o projeto de lei 2338/2023, acesse: <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">https://www25.senado.leg.br/web/atividade/materias/-/materia/157233</a>.
<a href="#_ftnref20" name="_ftn20">[20]</a> BIONI, Bruno et al. Inclusive Digital Transformation in the T20. Data Privacy Brasil, publicado em 22 jan. 2024. Disponível em: <a href="https://www.dataprivacybr.org/en/inclusive-digital-transformation-in-the-t20/">https://www.dataprivacybr.org/en/inclusive-digital-transformation-in-the-t20/</a>.

ia regulação democracia 19 02 24

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Diálogo entre iniciativas regulatórias é fundamental, mas com olhar atento para as especificidades de cada país

Interoperabilidade e emancipação regulatória para a IA no Brasil

Diálogo entre iniciativas regulatórias é fundamental, mas com olhar atento para as especificidades de cada país