Opinião e Análise

Paloma Mendes Saldanha

Em qualquer modificação de contexto ou cenário, o Direito utiliza da regulação para tentar manter as alterações sociais dentro dos parâmetros e valores constitucionais estabelecidos e já enraizados em todo o ordenamento jurídico de um país.
A chegada e o aprofundamento de um cenário de hiperconectividade baseada na algoritmização do ser, estar, sentir e viver representa mais um momento de atualização regulatória para manter a ordem social, econômica e financeira de uma nação.
<h3><a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a></h3>
Levando em consideração esse contexto, o presente artigo tem por objetivo apresentar o estado da arte no cenário de regulações e diretrizes de uso e desenvolvimento de sistemas baseados em <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> com recorte da América do Sul e da União Europeia, trazendo, ainda, o recorte das organizações internacionais.
<h3 class="c16">A pesquisa</h3>
A pesquisa realizada por estudantes do programa de iniciação científica da Universidade Católica de Pernambuco<a id="ftnt_ref1" href="#ftnt1">[1]</a> iniciou com a busca por leis, diretrizes e documentos afins em cada um dos países e organizações que compõem o recorte estabelecido. 
Como resultado, na Argentina foram encontradas duas iniciativas; no Brasil, encontramos três projetos de lei; no Chile foram encontradas três iniciativas; na Colômbia, quatro iniciativas; no Equador foi encontrada uma iniciativa; no Peru, três iniciativas; e no Uruguai, duas. Na Bolívia, no Paraguai, no Suriname, na Venezuela, assim como na Guiana, não foram encontrados materiais sobre a temática.
No entanto, recentemente o presidente da Guiana, Irfaan Ali, fez um apelo para que a Comunidade do Caribe (Caricom) desenvolva regulamentos para a IA.
No que tange à <a href="https://www.jota.info/tudo-sobre/uniao-europeia">União Europeia</a>, o documento escolhido foi o AI Act, e, na seara das organizações internacionais, foram utilizadas as recomendações e diretrizes da ONU, OCDE, Otan e Unesco. A partir disso, seis perguntas foram estipuladas para a análise dos documentos escolhidos:
<h3 class="c8">O que é IA para o documento analisado?</h3>
O que se percebeu é que a definição de IA variou consideravelmente entre os documentos analisados, mas prevaleceu a compreensão de que se trata de sistemas computacionais capazes de realizar tarefas que normalmente exigem inteligência humana, como aprendizado, tomada de decisão e resolução de problemas. 
<h3 class="c8">Foram estabelecidos parâmetros éticos para o desenvolvimento e uso de IA?</h3>
A análise evidenciou que os principais documentos regulatórios convergem para seis parâmetros éticos amplamente reconhecidos: transparência, privacidade, justiça e não discriminação, responsabilidade, segurança e robustez, e impacto social e econômico.
Esses princípios são aprofundados em normativas como o Regulamento Geral de Proteção de Dados (GDPR), o AI Act da União Europeia e a Lei Geral de Proteção de Dados (<a href="https://www.jota.info/tudo-sobre/lgpd">LGPD</a>) no Brasil, além de serem incorporados em diretrizes internacionais como as da OCDE. 
No entanto, a aplicação prática desses parâmetros apresenta desigualdades significativas entre as regiões analisadas. Isto porque, embora países sul-americanos, como o Brasil, tenha avançado com a LGPD, existem desafios como falta de infraestrutura regulatória, baixa fiscalização e lacuna na adoção de princípios éticos que evidenciam a disparidade de aplicabilidade, entendimento e observância de questões de ordem constitucional e mundial entre norte e sul global.
<h3 class="c8">Existem princípios a serem observados para o cumprimento do documento analisado?</h3>
No que tange aos princípios, os documentos analisados destacam uma série de princípios fundamentais para a governança da IA, com ênfase na centralidade da figura humana, na transparência algorítmica e na proteção de dados pessoais. Esses princípios corroboram, inclusive, com os princípios para a governança e uso da internet estabelecido no Brasil como decálogo do CGI.br<a id="ftnt_ref2" href="#ftnt2">[2]</a>.
<h3 class="c8">Existem políticas públicas vinculadas ao documento analisado?</h3>
A pesquisa ainda identificou um número crescente de políticas públicas voltadas para a promoção de uma IA ética e segura. O motivo é a forte presença do uso de artefatos tecnológicos e o grande impacto desse uso no exercício da cidadania da população mundial. No Brasil, o Plano Nacional de Internet das Coisas e o <a href="https://www.jota.info/tudo-sobre/marco-civil-internet">Marco Civil da Internet</a> foram apontados como iniciativas que dialogam com as discussões sobre IA. 
Assim como a Política Nacional de Educação digital (PNED)<a id="ftnt_ref3" href="#ftnt3">[3]</a> que, como política pública regulatória, aparece num cenário de aumento da desinformação digital populacional, mas com o objetivo de desenvolver e promover educação digital para um futuro mais coeso, saudável, democrático e possível dentro e fora do ambiente digital. Na União Europeia, programas como o Digital Europe Programme<a id="ftnt_ref4" href="#ftnt4">[4]</a> e estratégias nacionais de IA reforçam o compromisso com uma governança responsável.
<h3 class="c8">Existe uma preocupação com a valorização/superioridade do humano da redação analisada?</h3>
Nesse sentido, é importante mencionar que os textos analisados demonstraram um consenso sobre a necessidade de priorizar a figura humana no desenvolvimento e uso de sistemas de IA. O AI Act, por exemplo, classifica os sistemas de IA em diferentes níveis de risco, enfatizando a proteção de direitos fundamentais.
Já iniciativas como o Relatório de Montreal reforçam a importância de uma governança que respeite a dignidade humana e evite a automação de decisões com impacto negativo. 
No Brasil, a resolução do CNJ traz bem explícita a utilização da IA como uma ferramenta e sempre sob a supervisão humana. No que tange ao texto do <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">PL 2338/2023</a>, texto disponibilizado no dia 28/11/2024, o artigo 2, inciso I, enfatiza que o desenvolvimento, a implementação e o uso de sistemas de inteligência artificial no Brasil tem como fundamento a centralidade humana.
<h3 class="c8">Existe alguma classificação de risco estabelecida pelo documento analisado?</h3>
Atendendo à última pergunta, identificou-se que diversos documentos classificaram os sistemas de IA com base em seu nível de risco ou impacto social. O AI Act é um exemplo de pioneirismo regulatório que introduziu categorias de risco que variam de “baixo” a “alto”, vinculando exigências regulatórias proporcionais à criticidade dos sistemas. 
No Brasil, o texto do PL 2338, disponibilizado no dia 28/11/2024, traz um capítulo (III) tratando da categorização de risco, dividido em avaliação preliminar, risco excessivo e alto risco. Entretanto, não torna obrigatória a utilização de avaliações de impacto algorítmico para o gerenciamento de risco em qualquer grau e, consequentemente, mitigação de vieses.
<h3 class="c16">Conclusão</h3>
A pesquisa, portanto, evidenciou uma assimetria regulatória global em relação ao uso e desenvolvimento de sistemas baseados em IA. O que gerou um ranking, como demonstrado abaixo, a partir das respostas apresentadas para as perguntas estipuladas:
<img class="aligncenter wp-image-539342 size-full" src="https://portal.jota.info/wp-content/uploads/2025/02/image1.png" alt="" width="524" height="1178" />
Enquanto regiões como a União Europeia apresentam diretrizes robustas e integradas, outros contextos, como a América do Sul – com exceção do Brasil, Peru e Chile –, enfrentam desafios em alinhar legislações fragmentadas a práticas éticas globais. Essa desigualdade pode intensificar os riscos de discriminação, exploração e uso indevido de dados, além de dificultar a cooperação internacional.
Assim, diante dos desafios éticos, técnicos e regulatórios impostos pela rápida evolução da IA, a pesquisa reafirma a necessidade urgente de uma governança global que seja inclusiva, transparente e centrada na figura e nos valores humanos.
<hr class="c10" />
<div>
<a id="ftnt1" href="#ftnt_ref1">[1]</a> Projeto coordenado e orientado pela autora deste texto.
</div>
<a id="ftnt2" href="#ftnt_ref2">[2]</a> Ver <a class="c17" href="https://www.google.com/url?q=https://principios.cgi.br/&amp;sa=D&amp;source=editors&amp;ust=1738610564792814&amp;usg=AOvVaw2naTM1nN3X5nBCqFtoZtfw">https://principios.cgi.br/</a>
<a id="ftnt3" href="#ftnt_ref3">[3]</a> Ver <a class="c17" href="https://www.google.com/url?q=https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2023/lei/l14533.htm&amp;sa=D&amp;source=editors&amp;ust=1738610564792966&amp;usg=AOvVaw2dl_pugf1BiOVR4jbuPfO8">https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2023/lei/l14533.htm</a>
<div>
<a id="ftnt4" href="#ftnt_ref4">[4]</a> Ver <a class="c17" href="https://www.google.com/url?q=https://digital-strategy.ec.europa.eu/en/activities/digital-programme&amp;sa=D&amp;source=editors&amp;ust=1738610564793097&amp;usg=AOvVaw0A-GkPjcMEnn95NRIF2Lwx">https://digital-strategy.ec.europa.eu/en/activities/digital-programme</a>
</div>

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Há uma assimetria regulatória global em relação ao uso e desenvolvimento de sistemas de inteligência artificial

América do Sul, UE e organizações internacionais: o estado da arte nas regulações de IA

Há uma assimetria regulatória global em relação ao uso e desenvolvimento de sistemas de IA