Opinião e Análise

Ana Frazão

No último mês de março, a ONU adotou resolução em prol de regulação que garanta uma <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> segura e confiável, que possa beneficiar o desenvolvimento sustentável inclusivo, ao mesmo tempo em que respeite, proteja e promova os direitos humanos no design, desenvolvimento, aplicações e uso da inteligência artificial<a href="#_ftn1" name="_ftnref1">[1]</a>.
Apesar de já haver muitas iniciativas internacionais nesse sentido, trata-se da primeira vez em que a Assembleia Geral da ONU adota resolução para regular esse campo emergente, o que representa um passo importante para o uso seguro da inteligência artificial.
Sob a premissa de que os mesmos direitos que as pessoas têm offline devem também ser protegidos online e em todas as etapas do ciclo de vida de tais sistemas tecnológicos, a ONU insiste no papel dos Estados-membros e dos stakeholders em frear ou mesmo impedir o uso de sistemas de inteligência artificial que não possam ser operados em conformidade com direitos humanos ou que apresentem riscos indevidos para a fruição desses direitos.
Por essa razão, a Assembleia da ONU conclamou estados, setor privado, sociedade, mídia, academia e organizações de pesquisa para aderirem ao projeto comum de desenvolver e apoiar abordagens e frameworks de suporte e de governança em busca de uma inteligência artificial confiável e compatível com os direitos humanos.
O texto da Resolução<a href="#_ftn2" name="_ftnref2">[2]</a> é bastante esclarecedor no sentido dos benefícios de sistemas de inteligência artificial seguros e confiáveis em todos os estágios do seu ciclo de vida, assim como explicáveis, éticos, inclusivos e respeitadores da promoção e proteção de direitos humanos. Segundo a ONU, sistemas que obedeçam a tais premissas apresentam o potencial de (i) acelerar e possibilitar, de uma forma equilibrada e integrada, o desenvolvimento sustentável nas três dimensões – econômica, social e ambiental –, (ii) promover transformação digital, (iii) promover paz, (iv) superar divisões digitais entre os países e dentro deles e (v) promover a fruição de direitos humanos e liberdades fundamentais mantendo a pessoa humana no centro.
A Resolução da ONU também esclarece que sistemas falhos ou problemáticos colocam em risco a agenda 2030 de desenvolvimento sustentável nas suas três dimensões, além de aumentarem a divisão digital entre os países, reforçarem desigualdades estruturais e vieses, permitirem discriminações, minarem a integridade informacional e o acesso a informação, impedirem a proteção, a promoção e a fruição de direitos humanos e fundamentais - incluindo o direito de não ser sujeito a interferências ilegais ou arbitrárias na privacidade - e aumentar o potencial risco para acidentes e ameaças por parte de atores maliciosos.
Tais aspectos são importantes porque, com a utilização progressiva da inteligência artificial em todos os assuntos humanos, cada vez mais funções públicas e privadas são terceirizadas para as máquinas que, sob vários aspectos, passam a classificar e a determinar quem são os indivíduos e que oportunidades e direitos cada um deve titularizar ou usufruir, bem como as políticas de ação e de decisão tanto do setor público como do setor privado.
Há, portanto, uma crescente perda de protagonismo e de capacidade de agência dos seres humanos a respeito de questões estratégicas da vida individual e coletiva, o que foi muito bem representado na frase de Thomas Greenfield, ao ressaltar o motivo para a regulação da inteligência artificial: é melhor governar a inteligência artificial do que deixar que ela nos governe<a href="#_ftn3" name="_ftnref3">[3]</a>.
É com base nessas preocupações que a Resolução propõe diversas metas, dentre as quais:
<ul>
<li>desenvolver abordagens regulatórias e de governança, bem como de frameworks domésticos, para atingirem os objetivos de uma inteligência artificial segura e confiável, tendo por fio condutor a ideia de que direitos humanos e liberdades fundamentais precisam ser respeitados, protegidos e promovidos em todo o ciclo de utilização da inteligência artificial, especialmente diante de vulneráveis;</li>
<li>promover inovação para identificação, classificação, avaliação, teste, prevenção e mitigação das vulnerabilidades e riscos durante o design e o desenvolvimento dos sistemas antes mesmo do seu uso;</li>
<li>incorporar mecanismos de feedbacks que permitam, por meio de uma abordagem baseada em evidências, inclusive por meio de reportes de usuários e terceiros, descobrir vulnerabilidades técnicas e maus usos dos sistemas de inteligência artificial, assim como os incidentes;</li>
<li>aumentar a consciência e a compreensão do público sobre as funções centrais, capacidades, limitações e domínios para o uso apropriado dos sistemas de inteligência artificial;</li>
<li>desenvolver mecanismos de monitoramento e gerenciamento de risco durante todo o ciclo dos sistemas de inteligência artificial;</li>
<li>desenvolver e implementar salvaguardas efetivas, incluindo a segurança física dos sistemas;</li>
<li>possibilitar que os usuários identifiquem casos de manipulação de informação, diferenciem a origem de conteúdos digitais autênticos de conteúdos gerados por inteligência artificial</li>
<li>aumentar o letramento em mídia e informação;</li>
<li>impedir discriminações, vieses, maus usos ou danos;</li>
<li>limitar as divisões raciais e de gênero;</li>
<li>proteger dados pessoais;</li>
<li>aprimorar práticas baseadas em evidências para maximizar benefícios e mitigar potenciais riscos em todas as fases do ciclo;</li>
<li>encorajar a pesquisa e a cooperação internacional para entender, equilibrar e endereçar os potenciais benefícios e os riscos relativos ao papel da inteligência artificial;</li>
<li>reconhecer que governos, setor privado, sociedade civil, organizações internacionais e domésticas, academia e instituições de pesquisa, comunidades técnicas e outros stakeholders precisam trabalhar em conjunto;</li>
<li>implementar medidas para a diversidade cultural e linguística, assim como para atenuar as diferenças entre países desenvolvidos e em desenvolvimento.</li>
</ul>
Ao se ler o diagnóstico e as soluções apresentadas pela ONU, observa-se que a Resolução responde as principais indagações sobre se, porque, quando e como a inteligência artificial pode ou deve ser regulada. Fica claro que a regulação da inteligência artificial em prol do imperativo de proteção de direitos humanos e liberdades individuais é necessária e urgente, assim como não é incompatível com a inovação e com os benefícios que dela se esperam. Pelo contrário, a regulação nesses moldes é pressuposto para que os benefícios sejam alcançados sem riscos excessivos e com os devidos cuidados e salvaguardas para os altos riscos.
Considerando que a Resolução da ONU ocorre depois do Decreto do Presidente Biden em favor de uma inteligência artificial segura e confiável<a href="#_ftn4" name="_ftnref4">[4]</a> e depois da recente aprovação, pelo Parlamento Europeu, do AI Act, não há dúvidas que o atual cenário internacional será importante para a discussão dos projetos em trâmite no Congresso Nacional, dentre os quais o <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">PL 2338/2023</a>, que propõe interessante modelo de regulação por riscos e por direitos, com grande convergência com as preocupações da ONU e com o AI Act europeu<a href="#_ftn5" name="_ftnref5">[5]</a>.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> <a href="https://news.un.org/en/story/2024/03/1147831">Assembleia Geral adota resolução histórica sobre inteligência artificial | Notícias da ONU (un.org)</a>
<a href="#_ftnref2" name="_ftn2">[2]</a> <a href="https://documents.un.org/doc/undoc/ltd/n24/065/92/pdf/n2406592.pdf?token=Em3TFdpRdrFuzwoKZY&amp;fe=true">n2406592.pdf (un.org)</a>
<a href="#_ftnref3" name="_ftn3">[3]</a> <a href="https://news.un.org/en/story/2024/03/1147831">Assembleia Geral adota resolução histórica sobre inteligência artificial | Notícias da ONU (un.org)</a>
<a href="#_ftnref4" name="_ftn4">[4]</a> <a href="https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/">https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/</a>
<a href="#_ftnref5" name="_ftn5">[5]</a> Ver FRAZÃO, Ana. Jota. <a href="https://www.jota.info/opiniao-e-analise/colunas/ia-regulacao-democracia/classificacao-de-riscos-a-solucao-adotada-pelo-pl-2338-23-04042024">https://www.jota.info/opiniao-e-analise/colunas/ia-regulacao-democracia/classificacao-de-riscos-a-solucao-adotada-pelo-pl-2338-23-04042024</a>

flag-3158666_1920

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

O reconhecimento da necessidade de proteção imediata e robusta dos direitos humanos e das liberdades fundamentais

A recente resolução da ONU em prol de uma IA segura e confiável

O reconhecimento da necessidade de proteção imediata e robusta dos direitos humanos e das liberdades fundamentais