Opinião e Análise

Fernando Aith

O Senado aprovou no último dia 10 de dezembro o projeto de lei que regulamenta a <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> no país. O texto aprovado é um substitutivo do senador Eduardo Gomes (PL-TO) que tem como base o <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">PL 2338/2023</a>, apresentado pelo senador Rodrigo Pacheco (PSD-MG), presidente da Casa.
A aprovação veio em boa hora, e agora devemos acompanhar a sua tramitação na Câmara dos Deputados. Há uma grande corrente contrária à regulação da IA no Brasil, com argumentos focados principalmente em uma suposta "supervalorização" dos riscos da IA, de um lado, e no potencial inibidor de inovação brasileira no setor, que nos relegaria ao atraso.
<h3><a href="https://www.jota.info/produtos/saude?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_saude_q2&amp;utm_id=cta_texto_saude_q2_2023&amp;utm_term=cta_texto_saude&amp;utm_term=cta_texto_saude_meio_materias">Com notícias direto da Anvisa e da ANS, o JOTA PRO Saúde entrega previsibilidade para empresas do setor. Conheça!</a></h3>
Dada a controvérsia, vale a pena resgatar os argumentos trazidos por Federspiel e colegas, em artigo publicado no BMJ Global Health, no qual trazem importantes contribuições sobre as ameaças da IA à saúde e à existência humana e sobre a necessidade de se regular estas novas tecnologias.
Inicialmente, os autores lembram alguns riscos já conhecidos relacionados à aplicação da IA no campo da saúde, tais como: o potencial de erros da IA, passíveis de causar danos ao paciente; os problemas com privacidade e segurança de dados; os riscos da IA aprofundar as desigualdades sociais e de saúde, reproduzindo em algoritmos automatizados preconceitos humanos existentes e padrões de discriminação no acesso à assistência médica.
Segundo os autores, embora já se tenha um bom conhecimento dos riscos e danos potenciais associados à aplicação da IA ​​na saúde, ainda há pouca discussão sobre as ameaças sociais, políticas, econômicas e de segurança mais amplas, com reflexos para a saúde pública que devem ser melhor tratados.
São listadas ameaças reais associadas ao uso indevido da IA, que instigam a comunidade jurídica e de saúde pública a aprofundar sua compreensão sobre o poder emergente e o potencial transformacional da inteligência artificial, ​​e a se envolver nos debates políticos atuais sobre como os riscos e ameaças da IA ​​podem ser mitigados por meio de regulação adequada, sem perder as recompensas e benefícios potenciais destas novas tecnologias.
<h3>Ameaças do uso indevido da inteligência artificial</h3>
O primeiro conjunto de ameaças mencionado pelos autores vem da capacidade da IA ​​de coletar, limpar, organizar e analisar rapidamente conjuntos de dados massivos compostos por dados pessoais, incluindo imagens coletadas pela presença cada vez mais onipresente de câmeras, e de desenvolver campanhas de marketing e informação altamente personalizadas e direcionadas, bem como sistemas de vigilância amplamente expandidos.
Os autores citam o exemplo de como o uso desse poder para gerar receita comercial para plataformas de mídia social foi aproveitado pelo mercado para criar uma infraestrutura de marketing personalizada capaz de manipular o comportamento do consumidor sobre o consumo de produtos e serviços estratégicos para a saúde individual e coletiva, tais como alimentos, medicamentos, cosméticos e tratamentos estéticos.
A vigilância orientada por IA também pode ser usada por governos e outros atores poderosos para controlar e oprimir as pessoas diretamente. O exemplo dado é o do Sistema de Crédito Social da China, que combina software de reconhecimento facial e análise de repositórios de "big data" de transações financeiras, movimentos, registros policiais e relacionamentos sociais das pessoas para produzir avaliações de comportamento individual e confiabilidade, o que resulta na sanção automática de indivíduos considerados como tendo se comportado mal.
As sanções incluem multas, negação de acesso das pessoas a serviços bancários e de seguros, ou impedimento de viajar ou enviar seus filhos para escolas pagas. O uso destas tecnologias e informações para determinar o acesso ou não a bens, serviços ou seguros de saúde, por exemplo, é uma possibilidade real.
Outro conjunto de ameaças listado pelos autores surge da perda de empregos que acompanhará a implantação generalizada da tecnologia de IA. As projeções da velocidade e escala das perdas de empregos devido à automação orientada por IA variam de dezenas a centenas de milhões na próxima década.
Já é previsto que nesta década, a automação orientada por IA impactará desproporcionalmente os países de baixa/média renda, substituindo empregos menos qualificados, e então continuará subindo a escada de profissões que demanda maiores habilidades, substituindo segmentos cada vez mais amplos da força de trabalho global, incluindo em países de alta renda.
Embora haja muitos benefícios em acabar com o trabalho repetitivo, perigoso e desagradável, já sabemos que o desemprego está fortemente associado a resultados e comportamentos adversos para a saúde, incluindo o consumo prejudicial de álcool e drogas ilícitas, a obesidade, a redução da qualidade de vida e saúde e maiores níveis de depressão e suicídio.
Os autores alertam que a automação crescente tende a transferir renda e riqueza do trabalho para os donos do capital, e parece contribuir para o grau crescente de má distribuição de riqueza em todo o mundo. Além disso, não se sabe como a sociedade responderá psicológica e emocionalmente a um mundo onde o trabalho é indisponível ou desnecessário, nem se está pensando muito sobre as políticas e estratégias que seriam necessárias para quebrar a associação entre desemprego e problemas de saúde.
<h3>Ameaças da inteligência artificial generativa</h3>
A IA generativa, que pode aprender e executar toda a gama de tarefas que são tradicionalmente "humanas", pode também, teoricamente, aprender a contornar quaisquer restrições em seu código e começar a desenvolver seus próprios propósitos, ou simplesmente pode ser equipada com essa capacidade desde o início pelos humanos.
O que se avizinha são máquinas muito mais inteligentes e poderosas do que os seres humanos em muitos aspectos. O potencial de tais máquinas aplicarem essa inteligência e poder — deliberadamente ou não — de forma a prejudicar ou subjugar os humanos é real.
Se concretizada, a conexão da IA generativa com a internet e o mundo real, incluindo por meio de veículos, robôs, armas e todos os sistemas digitais que cada vez mais administram nossas sociedades, pode muito bem representar o "maior evento da história humana", com consequências ainda inimagináveis.
Os autores trabalham então com alguns possíveis cenários para o futuro. De um lado, são apresentados cenários em que a IA, apesar de sua inteligência e poder superiores, permanece sob controle humano e é usada para beneficiar a humanidade ou em que a IA opera independentemente dos humanos e com eles coexiste de forma benigna.
De outro lado, há cenários em que a IA generativa pode representar uma ameaça aos humanos, e possivelmente uma ameaça existencial, ao causar danos direta ou indiretamente, intencionalmente ou não, ao atacar ou subjugar humanos ou ao interromper os sistemas ou usar recursos dos quais dependemos.
<h3>Avaliando riscos e prevenindo danos</h3>
Segundo os autores, muitas das ameaças descritas surgem do uso deliberado, acidental ou descuidado da IA ​​por humanos. Até mesmo o risco e a ameaça representados por uma forma de IA que existe e opera independentemente do controle humano ainda estão atualmente nas mãos dos humanos. No entanto, há opiniões divergentes sobre o grau de risco representado pela IA e sobre as compensações relativas entre risco e recompensa potencial, e danos e benefícios.
No entanto, alertam Federspiel e colegas, com o crescimento exponencial na pesquisa e com o ritmo acelerado de desenvolvimento da IA, a janela de oportunidade para evitar danos sérios e potencialmente existenciais está se fechando.
Diferentes partes do sistema da ONU estão engajadas em um esforço desesperado para garantir que nossas instituições sociais, políticas e legais internacionais acompanhem os rápidos avanços tecnológicos que estão sendo feitos com a IA.
Em 2020, por exemplo, a ONU estabeleceu um Painel de Alto Nível sobre Cooperação Digital para promover o diálogo global e abordagens cooperativas para um futuro digital seguro e inclusivo.
Em setembro de 2021, o chefe do Gabinete do Comissário de Direitos Humanos da ONU apelou a todos os estados para que colocassem uma moratória na venda e utilização de sistemas de IA até que salvaguardas adequadas fossem postas em prática para evitar os riscos "negativos, até mesmo catastróficos" representados por eles.
E em novembro de 2021, os 193 Estados-membros da Unesco adotaram um acordo para orientar a construção da infraestrutura legal necessária para garantir o desenvolvimento ético da IA. No entanto, a ONU ainda carece de um instrumento juridicamente vinculativo para regular a IA e garantir a responsabilização a nível global.
Em 18 de janeiro de 2024, visando estabelecer uma governança global para o futuro da inteligência artificial na saúde, a entidade lançou um Guia em que estabelece suas diretrizes sobre ética e governança de Grandes Modelos Multimodais de IA.
No nível regional, a União Europeia aprovou também neste ano de 2024 o seu Regulamento de Inteligência Artificial, que classifica os sistemas de IA em três categorias: risco inaceitável, alto risco e risco limitado e mínimo. Esta norma pode servir como um trampolim para um tratado global, embora ainda fique aquém dos requisitos necessários para proteger vários direitos humanos fundamentais e impedir que a IA seja usada de maneiras que agravariam as desigualdades e a discriminação existentes.
<h3>O que a comunidade jurídica e de saúde pública pode e deve fazer?</h3>
Para Federspiel e colegas, o mais importante a ser feito no presente momento é dar o alarme sobre os riscos e ameaças representados pela IA, e argumentar sobre a necessidade de se acelerar a regulamentação adequada para evitar usos nocivos à humanidade.
Nesse sentido, deve-se criar salvaguardas e proteções jurídicas e legais adequadas que busquem evitar as várias consequências prejudiciais e potencialmente catastróficas da IA para a saúde e existência humana.
O campo da saúde está bem familiarizado com o princípio da precaução e demonstrou sua capacidade de moldar a opinião pública e política sobre ameaças existenciais no passado. Por exemplo, os Médicos Internacionais para a Prevenção da Guerra Nuclear receberam o Prêmio Nobel da Paz em 1985 porque reuniram argumentos baseados em princípios, autoridade e evidências sobre as ameaças da guerra nuclear.
Os autores sugerem que se deve fazer o mesmo com a IA, mesmo que (grande) parte da nossa comunidade apoie os benefícios da IA ​​nas áreas da saúde e da medicina.
Também é importante que não direcionemos nossas preocupações apenas para a IA, mas também para os atores que estão impulsionando o desenvolvimento da IA ​​muito rapidamente ou de forma imprudente, e para aqueles que buscam apenas implantar a IA para interesse próprio ou propósitos malignos.
Se a IA deve cumprir sua promessa de beneficiar a humanidade e a sociedade, precisamos proteger a democracia, fortalecer nossas instituições de interesse público e diluir o poder dessas grandes corporações para que haja freios e contrapesos eficazes. Isso inclui garantir transparência e responsabilização das partes do complexo industrial militar-corporativo que impulsionam os desenvolvimentos da IA ​​e das empresas de mídia social que estão permitindo desinformação direcionada e orientada por IA, violando direitos fundamentais.
Finalmente, os autores argumentam que, dado que o mundo do trabalho e do emprego mudará drasticamente nas próximas décadas, devemos empregar nossa expertise em saúde pública e em advocacia em saúde para uma reformulação fundamental e radical da política social e econômica, de forma a permitir que as gerações futuras prosperem em um mundo no qual o trabalho humano não seja mais um componente central ou necessário para a produção de bens e serviços.
Certamente que a aprovação, pelo Congresso Nacional, do PL que regula IA no Brasil será um passo importante e fundamental para a proteção dos direitos fundamentais face às novas tecnologias digitais, mas devemos estar cientes que os desafios e perspectivas da IA para a saúde pública e para o direito são muito mais amplos e abrangentes do que aparentam atualmente.
<hr />
Federspiel F, Mitchell R, Asokan A, Umana C, McCoy D. Threats by artificial intelligence to human health and human existence. BMJ Glob Health. 2023 May;8(5):e010435. doi: 10.1136/bmjgh-2022-010435. PMID: 37160371; PMCID: PMC10186390.

marco legal inteligencia artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Riscos já evidenciados pelo uso abusivo são mais que suficientes para justificar regulação de novas tecnologias

Ameaças da IA à saúde e existência humana exigem regulação e ação

Riscos já evidenciados pelo uso abusivo da IA na saúde são mais que suficientes para justificar regulação da inteligência artificial