Murilo Meneghetti Nassif

A inteligência artificial (<a href="https://www.jota.info/tudo-sobre/IA">IA</a>) relacionada à saúde é temática de debate significativo em diversas áreas de conhecimento. Traz posições diversas, ora coincidentes ora colidentes, entre os acadêmicos e estudiosos do tema. Há quem diga que a IA melhorará os sistemas de saúde ao aumentar a precisão dos diagnósticos, aprimorar a eficiência da prestação de cuidados de saúde ou mitigar os preconceitos humanos. 
Em contrapartida, existem preocupações compreensíveis de que a IA possa minar a relação entre pacientes e profissionais de saúde, contribuir para a desqualificação dos prestadores de cuidados, prejudicar a transparência, diagnosticar erroneamente ou tratar inadequadamente devido a erros na tomada de decisões. Erros que são difíceis de detectar e que podem agravar preconceitos raciais ou sociais existentes. 
As opiniões dos estudiosos do tema, que não são estritamente polarizadas – e nem devem ser –, são todas legítimas e decorrem de preocupações relacionadas ao progresso da IA que, ao avançar de forma exponencial, traz consigo indagações diversas. Indagações que demandarão respostas em prol da sustentabilidade e do desenvolvimento, no uso da IA, na seara da saúde humana.
São respostas que demandarão debates entre várias áreas de saber e, também, o mundo do direito. Isto, pois, o uso de IA relacionada à saúde possui interseção com a lei – aqui tratada em sentido amplo – das mais diversas maneiras como, por exemplo, se a regulamentação de dispositivos médicos, as leis de responsabilidade civil, regulamentação sanitária de produtos e autorregulação profissional atenderão adequadamente à possibilidade de falhas e erros que venham a ser ocasionadas por parte da IA.
Da mesma forma são respostas que surgirão de questionamentos sobre as regras atualmente existentes. As atribuições de responsabilidade por erro médico são apropriadas quando uma ferramenta de IA recomenda – ou mesmo executa – um tratamento prejudicial? Como a responsabilidade deve ser atribuída entre profissionais de saúde e desenvolvedores e fabricantes de IA? As leis de privacidade existentes protegem suficientemente os pacientes, dado as necessidades de grandes volumes de dados da IA e o fato de que ferramentas de aprendizado de máquina, por exemplo, coletarão dados em tempo real?
Sem dúvida, respostas satisfatórias serão necessárias à medida que o uso de IA aumenta em configurações de saúde pública e assistência à saúde. Como consequência, países mundo afora estão avaliando o tema. No Brasil, por exemplo, tramita no Congresso Nacional o <a href="https://legis.senado.leg.br/sdleg-getter/documento?dm=9347622&amp;ts=1698248944548&amp;disposition=inline&amp;_gl=1*108epfd*_ga*MzQzNjUyMzg4LjE2OTYxODk4MDM.*_ga_CW3ZH25XMK*MTcwMDUwNDI2Mi40LjAuMTcwMDUwNDI2Mi4wLjAuMA..">PL 2338/2023</a>, que tem por objetivo estabelecer normas gerais de caráter nacional para o desenvolvimento, implementação e uso responsável de sistemas de IA no país.
A despeito de um projeto louvável, no âmbito da saúde, esta proposta legislativa pode vir a ser uma armadilha ao Brasil, travando o desenvolvimento tecnológico que a IA pode trazer a este segmento. Isto, pois, é fato público que a regulação da IA, no que diz respeito à saúde, pode variar significativamente de país para país e, consequentemente, estimular ou travar a inovação tecnológica e desenvolvimento científico em um determinado local. 
Como saúde e IA atravessam fronteiras, cuidado adicional ao tema é necessário. Nesse contexto global é possível avaliar diversas perspectivas que podem fornecer insights cruciais sobre os desafios mais prementes que contribuirão para moldar e promover reformas regulatórias futuras. Insights que, por sua vez, podem representar uma fonte de esperança para que a sociedade possa efetivamente colher os benefícios das inovações em saúde.
Para limitar os riscos e maximizar as oportunidades no uso da inteligência artificial na saúde, a <a href="https://brasil.un.org/pt-br/133507-oms-publica-relat%C3%B3rio-global-e-princ%C3%ADpios-orientadores-sobre-intelig%C3%AAncia-artificial-na">Organização Mundial da Saúde (OMS)</a> já propôs alguns princípios base para a regulamentação e governança do tema. São eles:
<ol>
<li> Proteger a autonomia humana: no contexto da atenção à saúde, isso significa que os seres humanos devem permanecer no controle dos sistemas de saúde e das decisões médicas; privacidade e confidencialidade devem ser protegidas e os pacientes devem dar consentimento informado válido por meio de estruturas legais apropriadas para proteção de dados.</li>
<li> Promover o bem-estar e a segurança humana e o interesse público: Os projetistas de tecnologias de inteligência artificial devem atender aos requisitos regulamentares de segurança, precisão e eficácia para casos de uso ou indicações bem definidos. Devem estar disponíveis medidas de controle de qualidade na prática e melhoria da qualidade no uso de IA.</li>
<li> Garantir transparência, explicabilidade e inteligibilidade: A transparência requer que informações suficientes sejam publicadas ou documentadas antes do projeto ou implantação de uma tecnologia de inteligência artificial. Essas informações devem ser facilmente acessíveis e facilitar a consulta pública significativa e o debate sobre como a tecnologia é projetada e como deve ou não ser usada.</li>
<li> Promover responsabilidade e prestação de contas: Embora as tecnologias de inteligência artificial executem tarefas específicas, é responsabilidade das partes interessadas garantir que sejam usadas nas condições apropriadas e por pessoas devidamente capacitadas. Mecanismos eficazes devem estar disponíveis para questionamento e reparação de indivíduos e grupos que são adversamente afetados por decisões baseadas em algoritmos.</li>
<li> Garantir inclusão e equidade: A inclusão requer que a inteligência artificial para a saúde seja projetada para encorajar o uso e acesso equitativos mais amplos possíveis, independentemente de idade, sexo, gênero, renda, raça, etnia, orientação sexual, capacidade ou outras características protegidas por códigos de direitos humanos.</li>
<li> Promover inteligência artificial que seja responsiva e sustentável: Designers, desenvolvedores e usuários devem avaliar de forma contínua e transparente os aplicativos de IA durante o uso real para determinar se esta responde de forma adequada e apropriada às expectativas e requisitos. Os sistemas também devem ser projetados para minimizar suas consequências ambientais e aumentar a eficiência energética. Governos e empresas devem abordar as interrupções previstas no local de trabalho, incluindo capacitação para profissionais de saúde para se adaptarem ao uso de sistemas de inteligência artificial e possíveis perdas de empregos devido ao uso de sistemas automatizados.</li>
</ol>
É com base no fato de que, tanto a temática da IA quanto a da saúde atravessam fronteiras, que nos parece apropriado que IA no contexto da saúde seja regulamentada por meio de preceitos globais. Harmonizações internacionais e cooperação regulatória mundial seria um caminho. E isso pode ser feito através de uma governança administrativa de caráter amplo, global, entre os países membros da OMS. Tudo alinhado com os objetivos de saúde da <a href="https://brasil.un.org/pt-br/91863-agenda-2030-para-o-desenvolvimento-sustent%C3%A1vel">Agenda 2030 da ONU</a> e em prol de um desenvolvimento mundial mais equânime e sustentável.

side-view-doctor-with-stethoscope-working-laptop

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

A busca de uma regulação com princípios globais

Inteligência artificial e saúde

Como saúde e inteligência artificial atravessam fronteiras, nos parece apropriado que a IA seja regulamentada por preceitos globais