Opinião e Análise

Fernando Aith

É cada vez mais urgente a necessidade dos Estados modernos, Brasil inclusive, desenvolverem sistemas regulatórios capazes de acompanhar a velocidade do uso da <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> na saúde. As inovações e usos vão se instalando rapidamente em todos os estabelecimentos de saúde e o potencial de causarem danos aumenta na mesma proporção. É preciso agir rápido para evitar que o uso da IA na saúde cause danos ao ser humano.
Nesse sentido, vale mencionar aqui um instigante artigo publicado pelas professoras canadenses Colleen Flood e Françoise Baylis, intitulado “A inteligência artificial na saúde não vai esperar: Canadá deve investir em um novo quadro regulatório”. O texto usa exemplos concretos e ao final convoca o Estado canadense a desenvolver uma regulação adequada para reduzir os riscos que a inteligência artificial no campo da saúde pode representar.
<a href="https://www.jota.info/produtos/saude?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_saude_q2&amp;utm_id=cta_texto_saude_q2_2023&amp;utm_term=cta_texto_saude&amp;utm_term=cta_texto_saude_meio_materias">Com notícias da Anvisa e da ANS, o JOTA PRO Saúde entrega previsibilidade e transparência para empresas do setor</a>
Segundo as autoras, a inteligência artificial promete enfrentar alguns dos problemas mais persistentes do sistema de saúde, mas afirmam que, para que a IA possa cumprir essa promessa, é necessário que a IA na saúde seja segura e eficaz.
Para reforçar os seus argumentos, Flood e Baylis trazem exemplos muito didáticos, que representam verdadeiras evidências tanto dos potenciais quanto dos riscos da IA na saúde.
O primeiro exemplo é o ‘CHARTWatch’, um sistema de IA de alerta precoce desenvolvido na Unity Health Toronto. Este sistema monitora pacientes hospitalizados e identifica aqueles com maior risco de piora nas condições clínicas. Após sua implementação em uma enfermaria de clínica médica geral no St. Michael’s Hospital, a taxa de mortalidade inesperada caiu 26%.
O segundo exemplo de uma possível eficácia da IA na saúde é o aplicativo de IA da ‘Kardio Diagnostix’, que serve para avaliar sopros cardíacos em recém-nascidos. Esta tecnologia tem o potencial de ajudar a identificar bebês que necessitam de cuidados especializados, direcionando o cuidado terapêutico e evitando encaminhamentos equivocados ou desnecessários.
De outro lado, as autoras alertam que a IA da saúde também pode causar danos graves às pessoas. O “Epic’s Sepse Model”, IA usada por centenas de hospitais americanos e que se propõe a identificar os pacientes que estão em risco de vida decorrente de uma sepse ameaçadora, errou cerca de dois terços dos casos. Ao mesmo tempo, emitiu alertas sobre quase um em cada cinco pacientes.
Outro exemplo do risco da IA à saúde individual e coletiva apresentado pelas autoras refere-se ao uso não regulado dos chamados aplicativos de “bem-estar” que, muitas vezes rotulados como ferramentas de estilo de vida, tem causado sérios danos à saúde de seus usuários.
Flood e Baylis lembram que a diferença entre erro humano e IA discriminatória ou alucinada é a escala. Um médico que interpreta mal um raio X ou ressonância magnética pode causar danos terríveis para um paciente. Um sistema de IA que suporta análise de raios X ou ressonâncias magnéticas em centenas de hospitais poderia cometer sistematicamente o mesmo erro, milhares de vezes, prejudicando assim o maior número de pacientes. A IA pode ampliar a experiência, mas pode também errar em escalas inimagináveis.
Segundo as autoras, a lição já aprendida até aqui é que a evidência de segurança e eficácia é um pré-requisito para a inovação sustentável. Os hospitais não deveriam usar IA de saúde em grande escala, e nem os médicos nem os pacientes deveriam confiar na IA de saúde não testada e não comprovada que gera informações imprecisas ou enganosas. E o Estado deve promover uma regulação adequada a estes novos desafios.
O texto finaliza com algumas propostas, feitas pelas autoras, com relação à realidade canadense e às ações regulatórias imediatas que poderiam ser tomadas. As propostas apresentadas por Flood e Baylis para o Canadá podem ser perfeitamente aplicadas à realidade brasileira, o que faço a seguir
Primeiro, aplicativos de saúde direcionados ao consumidor e comercializados como produtos de “bem-estar” devem ser regulados e fiscalizados pela <a href="https://www.jota.info/tudo-sobre/anvisa">Anvisa</a> na medida em que, concretamente, estes aplicativos se propõem a diagnosticar, tratar ou mitigar uma doença. O que um produto faz – e os riscos que ele cria – importa mais do que o rótulo atribuído por seu desenvolvedor.
Em segundo lugar, a Anvisa deveria proibir o uso de agentes de IA na área da saúde, capazes de tomar ou executar de forma independente decisões clínicas, pelo menos até que se tenha um quadro regulamentar adequado. Sistemas capazes de tomar a iniciativa de ações e de realizar tarefas de várias etapas, com intervenção humana limitada, introduzem riscos que os mecanismos de supervisão existentes não foram concebidos para resolver.
Terceiro, a Anvisa precisa de capacidade técnica para conseguir fiscalizar a IA na saúde. Para demonstrar os desafios inerentes à fiscalização da IA na saúde, as autoras utilizam uma metáfora precisa. Segundo elas, a regulamentação tradicional de dispositivos médicos pode assemelhar-se a um semáforo: vermelho significa parar; verde significa ir. No entanto, a IA em saúde requer algo mais próximo de um amarelo piscando continuamente. O desempenho da IA na saúde pode mudar à medida que as populações de pacientes, práticas clínicas, dados e modelos mudam. A comprovação de segurança e a eficácia da IA na saúde pode até ser feita no início do ciclo de vida da tecnologia para que se conceda um registro. No entanto, a IA se desenvolve sozinha, e mesmo uma IA registrada hoje como segura e eficaz poderá se mostrar o contrário daqui a um ano, na medida em que ela será uma IA diferente da avaliada no início. O Estado deve possuir reguladores com competência técnica para detectar a deterioração do desempenho, erros sistemáticos e resultados desiguais entre grupos de pacientes. E para intervir rapidamente quando necessário. Eles devem também ser capazes de exigir ou realizar testes de estresse sistemático na IA, testando a IA de saúde com cenários adversos, incomuns e de alto risco para descobrir falhas de segurança, preconceitos, vulnerabilidades e resultados prejudiciais.
As autoras finalizam o texto lembrando que os governos ficaram deslumbrados com as possibilidades da IA na saúde, investindo fortemente em pesquisa e comercialização, e reconhecem que esses investimentos são importantes. Mas afirmam que financiar a inovação sem investimento proporcional em regulação e infraestrutura regulatória cria um desequilíbrio perigoso.
Em síntese, tanto a Health Canada quanto a Anvisa precisam de recursos substancialmente maiores, conhecimento especializado e capacidade tecnológica para fornecer caminhos rápidos e eficientes para o mercado e, ao mesmo tempo, proteger os pacientes e a saúde pública, fornecendo uma supervisão significativa durante todo o ciclo de vida de um produto.
<hr />
Flood, Colleen; Baylis, Françoise. Health AI won’t wait, Canada must invest in a new regulatory playbook. The Hill Times. Disponível em: <a href="https://www.hilltimes.com/2026/10/05/health-ai-wont-wait-canada-must-invest-in-a-new-regulatory-playbook/519985/">https://www.hilltimes.com/2026/10/05/health-ai-wont-wait-canada-must-invest-in-a-new-regulatory-playbook/519985/</a>

A Resolução do CFM sobre Inteligência Artificial na medicina: consolidação regulatória ou novo capítulo do debate?

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Casos reais de sucesso e erro da inteligência artificial médica no Canadá mostram por que a Anvisa precisa agir agora

Evidências apontam cada vez mais para necessidade de se regular IA na saúde

Casos reais de sucesso e erro da inteligência artificial médica no Canadá mostram por que a Anvisa precisa agir agora