Fernando Aith
As ferramentas de inteligência artificial (IA) podem melhorar a qualidade, a segurança e a eficiência dos serviços de saúde prestados nos sistemas de saúde modernos. Já estão sendo amplamente utilizadas para rastrear dados do paciente, fazer triagem, ler imagens médicas, diagnosticar doenças, fazer decisões de tratamento, apoiar os pacientes na promoção da saúde e fornecer cuidados em todos os níveis de atenção à saúde.
Uma vez que essas ferramentas vieram para ficar e serão cada vez mais presentes nos sistemas de saúde, importantes centros de pesquisa ao redor do mundo se dedicam a pensar em como fazer para que tais tecnologias sirvam para aperfeiçoar os ecossistemas de governança de sistemas de saúde para torna-los mais resolutivos e eficazes. Flood e Régis (LexisNexis, 2021) apresentam contribuições sobre os riscos, oportunidades e desafios da IA para a governança dos sistemas de saúde e para a efetivação do direito à saúde que podem ser bem aproveitadas para o cenário brasileiro.
Hoje está evidente que, para que a IA aplicada à área da saúde seja socialmente benéfica, é preciso investir na estruturação do Estado para que este possa, de um lado, reforçar e induzir a inovação “boa” da IA e, de outro lado, impedir e proibir as inovações “ruins” em todo o sistema de saúde. Afinal, só faz sentido introduzir uma nova tecnologia no sistema de saúde se ela for benéfica ao paciente e à sociedade, levando-se em consideração sua segurança, qualidade e eficácia.
Nesse sentido, a função reguladora do Estado para que a IA em saúde seja utilizada em benefício dos pacientes e da sociedade é essencial e estratégica. Os caminhos para a adoção de tecnologias de IA promissoras podem ser prejudicados pela insegurança jurídica atualmente existente, causada pela ausência de clareza sobre as leis que se aplicam a esses novos produtos, em especial no que se refere ao respeito à privacidade ou às possíveis consequências no campo da responsabilidade civil.
Para que as tecnologias de inteligência artificial possam ser introduzidas nos sistemas de saúde de forma a contribuir com a melhoria da eficácia e da resolutividade dos serviços de saúde, é importante ter clareza regulatória e evidências sobre se (e como) as leis atuais precisam ser reformadas.
O Brasil enfrenta enormes desafios para estabelecer um ambiente regulatório claro e coordenado para tecnologias de IA promissoras. Compreender os riscos e oportunidades que tais tecnologias podem trazer é um exercício necessário para que o país possa identificar e superar positivamente esses desafios.
Riscos e oportunidades
A regulação da inteligência artificial aplicada à área da saúde deve buscar mitigar os riscos que estas novas ferramentas tecnológicas trazem à sociedade e aos indivíduos ou, pelo menos, definir regras relativas à responsabilidade civil e à indenização de vítimas envolvidas em conflitos associados ao uso dessas ferramentas.
A adoção de uma visão puramente jurídica sobre o tema da regulação da IA gera o risco de não se dar o devido valor às vantagens que essas mudanças sociais e tecnológicas podem trazer à sociedade e aos indivíduos. Deve-se buscar uma abordagem mais equilibrada sobre a regulação da IA em saúde, a partir de um modelo de governança flexível que incentive a rápida adoção de tecnologias de IA e, ao mesmo tempo, proteja a sociedade de forma equilibrada dos riscos potenciais que estas tecnologias trazem.
No que se refere aos riscos a serem abordados por uma regulação estatal, o primeiro risco a ser lembrado é o dos pacientes serem prejudicados diretamente pelas tecnologias de saúde da IA. Por exemplo, uma ferramenta de decisão de IA “mal treinada” pode cometer erros perigosos, como realizar um diagnostico errado, prescrever o tratamento errado ou deixar de prescrever um tratamento promissor. Falhas regulatórias também podem prejudicar os pacientes de maneiras menos diretas (por exemplo, violando seus direitos de privacidade), ou mesmo em nível sistêmico (por exemplo, usando o escasso financiamento do SUS que deveria ser investido em outro lugar). A revolução da IA é uma oportunidade para o país repensar os seus atuais recursos de governança e, quem sabe, introduzir um modelo regulatório que rastreie as tecnologias ao longo de seu ciclo de vida (em oposição ao foco atual sobre a regulação pré-mercado).
Um segundo risco relacionado à introdução das ferramentas de IA no sistema de saúde brasileiro diz respeito ao objetivo constitucional de reduzir as desigualdades sociais e regionais (equidade). Existem diversos sub-riscos dentro desta categoria: o risco de viés algorítmico embutido nas ferramentas de IA; o risco de que as ferramentas de IA não recebam cobertura pública, o que significa que os pacientes mais ricos terão acesso exclusivo ou preferencial em comparação com os que não possuem recursos para acessar as novas tecnologias.
A iniquidade não é um problema inédito ou exclusivos da IA aplicada à saúde, sobretudo em um país histórica e estruturalmente desigual como o Brasil. A iniquidade sanitária estrutural manifesta-se no Brasil pelas diferenças entre os sistemas público e privado de saúde.
Os processos e lógicas que regem a incorporação de uma nova tecnologia nos respectivos sistemas são diferentes: no sistema privado, aqueles que possuem mais recursos financeiros terão melhor e mais rápido acesso às novas tecnologias, inclusive as de IA; já no sistema público, a incorporação estará sujeita às contingências políticas do governo de turno e do Congresso Nacional, bem como a um processo técnico-político encampado pela Comissão Nacional de Incorporação de Tecnologias no Sistema Único de Saúde (Conitec) e pelo Secretário de Ciência, Tecnologia, Inovação e Insumos Estratégicos em Saúde do Ministério da Saúde. A revolução da IA é uma oportunidade para um pensamento mais profundo e uma ação mais significativa sobre esses problemas de longa data.
O terceiro grande risco a ser destacado é o de que, em uma revolução tecnológica da magnitude desta que estamos vivendo, sempre haverá pontos cegos regulatórios. Ferramentas de IA trarão à tona novos pontos cegos, seja em decorrência da natureza da inovação, seja em decorrência da incapacidade estatal para identificar antecipadamente os riscos inerentes à IA em saúde.
O ambiente regulatório atual não foi projetado com recursos humanos, computadores e equipes multissetoriais altamente qualificadas, necessários para uma eficiente regulação da IA aplicada à área da saúde. Esta realidade impõe a adoção de medidas imediatas de estruturação estatal para o desenvolvimento de suas capacidades regulatórias no setor. Se é verdade que a revolução da IA força uma profunda reconsideração da governança do sistema de saúde, esta é uma oportunidade bem-vinda.
Desafios da regulação da inteligência artificial
Observando-se o fenômeno da inteligência artificial em saúde e suas implicações para o direito à saúde e outros direitos fundamentais, os principais desafios e questões que se apresentam atualmente para uma regulação eficiente nesta área podem ser assim sintetizados:
- O federalismo brasileiro e a jurisdição fragmentada do Brasil sobre a saúde complicam a governança de IA na área da saúde. Os resultados são camadas em cascata de governança e regulação e incerteza sobre se a totalidade regula suficientemente a IA em ambientes de saúde.
- Há incerteza quanto às principais questões legais, incluindo os requisitos legais em relação à privacidade e responsabilidade por lesões relacionadas à IA (por exemplo, o médico, o fabricante da tecnologia de IA, o hospital).
- As atuais estruturas do Ministério da Saúde e da Agência Nacional de Vigilância Sanitária (Anvisa) não são adaptadas para ferramentas que dependem de algoritmos em constante evolução. Há a necessidade de projetar uma nova estrutura que seja robusta e flexível.
- A adoção da IA na saúde deve ser eficiente e equitativa. É necessária uma orientação clara sobre as melhores práticas para processos justos de adoção de IA nos sistemas público e privado em saúde.
Dentre os deveres do Estado para a efetivação do direito à saúde no Brasil, organizar uma estrutura de governança e regulação da inteligência artificial aplicada à saúde encontra-se entre os mais relevantes da atualidade.
