Opinião e Análise

Fernando Aith

Os chatbots de saúde começam a fazer parte do novo ambiente digital por meio da evolução dos grandes modelos de linguagem (LLM). As novas gerações de chatbots de saúde trazem novidades que aumentam os riscos e que tornam ainda mais complexos os desafios regulatórios que se avizinham.
Desde o lançamento inicial do ChatGPT já era possível obter dos chatbots de saúde informações médicas específicas a partir de perguntas do usuário, algo que já trazia grandes inquietações sobre a forma como os dados de saúde dos pacientes são tratados; sobre a qualidade das informações médicas oferecidas pelo robô e sobre a possibilidade do chatbot de saúde induzir condutas terapêuticas inadequadas à condição clínica do paciente.
<a href="https://www.jota.info/produtos/saude?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_saude_q2&amp;utm_id=cta_texto_saude_q2_2023&amp;utm_term=cta_texto_saude&amp;utm_term=cta_texto_saude_meio_materias">Com notícias da Anvisa e da ANS, o JOTA PRO Saúde entrega previsibilidade e transparência para empresas do setor</a>
O que já era preocupante agora ficou ainda mais complexo, sobretudo porque tais tecnologias estão entrando no mercado sem encontrar qualquer barreira regulatória. Os chatbots de saúde lançados em 2026 já permitem ao usuário fazer o upload de todo o seu prontuário médico para um LLM comercial para, assim, oferecer respostas mais "precisas" ao usuário.
Em janeiro de 2026, a OpenAI lançou o ChatGPT Health, que permite aos pacientes sincronizar com o chatbot os dados que constam dos seus prontuários eletrônicos de saúde (arquivados em diferentes plataformas públicas e privadas) e os dados armazenados em aplicativos de bem-estar. A partir destas informações fornecidas, o usuário poderá receber respostas personalizadas e direcionadas a responder perguntas específicas sobre saúde e possibilidades terapêuticas. O Microsoft Copilot também já oferece funcionalidade semelhante para seu chatbot de saúde, e outras empresas estão entrando no mercado.
Em artigo de opinião publicado no JAMA, Ifeoma Ajunwa, Ravi Parikh e Glenn Cohen analisam as consequências jurídicas que podem decorrer desta nova geração de chatbots de saúde. Os autores sustentam que a forma como os cidadãos estão lidando com a tecnologia faz com que eles ofereçam ao chatbot de saúde dados clínicos pessoais que mesmo os médicos não compartilhariam sem filtros com um colega consultor.
Para eles, o resultado não é a democratização do conhecimento médico, mas sim a democratização dos dados médicos, incluindo a linguagem estigmatizante, os erros de diagnóstico e os vieses institucionais presentes no próprio prontuário.
Como potenciais benefícios destas novas tecnologias, os autores destacam a capacidade destes novos chatbots agregarem dados de saúde individuais e populacionais, o que potencialmente pode acelerar a pesquisa de doenças raras, aprimorar a vigilância epidemiológica e personalizar o gerenciamento da saúde. Os LLMs também podem oferecer aos cientistas a oportunidade de obter, de forma econômica e colaborativa, os dados necessários para estudar e encontrar tratamentos para doenças raras ou órfãs.
No entanto, alertam os autores, esses benefícios potenciais se baseiam na questionável premissa de que os dados utilizados são precisos, imparciais e contextualizados adequadamente. Atualmente, nenhuma dessas premissas é bem fundamentada.
Na prática, a OpenAI controla todo o acesso aos dados de uso e aos resultados subsequentes, impossibilitando auditorias externas independentes.
Ou seja, ainda não é possível que pesquisadores independentes auditem o desempenho do LLM em diferentes populações de pacientes, identifiquem quais incidentes de segurança ocorreram ou se seus resultados amplificam vieses documentados nos prontuários eletrônicos e dados de saúde fornecidos.
Na ausência de requisitos de transparência para estas plataformas, fica impossível de conhecer e/ou prever quais os efeitos destas novas tecnologias sobre o comportamento dos usuários na “busca por saúde", sobre a confiança dos pacientes nos seus médicos e sobre a propagação de informações errôneas.
Segundo os autores, o fato de os pacientes agora poderem sincronizar todos os seus dados eletrônicos de saúde com uma plataforma de aprendizagem online com o simples toque de um botão representa uma mudança fundamental em relação à forma como os registros médicos são coletados, armazenados e tratados, assim como sobre a forma como esses dados tradicionalmente influenciam a tomada de decisões clínicas.
O artigo destaca que, quando um paciente busca uma segunda opinião pelos canais convencionais hoje estabelecidos, o processo é seletivo por natureza. O médico de atenção primária que encaminha uma paciente com um nódulo mamário a um cirurgião oncológico envia os exames de imagem, a patologia e o histórico relevantes — não todo o prontuário psiquiátrico do paciente, nem uma anotação de serviço social de dez anos atrás, nem todos os atendimentos de triagem de todas as visitas ao pronto-socorro.
A seletividade dos dados a serem considerados representam, por si só, um julgamento clínico importante para limpar informações irrelevantes ou prejudiciais que possam influenciar a avaliação do médico responsável pela análise. Plataformas de aprendizagem online como o ChatGPT Health eliminam essa etapa de curadoria, expondo os pacientes a riscos, sobretudo porque os registros médicos não são repositórios neutros de fatos.
Podem conter linguagem estigmatizante que atinge desproporcionalmente pacientes negros, com potencial de alterar consideravelmente as atitudes e o comportamento de prescrição dos médicos. Estas informações, quando incorporadas em sistemas algorítmicos, podem reproduzir sistematicamente os vieses dos clínicos que geraram os dados.
Como exemplo, um dos casos hipotéticos trazidos pelos autores é o de um homem de 55 anos cuja dor no peito foi documentada duas vezes como "provável ataque de pânico", antes que uma terceira consulta revelasse angina instável. As anotações anteriores permanecem em seu prontuário. Se ele perguntar a um LLM se sua sensação de aperto no peito justifica preocupação, o modelo pode se basear na abordagem da ansiedade — oferecendo segurança precisamente quando essa segurança é perigosa.
Assim, a disponibilização de informações pessoais de saúde ao chatbot que refletem a realidade das iniquidades na saúde, sem as devidas salvaguardas para permitir que o profissional de saúde interprete os dados, corre o risco de replicar diagnósticos errôneos, suposições tendenciosas e perpetuar as iniquidades de saúde já existentes na sociedade.
A expansão dos registros médicos por profissionais de saúde também levanta novos riscos legais para os pacientes. Quando um paciente disponibiliza todos os seus dados de saúde para uma empresa privada, de que forma essas informações estão legalmente protegidas?
No Brasil, nem a Lei Geral de Proteção de Dados, nem as normas da Agência Nacional de Proteção de Dados e nem a regulamentação do Ministério da Saúde possuem regras claras sobre de que forma esta transferência de dados de saúde do paciente para o chatbot pode ser feita, sobre os limites da utilização destes dados voluntariamente fornecidos para fins de aprendizado de máquina, sobre as medidas de segurança a serem adotadas para a proteção do sigilo das informações cedidas ou, ainda, sobre se um chatbot pode prescrever condutas terapêuticas a partir dos dados pessoais sensíveis oferecidos.
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
As informações de saúde disponibilizadas, se não houver vedação expressa e clara, podem ser usadas para determinar a elegibilidade para seguro ou a definição de preços, ou para avaliar pacientes para emprego de maneiras que seriam prejudiciais aos titulares dos dados. Não existem salvaguardas legais suficientes para proteger adequadamente os dados sensíveis de saúde que os pacientes oferecem voluntariamente aos chatbots de saúde. Também não existem mecanismos que obriguem os desenvolvedores a compartilhar dados de uso e resultados com pesquisadores independentes.
O que esses novos chatbots de saúde nos mostram com clareza é a necessidade de se pensar em respostas regulatórias adequadas para esta nova realidade. Estas respostas devem combinar proteções de privacidade dos pacientes com acesso obrigatório aos dados por pesquisadores e auditorias estatais ou privadas pós-implantação, para que o efeito positivo esperado com estas tecnologias seja alcançado e para que os riscos relacionados aos direitos fundamentais dos pacientes não se concretizem.
<hr />
Ajunwa I, Parikh RB, Cohen IG. When Patients Share Everything With an AI Chatbot: Risks and Opportunities of Large Language Models. JAMA. Published online June 11, 2026. doi:10.1001/jama.2026.9507

ia chatgpt direito

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Sem regulação adequada, nova geração de grandes modelos de linguagem coleta e usa dados pessoais sensíveis para oferecer dicas terapêuticas

Chatbots de saúde: você se sente seguro?

Sem regulação adequada, nova geração de grandes modelos de linguagem coleta e usa dados pessoais sensíveis para oferecer dicas terapêuticas