Opinião e Análise

Fernando Aith

O Conselho Nacional de Justiça (CNJ) divulgou a formalização no dia 18 de setembro de um Acordo de Cooperação Técnica com o Hospital das Clínicas da Faculdade de Medicina da Universidade de São Paulo (HCFMUSP) para o desenvolvimento de ferramentas de inteligência artificial voltadas à elaboração de decisões judiciais no campo da saúde, mediante análise de petições, manifestações processuais e dados clínicos com base em evidências.
As ferramentas, a serem incorporadas à plataforma e-NatJus, serão desenvolvidas a partir do desenvolvimento do Modelo RAG e de Linguagem Especializada (Small Language Model — SLM). Os mecanismos a serem desenvolvidos, segundo o CNJ, permitem a realização de classificação automática dos processos conforme as categorias do CNJ, sumarizações e pesquisas avançadas, bem como elaboração de decisões padronizadas.
<h3><a href="https://www.jota.info/produtos/saude?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_saude_q2&amp;utm_id=cta_texto_saude_q2_2023&amp;utm_term=cta_texto_saude&amp;utm_term=cta_texto_saude_meio_materias">Com notícias da Anvisa e da ANS, o JOTA PRO Saúde entrega previsibilidade e transparência para empresas do setor</a></h3>
Segundo o presidente do CNJ e do Supremo Tribunal Federal (STF), ministro Luís Roberto Barroso, “a judicialização da saúde é um dos temas mais difíceis do Direito brasileiro, porque não há uma solução juridicamente fácil nem moralmente barata. Juízes não são formados em medicina e, portanto, dependem da boa qualidade de consultorias como essa, que, em boa hora, o Hospital das Clínicas vai oferecer ao CNJ”.
Conforme divulgado pelo CNJ, uma outra entrega prevista no referido acordo de cooperação refere-se à disponibilidade de um agente virtual de apoio à magistratura com base no uso de inteligência artificial generativa. As ferramentas devem fortalecer o banco nacional de notas técnicas do e-NatJus (plataforma eletrônica do Núcleo de Assistência Técnica do Judiciário gerido pelo CNJ), para subsidiar a tomada de decisões nesses processos, por meio de revisões sistemáticas que mapeiam e sintetizam resultados de estudos científicos sobre os casos em análise.
A iniciativa deve ser vista com otimismo, mas também com reservas.
Uma pesquisa da Unesco constatou que 44% dos operadores de direito em 96 países já utilizam ferramentas de IA, como o ChatGPT, para tarefas relacionadas ao trabalho, incluindo elaboração de petições, pesquisas de jurisprudência, elaboração de decisões judiciais, gerenciamento de prazos, dentre outros usos.
<h3>Potenciais do uso da IA na judicialização da saúde</h3>
De um lado, a iniciativa deve ser vista com otimismo, uma vez que a integração da IA ​​no sistema jurídico tem grandes potenciais de melhoria da eficácia e resolutividade da atividade jurisdicional, uma vez que gera oportunidades significativas. Por exemplo, ferramentas de IA podem processar grandes volumes de dados de casos e documentos jurídicos muito mais rapidamente do que os métodos manuais tradicionais, trazendo ganhos de tempo e de escala.
Além disso, ao analisar padrões em decisões anteriores, a IA pode contribuir para interpretações mais padronizadas da legislação e ajudar a identificar tendências na tomada de decisões judiciais. Serviria, inclusive, potencialmente, para ampliar a aderência das decisões das instâncias inferiores à jurisprudência dos tribunais superiores, tais como as já consolidadas teses expressas nas Súmulas 60 e 61 do STF. Isso poderia, em teoria, levar a uma aplicação mais consistente da lei e possibilitar maior segurança jurídica no campo da judicialização da saúde.
Ao mesmo tempo, o otimismo se justifica na medida em que a IA também pode acelerar significativamente a pesquisa jurídica, examinando vastos bancos de dados, auxiliando juízes, advogados e acadêmicos do direito a descobrir jurisprudência e precedentes relevantes de forma mais eficiente. Além disso, plataformas baseadas em IA podem auxiliar os cidadãos a compreender seus direitos e a navegar pelos procedimentos legais por meio de interfaces fáceis de usar, potencialmente democratizando o acesso a recursos jurídicos.
A iniciativa também possui grande potencial de benefícios para qualificar judicialização da saúde na medida em que permitirá uma maior aproximação entre os juízes e os operadores do direito e as decisões técnicas elaboradas pela Comissão Nacional de Incorporação de Tecnologias ao SUS (Conitec) ou pelos Núcleos de Assistência Técnica do Poder Judiciário para decisões de saúde (NATs).
Soma-se a isso a possibilidade de se utilizar a IA como ferramenta para melhorar a comunicação entre os diferentes níveis do judiciário, garantindo que informações relevantes sejam compartilhadas de forma eficiente e que os tribunais de apelação possam acessar as decisões dos tribunais inferiores rapidamente, e vice-versa.
Outro uso possível da IA na judicialização da saúde, a ser desenvolvido potencialmente, são ferramentas de auxílio de operadores dos sistemas de justiça e de saúde para o auxílio na na compreensão de textos técnicos sanitários e jurídicos complexos, resumindo casos judiciais e protocolos clínicos e diretrizes terapêuticas e extraindo pontos-chave, além de fornecer feedback sobre o tratamento de casos e a tomada de decisões, permitindo o desenvolvimento profissional contínuo e aprimorando as habilidades dos magistrados e demais atores da judicialização da saúde.
<h3>Aspectos para atenção e preocupação</h3>
De outro lado, importantes desafios se colocam à frente quando pensamos na adoção responsável da IA no campo da judicialização da saúde. Alguns são velhos conhecidos, como o viés algorítmico, que corre o risco de reforçar as desigualdades sociais ou, ainda, a opacidade que muitos sistemas de IA possuem e que representam riscos à transparência e à responsabilização, especialmente em setores de alto risco, como o direito e a administração pública.
Outro aspecto que devemos atentar é a possibilidade de se criar uma dependência excessiva dos juízes com relação ao uso da IA no futuro, levantando questões sobre a independência dos tomadores de decisão humanos, como juízes e formuladores de políticas. Na medida em que os sistemas de IA de desenvolvem, as ferramentas tendem a dominar os processos de tomada de decisão, desumanizando o processo e gerando riscos de injustiças que somente a sensibilidade humana poderiam evitar.
A IA não pode e nem deve, jamais, substituir juízes humanos ou o raciocínio jurídico central a ser realizado por humanos. A IA deve auxiliar, não decidir.
<h3>Regulação da IA e letramento digital como urgências nacionais</h3>
É preocupante acompanhar o acelerado avanço do uso e do desenvolvimento de ferramentas de IA no Brasil, tanto no campo do direito quanto no campo da saúde, sem que tenhamos, como contrapartida, uma lei geral de regulação e governança de IA que possibilite um maior controle, pelo Estado e pela sociedade, sobre os usos e consequências da IA no sistema de justiça ou no sistema de saúde.
É imperativo que o Brasil avance com os debates sobre o PL 2338/2023 na Câmara dos Deputados para que possamos regular a IA no sentido de se priorizar, em sua incorporação ao dia a dia dos sistemas de saúde e de justiça, o respeito aos direitos humanos, a definição de regras claras de responsabilização pelos danos causados pela IA, regras claras sobre o que se entende por “supervisão humana” e “decisão final por ser humano”.
Outro campo a ser melhor regulado e desenvolvido é o do letramento digital da sociedade e das pessoas que utilizam e são destinatárias dos usos da IA. O letramento digital é um elemento essencial nesse processo de incorporação da IA à judicialização da saúde.
Capacitação é crucial. Formuladores de políticas, gestores de saúde, juízes, advogados, membros dos ministérios públicos e das defensorias públicas, pacientes, especialistas jurídicos e administradores públicos precisam de treinamento especializado em ética da IA, proteção de dados e implicações legais dos sistemas algorítmicos, para garantir a implantação responsável da IA no âmbito da judicialização da saúde.
Uma importante ferramenta para auxiliar na incorporação responsável da IA nos sistemas de justiça dos diferentes países é o “Kit de Ferramentas Global da Unesco sobre IA e o Estado de Direito”, que tem se tornado um recurso fundamental para faculdades de direito e programas de treinamento judicial em todo o mundo, equipando profissionais jurídicos para navegar na interseção em rápida evolução entre tecnologia e justiça.
<h3><a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a></h3>
As diretrizes e informações constantes do kit da Unesco têm o potencial de reforçar a proteção dos direitos humanos, da ética e do Estado de Direito na era digital. Trata-se de ferramenta que merece ser estudada com atenção pelos responsáveis da iniciativa do uso de IA na judicialização da saúde no Brasil, especialmente no âmbito do CNJ e do HC/FMUSP.
A incorporação da IA nas sociedades modernas é um processo sem volta e atingirá vários campos da sociedade. Resta-nos atentar para que esta incorporação seja feita a serviço da humanidade e em benefício das pessoas, evitando-se usos que causem danos e prejuízos à sociedade ou que possam aumentar as iniquidades já tão profundas do Brasil, em especial no campo da saúde.

cnj liberdade de imprensa

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Acordo firmado com o HC da USP prevê desenvolvimento de ferramentas de IA para 'auxiliar' decisões judiciais de saúde no Brasil

CNJ incentivará uso de IA na judicialização da saúde

Acordo firmado entre CNJ e HC da USP prevê desenvolvimento de ferramentas de IA para 'auxiliar' decisões judiciais de saúde no Brasil