Guilherme Forma Klafke

Walquiria Nakano Eloy Fávero

No segundo semestre de 2023, dois projetos de Marco Legal de Inteligência Artificial concorrem por protagonismo. O <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/151547">PL 21/20</a>, aprovado pela Câmara Federal, tramita no Senado Federal, onde foi desacelerado para avaliação por uma Comissão de Juristas, que publicou seu relatório final em dezembro de 2022. O projeto é mais abstrato e prevê princípios e diretrizes para futuras regulações na matéria. O <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">PL 2338/23</a>, apresentado pelo presidente do Congresso Nacional, o senador <a href="https://www.jota.info/tudo-sobre/rodrigo-pacheco">Rodrigo Pacheco</a> (PSD-MG), é a formalização da minuta de lei proposta pela Comissão de Juristas. Seu texto procura conciliar uma abordagem baseada em direitos de pessoas afetadas por sistemas de IA com outra de gestão de riscos pelos fornecedores e operadores desses sistemas. Tudo indica que o segundo será privilegiado.
O PL 2338/23 cria um conjunto de obrigações especiais para agentes de sistemas de IA de alto risco. O objetivo é proteger direitos, evitar danos (principalmente irreversíveis) e discriminação, reduzir impacto sobre grupos vulneráveis, e proteger dados pessoais. Mas a inclusão de um sistema à lista de aplicações de alto risco pode acarretar aumento no custo de desenvolvimento de produtos e serviços, maior tempo para testes e validação, e cuidados com governança e transparência que precisam ser equilibrados com segredos de negócio e podem ser incompatíveis com a aplicação desenvolvida. Também pode aumentar as hipóteses de judicialização, especialmente por órgãos de proteção da sociedade, como o Ministério Público.
A área da saúde é uma das únicas atividades consideradas de alto risco pelo projeto em razão do setor em si, não da finalidade nem do contexto de aplicação. O texto do projeto é abrangente e indica que são de alto risco “aplicações na área da saúde, inclusive as destinadas a auxiliar diagnósticos e procedimentos médicos” (art. 17). Ao lado dela, apenas educação, administração da justiça e segurança pública receberam um tratamento similar.
Como está, a previsão da saúde como uma área de aplicações de IA de alto risco é uma armadilha no PL 2338/23. Se aprovado como está, o Marco Legal conflitará com as regulações da Agência Nacional de Vigilância Sanitária (<a href="https://www.jota.info/tudo-sobre/Anvisa">ANVISA</a>) sobre o assunto e poderá onerar o uso de Inteligência Artificial no setor. 
Em relação ao que já existe, não há regulamentos brasileiros específicos para sistemas de IA na saúde, mas a ANVISA regulou recentemente os softwares como dispositivos médicos (SaMD) por meio da <a href="http://antigo.anvisa.gov.br/documents/10181/5141677/RDC_657_2022_.pdf/f1c32f0e-21c7-415b-8b5d-06f4c539bbc3">RDC 657/2022</a>. 
De acordo com o <a href="https://www.gov.br/anvisa/pt-br/assuntos/noticias-anvisa/2022/software-como-dispositivo-medico-perguntas-e-respostas/perguntas-respostas-rdc-657-de-2022-v1-01-09-2022.pdf">documento de Perguntas &amp; Respostas</a> da Agência, “não há, atualmente, previsão para regulamentação específica de SaMD que inclua tecnologia IA ou ML. Entretanto, fabricantes de SaMD com este tipo de tecnologia devem ficar alertas para apresentar, no ato de regularização, descrição das bases de informações usadas para atividades de aprendizado, treinamento, verificação, etc, da IA, contendo origem, quantidade de dados e descrição dos dados e relatório contendo racional que justifique a técnica de IA aplicada, tamanho das bases utilizadas e relato do histórico de treinamento”. Como tecnologia inovadora, deve apresentar “análise clínica do produto específico conforme RDC 548/2021 e normas de pesquisa clínica”.
Esse posicionamento implica que hoje os sistemas de IA na área de saúde são regulados com base (1) na categorização como “dispositivo médico” e (2) no risco das aplicações. Consequentemente, não são abrangidos softwares para bem-estar, para gerenciamento administrativo e financeiro apenas, para processamento de dados médicos demográficos e epidemiológicos sem finalidade diagnóstica ou terapêutica, dentre outros (art. 1º, § 2º, da RDC 657/22). Com base nesse entendimento, a Agência explicou que não precisa de regularização dispositivo de cuidado de idosos que usa IA para predição de agravos a partir de dados populacionais (Perguntas &amp; Respostas, p. 11-12).
Já o risco está previsto na <a href="http://antigo.anvisa.gov.br/documents/10181/5672055/RDC_751_2022_.pdf/37b2d641-82ec-4e64-bb07-4fc871936735">RDC 751/2022</a>, que prevê quatro classes para dispositivos médicos: Classe I (baixo risco); Classe II (médio risco); Classe III (alto risco); e Classe IV (máximo risco). Empresas que queiram comercializar softwares que se enquadram nas classes I ou II só precisam notificar a ANVISA da intenção e da sua capacidade (inclusive jurídica) de comercializá-los, enquanto aquelas que desejam vender produtos que se enquadram nas classes III e IV devem registrá-los na Agência antes da comercialização. A atenuação dos requisitos para softwares de médio risco já havia sido pauta em 2020 (<a href="https://www.in.gov.br/en/web/dou/-/resolucao-de-diretoria-colegiada-rdc-n-423-de-16-de-setembro-de-2020-278150627">RDC 423/20</a>). 
As classificações são importantes para a harmonização regulatória nacional e internacional. Nacionalmente, elas respondem ao <a href="http://www.planalto.gov.br/ccivil_03/_ato2019-2022/2019/decreto/D10178.htm">Decreto Federal 10.178/19</a>, que regulamentou a Lei de Liberdade Econômica. Em seu art. 3º, o Decreto prevê três níveis de riscos para atividades: nível I (“leve, irrelevante ou inexistente”), nível II (“moderado”) e nível III (“alto”). Mais importante, o decreto prevê que “a classificação de risco [...] assegurará que pelo menos uma hipótese esteja classificada no nível de risco I”, que corresponde ao leve, irrelevante ou inexistente. Internacionalmente, essas previsões internalizam as regras da <a href="https://normas.mercosur.int/simfiles/normativas/86824_RES_025-2021_PT_RTM%20Disposit%20medicos.pdf">Resolução do Mercosul GMC 25/2021</a> e visam harmonizar a regulação brasileira com o que é definido em fóruns internacionais.
A opção exposta no PL 2338/23 de classificar como de alto risco sistemas de IA na área de saúde como um todo pode colocar em risco essa arquitetura regulatória.
Vale notar que as resoluções da ANVISA que tratam de SaMD e riscos passaram por processo de mapeamento de impactos sobre o setor regulado. Para a atualização da regulação de riscos, a Agência explicou que “adoção de regras de classificação de risco harmonizadas internacionalmente vem sendo aplicada por diversos países ou regiões, permitindo o trânsito de informações de relevância sanitária entre autoridades regulatórias, bem como maior agilidade no atendimento dos requisitos sanitários” (<a href="https://www.gov.br/anvisa/pt-br/assuntos/regulamentacao/air/analises-de-impacto-regulatorio/2019/25351-925149_2019-62-revisao-da-rdc-185_2001.pdf/view">REMAI</a>, p. 5). Para a regulação dos softwares, avaliou experiências internacionais e comparou soluções, optando por uma regulação específica (<a href="https://www.gov.br/anvisa/pt-br/assuntos/regulamentacao/air/analises-de-impacto-regulatorio/2021/arquivos-relatorios-de-air/relatorio-de-air-softwares-medicos.pdf">AIR</a>, p. 44). A proposta foi aberta para consulta pública desde 2019, contando com participação social no processo, inclusive dos atores afetados.
A classificação se desvia da própria construção do AI Act europeu, no qual o PL se inspira. Na sua <a href="https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:52021PC0206">versão original proposta pelo Conselho Europeu</a>, nem o artigo 6º, nem o Anexo III, que mencionam as atividades de alto risco, citam a área da saúde em si. A minuta se refere à legislação existente, classificando como de alto risco os sistemas que dependem de autorização de uma terceira parte para serem colocados no mercado, conforme a regulação europeia para dispositivos médicos (Artigo 6º, (b), com Anexo II, item 11), além de algumas aplicações pontuais como uso de sistemas para respostas de emergência médica. A <a href="https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_EN.html">versão aprovada pelo Parlamento</a> europeu em junho de 2023 mantém a abordagem, especificando outras aplicações: sistemas que avaliam acesso a serviços de saúde, elegibilidade para seguros de saúde, ou realizam triagem médica. Há também a previsão genérica de sistemas com alto risco de causarem danos de saúde, mas os critérios ainda deverão ser definidos.
Por fim, a Inteligência Artificial vem sendo cada vez mais empregada para auxiliar diagnósticos, analisar grandes conjuntos de dados, desenvolver medicamentos, e até mesmo desempenhar algumas atividades administrativas. Atualmente, todas as notificações e os registros de dispositivos médicos já devem indicar os responsáveis legal e técnico qualquer que seja o risco (RDC 751/22). Mas o projeto, ao incluir a área da saúde como um todo na classificação de alto risco, prevê que desenvolvedores e operadores terão que responder objetivamente pelos danos causados, isto é, assumir o risco independentemente de culpa. Essa responsabilização se soma aos impactos em tempo e custo, governança e transparência, já mencionados.
Em conclusão, o ponto merece mais discussões durante o processo legislativo no Senado Federal. De um lado, não pode prejudicar a proteção do direito à saúde das pessoas. De outro, não pode impedir processos de inovação na saúde. Cabe aos atores do setor participarem dos debates para mostrarem a diferença de aplicação e riscos dos sistemas.

saúde

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Iniciativa merece mais discussões durante o processo legislativo no Senado

Regulação da IA na saúde: a armadilha do &#8216;alto risco&#8217; no PL 2338

Regulação da IA na saúde: a armadilha do 'alto risco' no PL 2338

Iniciativa de regulação merece mais discussões durante o processo legislativo do PL 2338/23 no Senado Federal