Opinião e Análise

Pedro Braga

João Victor Archegas

<p align="justify">O Brasil está em um momento crucial de regulamentação da <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">Inteligência Artificial</a> (IA), avançando rapidamente com iniciativas para estabelecer diretrizes para o uso e desenvolvimento da tecnologia no país. O Projeto de Lei (PL) n.º 2.338/23<sup><a class="sdfootnoteanc" href="#sdfootnote1sym" name="sdfootnote1anc">1</a></sup>, fruto de uma série de discussões legislativas que começaram com o PL n.º 21 de 2020, visa estruturar um modelo de regulação baseado em níveis de riscos, fortemente inspirado no modelo adotado pela União Europeia (UE)<sup><i><a class="sdfootnoteanc" href="#sdfootnote2sym" name="sdfootnote2anc">2</a></i></sup>. Esse tipo de regulamentação baseada em risco pode ter grande impacto em diversos setores da economia nacional, em especial para o desenvolvimento de tecnologias de IA para a Saúde.</p>
<h3 align="justify"><a name="_7jhnyzum78lx"></a>Regulamentação baseada em risco: o que é?</h3>
<p align="justify">Primeiramente, o PL n.º 2.338/23 visa estabelecer uma regulamentação baseada em análise de risco, categorizando os usos da inteligência artificial em dois principais tipos: risco excessivo e alto risco. As aplicações classificadas como de risco excessivo, que não podem ser mitigadas de maneira eficaz contra potenciais danos, serão banidas. Isso inclui práticas como o ranqueamento social por parte de órgãos públicos e métodos subliminares de manipulação comportamental. Em contrapartida, as aplicações consideradas de alto risco, cujo potencial de riscos pode ser mitigado, estarão sujeitas a um conjunto rigoroso de normas, com 28 obrigações totais detalhadas no projeto, em contraste com as 10 obrigações previstas no<i> EU AI Act </i>para usos de alto risco.</p>
<h3><a href="https://www.jota.info/produtos/saude?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanh%20a_saude_q2&amp;utm_id=cta_texto_saude_q2_2023&amp;utm_term=cta_texto_saude&amp;utm_term=cta_texto_saude_meio_materias"><b>Com notícias direto da ANVISA e da ANS, o JOTA PRO Saúde entrega previsibilidade e transparência para grandes empresas do setor. Conheça!</b></a></h3>
<p align="justify">Dessa forma, para entender melhor os impactos que uma regulamentação baseada em riscos em diferentes setores da economia, o ITS Rio realizou uma pesquisa<sup><a class="sdfootnoteanc" href="#sdfootnote3sym" name="sdfootnote3anc">3</a></sup> sobre o uso de tecnologias de IA no Brasil, analisando uma amostra de 110 aplicações de IA desenvolvidas no país. Dentre as aplicações levantadas ao longo de 2024, o setor de saúde destacou-se com 42% do total. O agronegócio aparece em segundo lugar, representando 25% dos casos. Considerando a totalidade da amostra, mais de um terço (35%) das iniciativas analisadas seriam potencialmente classificadas como de alto risco no Brasil, incluindo a maioria das aplicações na área da saúde, o que indica que o Brasil está prestes a implementar uma alta carga regulatória em alguns setores estratégicos para a economia nacional.</p>
<h3 align="justify"><a name="_8vczt1vao34c"></a><span style="font-size: large;">Saúde: o setor mais impactado</span></h3>
<p align="justify">O setor da saúde se destacou na análise mencionada acima tanto pelo seu volume em relação ao total da amostra quanto pela quantidade significativa de aplicações que potencialmente poderiam ser classificadas como de alto risco. Essas tecnologias vão desde diagnósticos de doenças até monitoramento remoto e gestão de dados clínicos. No entanto, o PL classifica como de alto risco todas as aplicações de inteligência artificial que auxiliam diagnósticos e procedimentos médicos e podem impactar a integridade física e mental dos pacientes. Tal classificação impõe uma carga regulatória rigorosa, além de apresentar desafios adicionais para inovações neste campo.</p>
<h3 align="justify"><a href="https://conteudo.jota.info/marketing-lp-newsletter-paredes-vidro"><b>Assine a newsletter Últimas Notícias para receber os episódios do podcast Paredes São de Vidro em primeira mão e o roteiro ao final da temporada</b></a></h3>
<p align="justify">Embora seja essencial proteger a saúde pública, essa abordagem não leva em consideração as nuances entre diferentes subáreas, como monitoramento de pacientes e suporte aos profissionais de saúde. Essa abordagem generalizada à inteligência artificial na saúde, que não avalia as variações nos níveis de risco de cada aplicação, contribui para um cenário de crescente insegurança jurídica e incertezas para empresas e desenvolvedores no país.</p>
<p align="justify">Dois exemplos da amostra ilustram essa complexidade. Primeiro, uma IA destinada a calcular a dose de radiação durante o tratamento do câncer e, segundo, uma aplicação de IA voltada para atualizar médicos com informações científicas. Ambas as tecnologias potencialmente se enquadram no mesmo nível regulatório, embora apresentem riscos distintos. Essa classificação única para usos tão variados pode acarretar altos custos de desenvolvimento e manutenção para todas as aplicações de IA na saúde, desencorajando pesquisas e investimentos em soluções de inteligência artificial.</p>
<p align="justify">Além disso, essa alta carga regulatória também deve ser analisada à luz do Plano Brasileiro de Inteligência Artificial (PBIA)<sup><a class="sdfootnoteanc" href="#sdfootnote4sym" name="sdfootnote4anc">4</a></sup>, que propõe medidas prioritárias para integrar a IA na saúde pública. Essas medidas – que vão desde um "Prontuário Falado no SUS" para automatizar transcrições de teleconsultas a ferramentas de suporte à decisão em compras de medicamentos, passando pelo desenvolvimento de soluções para otimizar diagnósticos precoces de doenças degenerativas em idosos –, são consideradas essenciais de um ponto de vista de estruturação de política pública pelo governo e nem sempre se enquadram na lógica de “alto risco” do PL.</p>
<h3><a name="_yps6qzomo3b9"></a><span style="font-size: large;">Que alternativas existem à regulamentação proposta pelo PL 2.338/23?</span></h3>
<p align="justify">Uma alternativa à abordagem rígida proposta pelo PL 2.338/23 pode ser encontrada no modelo do Reino Unido, que utiliza ambientes controlados para aprimorar sua regulamentação, levando em consideração a diversidade e os riscos inerentes a cada tecnologia. O <i>AI Airlock</i><sup><a class="sdfootnoteanc" href="#sdfootnote5sym" name="sdfootnote5anc">5</a></sup>, por exemplo, é uma iniciativa inovadora do Reino Unido, cujo objetivo é criar um sandbox regulatório para tecnologias de IA aplicadas a dispositivos médicos (AIaMD<sup><a class="sdfootnoteanc" href="#sdfootnote6sym" name="sdfootnote6anc">6</a></sup>). Lançado em maio de 2024, esse projeto possibilita que desenvolvedores e fabricantes testem suas tecnologias de IA antes de sua inserção no mercado.</p>
<p align="justify">Por meio do <i>AI Airlock</i>, a MHRA oferece às empresas de AIaMD a oportunidade de identificar e ajustar suas soluções com base em feedback direto das autoridades reguladoras. Isso auxilia na adequação das tecnologias às exigências rigorosas do sistema de saúde. Essa abordagem reflete o empenho do Reino Unido em estabelecer um modelo regulatório que harmonize inovação e segurança, promovendo um ambiente propício para o desenvolvimento e implementação de IA segura no setor de saúde. Assim, o nível de risco é estabelecido de forma flexível, levando em consideração as nuances de cada caso, e não de forma rígida como prevê o PL n.º 2.338.</p>
<p align="justify"><a name="_u7s09g5y1zxz"></a>Se, por um lado, o PL n.º 2338/23 aponta para uma regulamentação pouco flexível e baseada em risco, alternativas como o modelo britânico mostram um caminho alternativo: uma regulação com flexibilidade e sensibilidade às particularidades setoriais. É essencial, assim, que o Brasil desenvolva um modelo regulatório para IA na saúde que esteja alinhado com a realidade e as necessidades do contexto nacional.</p>
<p align="justify">As especificidades do mercado brasileiro diferem significativamente do cenário europeu, e a importação direta de modelos estrangeiros pode não oferecer soluções eficazes para os desafios locais. Um sistema regulatório que considere as nuances das aplicações de IA na saúde, com uma abordagem flexível e sensível aos diferentes graus de risco, permitiria proteger a segurança dos pacientes sem criar barreiras para a inovação.</p>
<p align="justify">___________________________________________________________</p>
<div id="sdfootnote1">
<p><a class="sdfootnotesym" href="#sdfootnote1anc" name="sdfootnote1sym">1</a><span style="font-size: small;"> Disponível em: </span><a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233"><span style="font-size: small;"><u>https://www25.senado.leg.br/web/atividade/materias/-/materia/157233</u></span></a><span style="font-size: small;"> (Acesso em 11/11/2024)</span></p>
</div>
<div id="sdfootnote2">
<p><a class="sdfootnotesym" href="#sdfootnote2anc" name="sdfootnote2sym">2</a><span style="font-size: small;"> Disponível em: </span><a href="https://eur-lex.europa.eu/eli/reg/2024/1689/oj"><span style="font-size: small;"><u>https://eur-lex.europa.eu/eli/reg/2024/1689/oj</u></span></a><span style="font-size: small;"> (Acesso em 11/11/2024)</span></p>
</div>
<div id="sdfootnote3">
<p><a class="sdfootnotesym" href="#sdfootnote3anc" name="sdfootnote3sym">3</a><span style="font-size: small;"> O relatório completo dessa pesquisa pode ser acessado em: </span><a href="https://itsrio.org/pt/publicacoes/100-ia-pl-2338-e-a-classificacao-de-riscos-dos-usos-de-ia-sob-uma-perspectiva-pratica/"><span style="font-size: small;"><u>https://itsrio.org/pt/publicacoes/100-ia-pl-2338-e-a-classificacao-de-riscos-dos-usos-de-ia-sob-uma-perspectiva-pratica/</u></span></a><span style="font-size: small;"> (Acesso em 11/11/2024)</span></p>
</div>
<div id="sdfootnote4">
<p><a class="sdfootnotesym" href="#sdfootnote4anc" name="sdfootnote4sym">4</a> <a href="https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/noticias/2024/07/plano-brasileiro-de-ia-tera-supercomputador-e-investimento-de-r-23-bilhoes-em-quatro-anos/ia_para_o_bem_de_todos.pdf"><span style="font-size: small;"><u>https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/noticias/2024/07/plano-brasileiro-de-ia-tera-supercomputador-e-investimento-de-r-23-bilhoes-em-quatro-anos/ia_para_o_bem_de_todos.pdf</u></span></a><span style="font-size: small;"> (Acesso em 11/11/2024)</span></p>
</div>
<div id="sdfootnote5">
<p><a class="sdfootnotesym" href="#sdfootnote5anc" name="sdfootnote5sym">5</a> <a href="https://www.gov.uk/government/collections/ai-airlock-the-regulatory-sandbox-for-aiamd"><span style="font-size: small;"><u>https://www.gov.uk/government/collections/ai-airlock-the-regulatory-sandbox-for-aiamd</u></span></a><span style="font-size: small;"> (Acesso em 11/11/2024)</span></p>
</div>
<div id="sdfootnote6">
<p><a class="sdfootnotesym" href="#sdfootnote6anc" name="sdfootnote6sym">6</a> <span style="font-size: small;"><i>AI as a Medical Device</i></span><span style="font-size: small;">, termo em inglês que significa “IA como dispositivo médico”.</span></p>
</div>


saude-sus

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

. Esse tipo de regulamentação baseada em risco pode ter grande impacto em diversos setores da economia nacional

O PL 2.338/2023 e os impactos da regulação de IA na área de saúde

. Esse tipo de regulamentação baseada em risco pode ter grande impacto em diversos setores da economia nacional