Flávia Parra Cano

Matheus Mantuani

O Regulamento UE 2024/1689 foi aprovado em 2024 e tem por objetivo estabelecer regras harmonizadas para a inteligência artificial na União Europeia. Por se tratar de uma das primeiras regulações abrangentes na matéria, o AI Act tem influenciado o debate quanto à regulamentação da IA ao redor do mundo, inclusive no Brasil.
Um aspecto central nessa discussão envolve justamente definir qual conceito de sistema de IA será adotado legalmente. Nesse sentido, um conceito amplo ou impreciso pode gerar impactos relevantes, especialmente em termos de inovação e segurança jurídica.
<h3><a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a></h3>
<h3>Definição de sistemas de IA nos termos do AI Act</h3>
O Regulamento europeu somente se aplica a sistemas de IA enquadrados na definição de seu artigo 3º, n.º 1: (1) sistema baseado em máquina (“machine-based’), (2) concebido para funcionar com níveis de autonomia variáveis, (3) que pode apresentar capacidade de adaptação após a sua implementação, (4) e que, para objetivos explícitos ou implícitos, (5) com base nos dados de input que recebe, infere a forma de gerar outputs, (6) tais como previsões, conteúdos, recomendações ou decisões, (7) capazes de influenciar ambientes físicos ou virtuais.
Trata-se, notadamente, de uma definição complexa, motivo pelo qual o próprio AI Act estabeleceu que a Comissão Europeia (CE) deveria elaborar orientações sobre o conceito. Assim, a CE aprovou, no último dia 6 de fevereiro, uma minuta de Orientações sobre a Definição de um Sistema de IA (“<a href="https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application">Guidelines on the Definition of an AI System</a>”).
As Guidelines não são vinculantes, mas podem moldar a aplicação prática do AI Act. Ademais, o documento pode também ser relevante ao contexto brasileiro, considerando a similaridade entre a definição de sistemas de IA no AI Act e aquela disposta no PL 2.338/2023.
<ul>
<li>Sistema baseado em máquina</li>
</ul>
Esse elemento enfatiza que os sistemas de IA são computacionalmente orientados. O termo “machine-based” se refere ao fato de que os sistemas são desenvolvidos e implementados a partir de máquinas, incluindo componentes como hardware ou software, os quais permitem o funcionamento da IA.
<ul>
<li>Autonomia</li>
</ul>
No que se refere à autonomia, a Comissão destaca que determinados sistemas de IA possuem um grau de independência que os permite operar sem envolvimento ou intervenção humana direta ou indireta. Por isso, a IA completamente dependente da ação humana não poderia ser classificada como autônoma.
<ul>
<li>Adaptabilidade</li>
</ul>
O AI Act também define que o sistema pode apresentar adaptabilidade após a implementação, o que estaria relacionado a capacidades de autoaprendizagem, permitindo que o comportamento do sistema de IA se alterasse ao longo de seu uso. No entanto, a adaptabilidade não seria um aspecto necessário para a aplicação do AI Act a determinado sistema de IA.
<ul>
<li>Objetivos explícitos ou implícitos</li>
</ul>
No geral, as Guidelines apontam que sistemas de IA são desenvolvidos para operar de acordo com um ou mais objetivos, os quais podem ser implícita (e.g. propósito deduzido do comportamento do sistema) ou explicitamente (e.g. um propósito claramente expresso no código do sistema) definidos. Os objetivos, contudo, seriam internos aos sistemas, referindo-se às suas metas e aos seus resultados. Assim, isso diferiria da “finalidade prevista” para o sistema, estabelecida com base nas influências do ambiente externo, incluindo o contexto no qual a IA foi projetada para ser implementada e como ela deve ser operada.
<ul>
<li>Inferências</li>
</ul>
O quinto elemento se refere à capacidade de o sistema de IA inferir a geração de outputs a partir dos inputs. Os outputs são obtidos predominantemente na fase de uso do sistema, sendo que as técnicas adotadas na fase de desenvolvimento seriam fundamentais para permitir as inferências. Dentre as referidas técnicas de IA, a CE elenca abordagens de machine learning, além de técnicas baseadas em lógica e conhecimento.
<ul>
<li>Categorias de outputs</li>
</ul>
Na sequência, um outro aspecto que define sistema de IA é a inferência para a geração de outputs. Tal capacidade, somada ao aprendizado de máquina e a abordagens baseadas em conhecimento e lógica, seria fundamental para distinguir a IA de outros softwares. Nos termos do AI Act, os outputs seriam: (i) previsões (i.e. uma estimativa sobre o output com base no input); (ii) conteúdo (e.g. texto, imagens, vídeos, músicas, dentre outros); (iii) recomendações (i.e. sugestões em relação a ações específicas, produtos ou serviços, com base em preferências, comportamentos ou demais dados de input de um usuário); e (iv) decisões (i.e. conclusões ou escolhas determinadas pelo próprio sistema de IA).
<ul>
<li>Interações com o ambiente</li>
</ul>
Por fim, os outputs de um sistema não seriam passivos, impactando ativamente os ambientes nos quais são implementados (e.g. desde objetos físicos tangíveis a ecossistemas de software virtuais). 
<h3>O conceito de IA em discussão no Brasil</h3>
O <a href="https://legis.senado.leg.br/sdleg-getter/documento?dm=9881643&amp;ts=1738768184212&amp;disposition=inline">PL de IA</a> dispõe sobre o desenvolvimento, o fomento e o uso ético e responsável da IA, com base na centralidade da pessoa humana. Em dezembro de 2024, o PL foi aprovado pelo Senado – e agora será revisto pela Câmara dos Deputados.
Apesar de procurar se <a href="https://legis.senado.leg.br/sdleg-getter/documento?dm=9852013&amp;ts=1738768180666&amp;rendition_principal=S&amp;disposition=inline">contrapor à abordagem europeia</a>, o fato é que o PL de IA possui diversas similaridades com o AI Act. Um exemplo é seu artigo 4º, I, o qual define sistema de IA como um “sistema baseado em máquina que, com graus diferentes de autonomia e para objetivos explícitos ou implícitos, infere, a partir de um conjunto de dados ou informações que recebe, como gerar resultados, em especial previsão, conteúdo, recomendação ou decisão que possa influenciar o ambiente virtual, físico ou real.”
A redação em muito se assemelha com a definição de sistema de IA contida no AI Act, o que traz consigo dúvida razoável acerca do “<a href="https://www1.folha.uol.com.br/colunas/ronaldolemos/2024/09/europa-critica-lei-de-ia-que-o-brasil-quer-copiar.shtml">desejo irresistível de copiar as leis europeias</a>”, particularmente na medida em que os efeitos do AI Act “<a href="https://www1.folha.uol.com.br/colunas/ronaldolemos/2024/04/o-que-o-brasil-quer-da-inteligencia-artificial.shtml">são desconhecidos até mesmo no seu lugar de origem</a>”. Tendo em vista que o conceito de sistema de IA é o ponto crucial da definição do próprio escopo regulatório, compreendemos que uma importação dos padrões europeus poderia implicar uma série de obrigações desproporcionais e anti-inovação aos agentes brasileiros.
Nota-se que, no contexto da UE, a definição complexa de sistemas de IA produziu uma série de dúvidas acerca de suas restrições e exceções, que suscitaram inclusive necessidade prévia das Guidelines por parte da CE. Essas orientações trouxeram mais clareza ao que se entende por sistema de IA no AI Act. Contudo, mesmo após sua leitura, percebe-se que o conceito permanece significativamente amplo, a despeito da abordagem baseada em riscos do regulamento europeu. Dessa forma, é provável que a aplicação prática do AI Act demande fortes esforços interpretativos pelos agentes regulados.
A partir de tais reflexões, é válido questionar se teremos uma capacidade regulatória no Brasil para a emissão de opiniões e orientações céleres e claras, aptas a garantir uma aplicação adequada de uma legislação de  IA. Ainda que confirmada essa capacidade, é importante considerar se não existiria um conceito que melhor refletisse o nosso contexto cultural, socioeconômico e jurídico, em detrimento da definição do AI Act. Destaca-se, nessa linha, que há dezenas de <a href="https://iapp.org/resources/article/international-definitions-of-ai/">conceitos diferentes para sistemas de IA</a> de forma que as previsões europeias não representam necessariamente um <a href="https://itsrio.org/pt/publicacoes/relatorio-como-regular-a-inteligencia-artificial-expandindo-horizontes-para-alem-da-uniao-europeia/">modelo regulatório paradigmático e inevitável</a> ou o mais apropriado a ser adotado na legislação nacional.
Incertezas quanto às estruturas legais podem prejudicar a <a href="https://commission.europa.eu/topics/eu-competitiveness/draghi-report_en">inovação e o desenvolvimento tecnológico</a> e, por isso, é essencial considerar quais objetivos serão visados com base na regulação da IA no Brasil, o que passa por delimitar uma definição mais precisa do conceito de sistema de IA. As Guidelines da CE, nesse contexto, mostram-se um instrumento adicional para reflexão na retomada das discussões sobre o PL 2338/2023 na Câmara dos Deputados, em particular para que o país implemente uma regulação independente em matéria de IA.

inteligência artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

As orientações da Comissão Europeia e os potenciais impactos à regulação de IA no Brasil

A definição de sistemas de inteligência artificial no AI Act

As orientações da Comissão Europeia e os potenciais impactos à regulação de IA no Brasil