Opinião e Análise

Matheus Camargo

Esta pergunta, feita por Agostinho Ramalho Marques Neto<a href="#_ftn1" name="_ftnref1">[1]</a>, ainda que em contexto diverso, é a que devemos fazer ao nos deparar com a crescente onda de discussões sobre a regulamentação da <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial?non-beta=1">inteligência artificial</a> (IA). Enquanto a intenção de proteger a sociedade de possíveis abusos tecnológicos é nobre, devemos questionar quem são os guardiões dessa bondade e quais interesses estão realmente sendo protegidos. Neste artigo, exploraremos a necessidade e os perigos da regulação da IA no Brasil, com um foco especial na recente legislação da União Europeia.
A inteligência artificial tem se integrado rapidamente em diversas áreas da nossa vida, desde assistentes virtuais em nossos smartphones até carros autônomos e sistemas avançados de diagnóstico médico. No entanto, com esse avanço vêm preocupações legítimas sobre privacidade, segurança e ética. Recentemente, a União Europeia aprovou o AI Act<a href="#_ftn2" name="_ftnref2">[2]</a>, um conjunto de regras destinadas a regular o uso da IA classificando os sistemas de acordo com seus níveis de risco. Esta legislação visa criar um ambiente seguro e confiável para o desenvolvimento e uso da IA, mas também levanta questões sobre o equilíbrio entre inovação e controle.
A IA oferece inúmeros benefícios que podem transformar positivamente nossas vidas. Na educação, por exemplo, ferramentas de IA estão revolucionando o aprendizado ao criar materiais educativos interativos e adaptativos, como laboratórios virtuais, simulações e jogos educacionais<a href="#_ftn3" name="_ftnref3">[3]</a>. Na indústria, a automação alimentada por IA aumenta a eficiência e reduz custos, permitindo que empresas se tornem mais competitivas. Por exemplo, a General Electric utiliza algoritmos de IA para analisar grandes conjuntos de dados históricos e atuais, prevendo problemas de equipamentos antes que ocorram falhas, o que maximiza a eficácia operacional e melhora a manutenção preditiva<a href="#_ftn4" name="_ftnref4">[4]</a>.
Apesar dos benefícios, a IA também apresenta riscos significativos que não podem ser ignorados. Algoritmos tendenciosos podem perpetuar discriminações existentes, enquanto sistemas autônomos mal projetados podem causar acidentes graves. A invasão de privacidade é outra preocupação, com tecnologias de reconhecimento facial sendo usadas sem consentimento em espaços públicos. Exemplos recentes, como falhas em sistemas de reconhecimento de voz e imagem, ilustram os perigos potenciais da IA desregulada<a href="#_ftn5" name="_ftnref5">[5]</a>. Esses incidentes ressaltam a necessidade de um arcabouço regulatório robusto que possa mitigar esses riscos.
Para enfrentar os desafios apresentados pela IA, a regulamentação é essencial. O AI Act da União Europeia representa passo significativo nessa direção, impondo obrigações específicas para desenvolvedores e usuários de IA, dependendo do nível de risco associado. Os sistemas de IA são classificados em quatro categorias: risco inaceitável, alto risco, risco limitado e risco mínimo ou inexistente. Os sistemas de alto risco, por exemplo, são sujeitos a requisitos rigorosos, como gestão de riscos, governança de dados, documentação técnica, registro de logs e transparência para garantir a segurança e a proteção dos direitos fundamentais dos usuários<a href="#_ftn6" name="_ftnref6">[6]</a>.
O Mapa Interativo de Obrigações e das Categorias de Riscos (MIOCR) detalha essas obrigações, destacando a importância de uma abordagem diferenciada baseada no risco. O MIOCR é uma ferramenta detalhada que mapeia as obrigações impostas pela legislação e categoriza os riscos associados aos sistemas de IA. Este mapa é essencial para entender como diferentes níveis de risco exigem diferentes níveis de conformidade e obrigações, garantindo que as medidas regulatórias sejam proporcionais ao potencial impacto dos sistemas de IA.
Embora a regulação da IA seja necessária, devemos estar atentos aos perigos de uma regulamentação excessivamente zelosa. Reguladores, apesar de bem-intencionados, podem não ter a compreensão completa da tecnologia e suas implicações futuras. Isso pode levar a regras que sufocam a inovação e criam barreiras intransponíveis para startups e pequenas empresas. Além disso, existe o risco de que grandes empresas usem a regulamentação como uma vantagem competitiva, dificultando a entrada de novos concorrentes. A "bondade dos bons" pode, sem querer, proteger interesses estabelecidos à custa do progresso e da inovação.
Em última análise, a regulação da IA deve encontrar um equilíbrio delicado entre proteger a sociedade e promover a inovação. É crucial que as regras sejam flexíveis e adaptáveis, permitindo ajustes à medida que a tecnologia evolui. Reguladores devem trabalhar em estreita colaboração com desenvolvedores e especialistas em IA para garantir que as políticas sejam eficazes e proporcionais aos riscos.
Assim, convido todos os leitores a se envolverem no debate sobre a regulação da IA, seja participando de fóruns públicos, contribuindo para consultas governamentais, apoiando organizações que promovem a ética na IA, ou até mesmo se educando e educando outros sobre os impactos da IA.
Somente através do diálogo aberto e colaborativo entre governos, empresas e sociedade civil poderemos desenvolver uma abordagem equilibrada que maximize os benefícios da IA enquanto minimiza seus riscos.
A pergunta permanece: quem nos protegerá da bondade dos bons? A resposta reside em nossa capacidade coletiva de criar uma regulação que seja tão inteligente e adaptável quanto a tecnologia que buscamos controlar.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> MARQUES NETO, Agostinho Ramalho. O Poder Judiciário na Perspectiva da Sociedade Democrática: O Juiz Cidadão. In: Revista ANAMATRA. São Paulo, n. 21, p. 30-50, 1994.
<a href="#_ftnref2" name="_ftn2">[2]</a> https://artificialintelligenceact.eu/
<a href="#_ftnref3" name="_ftn3">[3]</a> https://www.eschoolnews.com/digital-learning/2024/02/05/benefits-of-artificial-intelligence-in-education/
<a href="#_ftnref4" name="_ftn4">[4]</a> https://litslink.com/blog/ai-in-the-manufacturing-industry-benefits-use-cases-and-success-stories
<a href="#_ftnref5" name="_ftn5">[5]</a> https://www.ndss-symposium.org/ndss-paper/practical-hidden-voice-attacks-against-speech-and-speaker-recognition-systems/
<a href="#_ftnref6" name="_ftn6">[6]</a> https://artificialintelligenceact.eu/high-level-summary/

21506

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Quem nos protege da bondade dos bons?

Entre a segurança e a inovação na regulação da inteligência artificial