Luca Belli

Danilo Doneda

A regulação da inteligência artificial (IA) vem gerando enorme interesse de governos, reguladores, empresas e sociedade civil, seja ao nível global, regional ou nacional.
Para promover um melhor entendimento dos desafios da IA e explorar as boas práticas já existentes, o Centro de Tecnologia e Sociedade da FGV organizou a primeira <a href="https://cpdp.lat/pt-br/conferencia-ia-2021/">Conferência Latino-Americana sobre Inteligência Artificial e Proteção de Dados</a>, como um evento satélite da <a href="https://www.jota.info/opiniao-e-analise/artigos/novas-fronteiras-da-protecao-de-dados-na-america-latina-a-plataforma-cpdp-latam-31082021">conferencia CPDP LatAm</a>.
<a href="https://www.jota.info/produtos/saude?utm_source=Banner%20site&amp;utm_medium=Artigos&amp;utm_campaign=CTA_Saude_materias"><img class="aligncenter wp-image-292716 size-full" src="https://www.jota.info/wp-content/uploads/2021/09/cta-jota-pro-saude.png" width="688" height="688" /></a>
Os demais stakeholders da CPDP LatAm reconhecem que as evoluções da IA podem trazer enormes benefícios, mas apresentam também enormes riscos e, portanto, um marco regulatório sobre IA parece muito pertinente. O evento pretendeu estimular um debate aberto e multissetorial para entender quais são as prioridades da IA no Brasil e na América Latina e como as nossas sociedades estão se preparando – ou não – para enfrentar este assunto tão crítico.
Um problema essencial diz respeito a como regular de maneira eficiente e efetiva. Qual tipo de técnica regulatória e quais mecanismos de governança são mais desejáveis para alcançar os resultados que queremos? Lei? Diretrizes “éticas”? Corregulação? Autorregulação?
De quais normas precisamos? Quais são essenciais para nos proteger, mitigar riscos e estimular a inovação? Quais arranjos institucionais são eficientes e quais são contraproducentes? As perguntas parecem muito mais numerosas que as respostas e, para responder a essas perguntas fundamentais, é necessário um debate amplo, estruturado, e altamente participativo.
Nesta perspectiva, causou extrema surpresa a muitos observadores a aprovação pela Câmara dos Deputados do <a href="https://www.camara.leg.br/propostas-legislativas/2236340">Projeto de Lei 21/2020</a>, que cria o Marco Regulatório da Inteligência Artificial, a menos de um semestre da divulgação da Estratégia Brasileira sobre IA.
Diferentemente de outros países e blocos que, reconhecendo a importância e pertinência porém também a complexidade do tema, promovem estudos e debates de maior alçada e fôlego – não raro envolvendo os diversos atores da sociedade em busca de maiores definições e clareza sobre o âmbito, características e mesmo sobre a própria necessidade de que se regule a IA – o Brasil parece ter preferido tomar diretamente o caminho legislativo, com um debate público extremamente limitado, o que, no caso, pode prejudicar a qualidade da regulação.
Existe um certo consenso sobre a pertinência de regular a IA, já que é reconhecido que alguns tipos apresentam riscos particularmente intensos não somente ao nível social, como a manipulação de nossas democracias, economias e segurança nacional, mas também ao nível individual, no qual a proteção de dados dos indivíduos claramente pode ser comprometida bem como diversos outros direitos fundamentais.
Neste sentido, a União Europeia está propondo uma regulamentação baseada na responsabilidade objetiva e na avaliação de risco de tipologias especificas de IA. Os esforços europeus parecem mirar, inclusive, em outro direção, ao vislumbrar o caráter global do tema, considerando a intenção do Conselho da Europa de começar a discussão de um tratado internacional sobre <a href="https://www.coe.int/en/web/artificial-intelligence/work-in-progress">regulação de IA e Direitos Humanos</a>.
<h3>Fazer o melhor uso do que já existe</h3>
Precisamos, porém, considerar que, para abordar a IA, podemos identificar como valiosos aliados as leis de proteção de dados que muitos países da América Latina já adotaram. Princípios, direitos e obrigações estabelecidos por tais leis precisam e já podem ser aplicados quando consideramos a utilização de IA.
Os princípios de transparência, de finalidade, de adequação e de necessidade do tratamento, de prevenção, da qualidade dos dados, estão presentes na imensa maioria das leis de proteção de dados na região. Estas leis já garantem direitos aos titulares de dados utilizados por aplicações de IA. Algumas, como a <a href="http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm">LGPD</a>, garantem não somente o direito ao acesso às informações sobre o tratamento de dados (art. 9 da LGPD), mas também o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado, além da informação sobre os critérios e parâmetros utilizados por sistemas de IA (art. 20 da LGPD, em forma semelhante em muitos pontos ao art. 22 do GDPR, e potencialmente até mais contundente da norma europeia).
Assim, vemos que, juntamente com o debate sobre como regular a IA, precisamos entender como implementar de maneira eficiente e efetiva os marcos regulatórios que já temos – o que nada mais é do que explorar ao máximo as potencialidades de normativas já em vigor em face das demandas atuais e crescentes relacionadas ao incremento do uso de sistemas de IA.
O ambiente latino-americano apresenta, no entanto, uma ulterior complicação. Não somente as estratégias de IA na América Latina são muito diferentes entre si, como existe também uma ampla heterogeneidade, e até divergências, nas prioridades e no nível de entendimento dos desafios da IA pelos diversos países e pelos diferentes setores que operam nos vários países.
Uma abordagem multissetorial, portanto, pode ser muito eficaz neste cenário para estimular um melhor entendimento e engajamento, além de poder se aproveitar da experiência acumulada no desenvolvimento da governança da Internet. O Brasil foi pioneiro de uma <a href="https://cyberbrics.info/exploring-multistakeholder-internet-governance-towards-the-identification-of-a-model-advisory-body-on-internet-policy/">abordagem multissetorial de governança da internet, cujo modelo aberto e participativo</a> é bem representado pelo Comitê Gestor da Internet (CGI.br) e considerado uma fonte de inspiração internacional (por exemplo, a França construiu o seu Conseil National du Numérique tomando ampla inspiração do CGI.br)
Vários <a href="https://cpdp.lat/relatorio-conferencia-latino-americana-de-inteligencia-artificial-e-protecao-de-dados/">palestrantes da Conferência Latino-Americana sobre Inteligência Artificial e Proteção de Dados destacaram</a> o interesse de levar em conta, com muita atenção, a evolução da governança da internet para destilar algumas lições que podem ser extremamente preciosas para moldar a governança de IA que queremos.
Um objetivo essencial de um tal sistema deveria ser nos permitir superar as enormes desigualdades não somente nas abordagens, mas também nas capacidades de pesquisa e desenvolvimento, não somente entre países da região mas, sobretudo, nos países nos quais convivem exemplos de aplicações de ponta de IA com um total descompromisso sobre como a IA está sendo implementada e os seus efeitos.
O debate acadêmico e regulatório sobre como regular a IA ainda estão muito longe de proporcionar posições definitivas, bem estruturadas e sedimentadas, principalmente por causa da enorme heterogeneidade do fenômeno que queremos regular.
Solucionar esse problema nos impõe a promoção de mais debates e esforços multissetoriais para informar os processos decisórios. Esse esforço participativo necessita tempo, e complica as coisas, justamente porque não temos muito tempo se queremos elaborar um sistema de regulação e governança que consiga moldar de maneira eficiente a evolução da IA na América Latina.
<h3>Rumo a um sistema de governança de IA sustentável</h3>
Precisamos definir o quanto antes um sistema de governança que seja eficiente e sustentável. Que seja capaz de estimular a inovação, de criar a maior proteção possível pelos indivíduos, mas também pela sociedade, de maneira coletiva e inclusiva, clara, previsível e capaz de se adaptar à evolução tecnológica e capaz também de evitar uma eventual falta de confiança na IA.
Esse desafio é enorme, considerando que o mercado desenvolve soluções de IA muito rapidamente, não somente para os demais processos legislativos, dada a dificuldade da sociedade – e do legislador – conseguirem uma compreensão básica de um assunto extremamente complexo e crucial como a IA.
Enfim, existe um último desafio crucial para que qualquer sistema regulatório seja verdadeiramente sustentável: como implementar a regulação que queremos? E como levar a regulação até o desenvolvedor, para que seja eficaz, em um ecossistema que, em boa parte, inclusive extrapola as fronteiras nacionais?
A experiência da proteção de dados em geral nos ensina que criar uma lei e uma autoridade reguladora é um esforço enorme, mas na verdade, <a href="https://www.jota.info/opiniao-e-analise/artigos/o-que-falta-ao-brasil-e-a-america-latina-para-uma-protecao-de-dados-efetiva-02092021">é somente a primeira etapa</a>.
A proteção de dados é um ótimo estudo de caso para estabelecer os riscos com a regulação da IA. Mesmo quando conseguimos alcançar um consenso em uma lei e uma autoridade, como aconteceu, depois de décadas de evolução desde os anos 1970, muito mais trabalho é necessário para criar uma cultura de proteção de dados, no âmbito da qual os indivíduos, as empresas, os poderes públicos e a sociedade como um todo são conscientes dos desafios da proteção de dados e cooperam para enfrentá-los.
A regulação da inteligência artificial é com certeza uma tarefa ainda mais complexa e que deve ser desenvolvida em efetiva sinergia com a regulação de dados pessoais.
Foi excelente ouvir ao logo da conferencia as muitas iniciativas e até protótipos de regulação que têm alto potencial para nos ajudar a enfrentar esses desafios. O trabalho será longo e pouco linear, porém, e muita pesquisa é ainda necessária para conseguir elaborar posições bem estruturadas e bem fundamentadas.
É neste sentido que a nova chamada de artigos da CPDP LatAm será dedicada à “<a href="https://cpdp.lat/pt-br/chamada-artigos/">Inteligência Artificial e Proteção de Dados na América Latina</a>” e incluirá bolsas para suportar pesquisadoras e pesquisadores da região. Mais do que nunca, necessário, e devemos manter uma postura otimista, ainda que temperada com muito pragmatismo e baseada em resultados científicos sólidos.
<div id="sdr-inbound-form-artigos-impacto-nas-instituicoes-8c5227dd4ede3347a6c6" role="main"></div>
<script type="text/javascript" src="https://d335luupugsy2.cloudfront.net/js/rdstation-forms/stable/rdstation-forms.min.js"></script> 
<script type="text/javascript"> new RDStationForms('sdr-inbound-form-artigos-impacto-nas-instituicoes-8c5227dd4ede3347a6c6', 'UA-53687336-1').createForm();</script>

inteligência artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Diferentemente de outros países, Brasil preferiu o caminho legislativo com um debate público extremamente limitado 

O que a regulação da inteligência artificial pode aprender da proteção de dados?

Diferentemente de outros países, Brasil preferiu caminho legislativo com debate público limitado para regular inteligência artificial