Opinião e Análise

Ana Frazão

Muito se tem falado sobre a proposta de Marco da Inteligência Artificial no Brasil, vista por muitos como uma iniciativa equivocada por diversas razões, dentre as quais a sua tramitação legislativa apressada, a ausência de discussão e participação popular e a abordagem excessivamente principiológica e pouco pragmática.
O meu objetivo com o presente artigo não é insistir nesses pontos, mas sim explorar argumento que vem sendo reiteradamente utilizado para justificar ou a inexistência de regulação ou uma regulação mais branda ou menos invasiva: o fato de ainda sabermos muito pouco sobre a inteligência artificial.
<a href="https://www.jota.info/produtos/poder?utm_source=Banner%20site&amp;utm_medium=Artigos&amp;utm_campaign=CTA_Poder_materias"><img class="size-medium wp-image-292717 aligncenter" src="https://www.jota.info/wp-content/uploads/2021/01/jota-pro-poder.jpg" alt="" width="688" height="688" /></a>
Tal ideia é explorada tanto pelas empresas como pelo próprio governo para “emplacar” narrativa que poderia ser resumida da seguinte maneira: diante de incertezas significativas, é melhor não intervir ou intervir pouco. Em muitos casos, essa posição é intensificada por meio da insistência no suposto tradeoff entre regulação e inovação, para o fim de salientar o risco de que uma regulação prematura ou indevida iniba a inovação.
Entretanto, a postura avessa à regulação padece de diversas inconsistências. Em primeiro lugar, muito da nossa ignorância em relação à inteligência artificial decorre da atitude deliberada das empresas que atuam no setor que, por meio de uma série de estratégias empresariais e de instrumentos legais, como o segredo de negócios, criaram uma arquitetura de extrema opacidade, em que sistemas algorítmicos funcionam como verdadeiras caixas pretas (black boxes).
Ora, a experiência da crise financeira de 2008/2009 já mostrou, a partir do exemplo de inescrutáveis contratos de instrumentos financeiros, que o excesso de complexidade e a ausência de transparência são estratégias muitas vezes utilizadas deliberadamente por agentes econômicos para se furtarem à regulação. Afinal, o regulador encontra dificuldades muitas vezes intransponíveis para regular aquilo que nem conhece nem tem condições de conhecer.
Dessa maneira, o primeiro ponto a ser considerado, no atual debate sobre a regulação da inteligência artificial, é o de verificar em que medida a nossa atual ignorância sobre o tema não seria, pelo menos em boa parte, resultado intencional dos agentes que atuam no setor exatamente para dificultar a regulação. Se assim for, isso já seria uma importante razão para justificar ao menos uma regulação que assegurasse níveis adequados de transparência e densificasse, de forma segura, muitos dos princípios que, embora já constantes da LGPD, ainda enfrentam desafios práticos para a sua aplicação.
Em segundo lugar, é importante também destacar que, apesar do inquestionável grau de ignorância ainda existente em relação à inteligência artificial, já há considerável mapeamento, por parte da literatura e de diversos estudos empíricos, de vários dos seus riscos.
Como procurei demonstrar na minha série sobre <a href="https://www.jota.info/tudo-sobre/discriminacao-algoritmica">discriminação algorítmica</a> , o problema dos julgamentos enviesados e preconceituosos há muito tempo deixou de ser um receio, havendo inúmeras evidências de que situações assim têm ocorrido reiteradamente, com consequentes e graves danos a pobres, mulheres, negros, crianças, adolescentes e outros grupos vulneráveis. Já na série sobre a falácia da soberania do consumidor , também busquei mostrar o grau de fragilidade em que se encontram os consumidores no mundo digital. Isso sem falar nas evidências específicas sobre os riscos de algumas tecnologias, como o reconhecimento facial, ou de algumas aplicações, como carros e armas autônomas.
Para o leitor que ainda não está muito acostumado com esses temas, sugiro uma reportagem jornalística didática da repórter Paula Adamo Idoeta, da BBC Por que os algoritmos das redes sociais estão cada vez mais perigosos, na visão de pioneiro da Inteligência Artificial .
A reportagem baseia-se na opinião de um dos maiores estudiosos de inteligência artificial do mundo, Stuart Russell, cuja obra eu já tive oportunidade de explorar na série sobre discriminação algorítmica . Para o autor, o modelo predominante de inteligência artificial é uma ameaça à sobrevivência dos seres humanos, na medida em que os sistemas são programados para cumprir seus objetivos a qualquer custo, tornando-se cegos e indiferentes à destruição que podem causar aos seres humanos.
Esse problema é sintetizado pela reportagem de maneira bastante elucidativa: “Para explicar isso à BBC News Brasil, Russell usa a metáfora de um gênio de lâmpada atendendo aos desejos de seu mestre: "você pede ao gênio que te torne a pessoa mais rica do mundo, e assim acontece - mas só porque o gênio fez o resto das pessoas desaparecerem", diz.
"(Na IA) construímos máquinas com o que chamo de modelos padrão: elas recebem objetivos que têm de conquistar ou otimizar, (ou seja), para os quais têm de encontrar a melhor solução possível. E aí levam a cabo essa ação." 
Mesmo que essa ação seja, na prática, prejudicial aos humanos, ele argumenta. 
"Se construirmos a Inteligência Artificial de modo a otimizar um objetivo fixo dado por nós, elas (máquinas) serão quase como psicopatas - perseguindo esse objetivo e sendo completamente alheias a todo o restante, até mesmo se pedirmos a elas que parem."
O ponto principal da reportagem, que tem como foco as redes sociais, é mostrar como a utilização da inteligência artificial planejada para um determinado objetivo -manter o usuário conectado à plataforma e mais engajado com os conteúdos que lhes são apresentados – pode se dar ao preço de estimular vícios, depressão, disfunção social, manipulação das pessoas, extremismos, polarização da sociedade e diversos outros danos. Daí as conclusões de Stuart Russell, destacadas pela reportagem:
“Precisamos de um tipo completamente diferente de sistemas de IA", opina ele à BBC News Brasil. Esse tipo de IA, prossegue, teria de "saber" que possui limitações, que não pode cumprir seus objetivos a qualquer custo e que, mesmo sendo uma máquina, pode estar errado. "Isso faria essa inteligência se comportar de um modo completamente diferente, mais cauteloso, (...) que vai pedir permissão antes de fazer algo quando não tiver certeza de se é o que queremos. E, no caso mais extremo, que queira ser desligada para não fazer algo que vá nos prejudicar. Essa é a minha principal mensagem."
Isso nos chama a atenção para outro aspecto significativo: o fato de que a tecnologia não é neutra nem necessariamente boa. Tudo depende de como ela é utilizada. O maior problema dos tempos atuais é que ela tem sido escolhida e colocada em uso sem qualquer tipo de accountability, por agentes econômicos que provavelmente têm priorizado seus interesses em detrimento dos interesses de consumidores, da sociedade e da própria democracia.
Não é sem razão que o projeto de regulamentação da inteligência artificial na Europa é bem mais incisivo, procurando classificar as diversas utilizações de inteligência artificial conforme o risco e chegando a prever o banimento de determinadas aplicações. Outra preocupação da proposta europeia é assegurar que os sistemas de inteligência artificial sejam desenhados, desenvolvidos e tenham uma gestão de qualidade efetivamente compatível com os riscos respectivos.
Vale ressaltar que, mesmo para as utilizações consideradas de alto risco, as exigências da proposta europeia, em sua maior parte, não destoam daquilo que já deveria estar sendo praticado por empresas responsáveis, ainda mais nos países em que já existe uma legislação como o GDPR ou a LGPD: usar bases de dados de qualidade, estabelecer procedimentos de documentação e registro, assegurar níveis apropriados de transparência e supervisão humana, bem como robustez, acurácia e cibersegurança.
Até diante da necessidade de tais previsões, é bastante questionável que uma regulação com esse perfil mais procedimental seja um óbice para a inovação. Na verdade, ao disciplinar as obrigações concretas a serem exigidas das empresas, a regulação pode ser até fator importante para o incentivo à inovação, na medida em que garante segurança jurídica.
Com efeito, há que se repensar o suposto tradeoff entre regulação e inovação, tendo em vista que a inexistência de regulação não só pode comprometer o avanço da inovação, como pode criar vantagens competitivas para os grandes agentes que já implementaram seus modelos de negócios ou que podem suportar os custos de mudanças regulatórias no curso de suas atividades.
Em outras palavras, a ausência de regulação, em situações assim, pode ser fator de facilitação do entrincheiramento de poderosos agentes econômicos, dificultando ou mesmo evitando uma dinâmica competitiva saudável, especialmente no que diz respeito à concorrência pelos mercados.
Afinal, para entrantes e pequenos negócios, a ausência de regulação ou a instabilidade regulatória podem ser cenários bastante perniciosos, pois nem todos conseguem empreender enquanto as regras do jogo não estão minimamente definidas. Por outro lado, é difícil estruturar novos modelos de negócios baseados no respeito aos direitos de titulares de dados e na utilização responsável da inteligência artificial se o mercado é dominado por grandes agentes que não adotam esses cuidados e, exatamente por isso, não estão sujeitos aos custos respectivos.
Dessa maneira, é preciso refletir sobre em que medida o argumento da ignorância pode e deve levar à retração regulatória. Já havendo evidências para justificar a regulação da inteligência artificial especialmente nos casos de altos riscos, a opção não deveria ser entre regular ou não regular ou entre regular mais ou menos. O fundamental é regular de forma adequada.
Ao contrário do pressuposto de que a regulação da inteligência artificial é necessariamente incompatível com a inovação, argumento que é mais ideológico e vinculado à defesa dos livres mercados do que propriamente lastreado em evidências empíricas consistentes, é importante considerar que uma regulação adequada pode inclusive fomentar a inovação, garantindo a segurança jurídica necessária disciplinar o mercado e para incentivar entradas e novos modelos de negócio.
De toda sorte, ainda que assim não fosse, a inovação só deve ser considerada positiva quando os seus benefícios são alcançados de forma proporcional aos riscos e danos que causam, quando há legitimidade e razoabilidade entre os meios e fins e quando são observadas medidas de prevenção à violação de direitos fundamentais e de reparação e mitigação de danos.
Assim, se a regulação é capaz de evitar ou conter inovações predatórias, exploratórias ou violadoras dos direitos fundamentais, bem como de inovações que assumam riscos desnecessários, inadequados, excessivos ou indesejáveis, que comprometem não apenas os indivíduos, mas também a própria sociedade e a democracia, esse é um preço que deve ser pago.
Por fim, ainda é preciso destacar que uma regulação adequada da inteligência artificial não é incompatível com as iniciativas e particularidades de cada agente econômico: o compliance pode e deve ser valorizado, desde que se atente às regras materiais e procedimentais mínimas da heterorregulação, cujo objetivo é precisamente o de assegurar a harmonização entre inovação e proteção de direitos fundamentais.
Todos esses raciocínios devem também se conjugar com o fato de que, mesmo diante das incertezas radicais, ou seja, daquilo que não é conhecido e não tem como ser mensurado ou previsto, não se pode aprioristicamente afastar a necessidade de regulação. É fundamental considerar a aplicação do princípio da precaução a tais casos, como será abordado no próximo artigo da série.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> FRAZÃO, Ana. Discriminação algorítmica. Jota. <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-16062021">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-16062021</a>
<a href="#_ftnref2" name="_ftn2">[2]</a> FRAZÃO, Ana. O mito da soberania do consumidor. Jota. <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-mito-da-soberania-do-consumidor-01122021">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-mito-da-soberania-do-consumidor-01122021</a>.
<a href="#_ftnref3" name="_ftn3">[3]</a> https://www.bbc.com/portuguese/geral-58810981.
<a href="#_ftnref4" name="_ftn4">[4]</a> FRAZÃO, Ana. Discriminação algorítmica. Jota. <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-16062021">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-16062021</a>

Marco da Inteligência Artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Já não foram mapeados riscos suficientes para justificar uma regulação adequada e com efeitos práticos?

Marco da Inteligência Artificial em análise

Já não foram mapeados riscos suficientes para justificar uma regulação adequada da Inteligência Artificial e com efeitos práticos?