Margareth Kang

João Sales

Disruptivas e, por vezes, controversas, as técnicas de Inteligência artificial (IA) têm sido anunciadas com cada vez mais regularidade. O Spotify, plataforma de streaming de música, segundo a patente que lhe foi concedida em janeiro de 2021, pretende através do reconhecimento de voz determinar o “estado emocional, sexo, idade e sotaque” do usuário, recomendando conteúdos com base nessas características.
A Amazon recentemente começou a testar câmeras equipadas com IA nos veículos para monitorar motoristas de entregas com o objetivo de melhorar a segurança. Essa tecnologia está em fase de testes, mas encontra resistência por parte dos motoristas pelo temor da vigilância e do caráter discriminatório presente nas ferramentas de reconhecimento facial. Já a Supertone, através da sua técnica nomeada Singing Voice Synthesis, recriou a voz de um cantor morto há 25 anos por meio de uma estratégia similar a utilizada em tecnologia Deepfake.<a href="#_ftn1" name="_ftnref1">[1]</a> Como podemos observar, para além da curiosa e futurística aplicação da IA, a utilização dessa tecnologia tem sido crescente no cotidiano da sociedade.
<a href="https://conteudo.jota.info/poder-contato"><img class="size-medium wp-image-292717 aligncenter" src="https://www.jota.info/wp-content/uploads/2021/01/jota-pro-poder.jpg" alt="" width="688" height="688" /></a>
&nbsp;
Afinal, o que é Inteligência Artificial?
A Inteligência Artificial é o ramo da ciência da computação que busca construir mecanismos e dispositivos que simulem a capacidade humana de pensar, tomar decisões e resolver problemas, ou seja, a capacidade de ser inteligente. A constante evolução da IA permitiu que a IA baseada em conhecimento evoluísse, chegando nos dias atuais a técnicas como Machine Learning, que permitem que os sistemas aprendam fatos novos e executem comandos a partir de dados obtidos, independentemente do algoritmo explícito que rege seu software, caracterizando um relativo grau de autonomia.
<blockquote class="jota-article__eye">Apesar do significativo avanço das técnicas de IA, estamos no âmbito da inteligência artificial fraca (weak AI), ou seja, um sistema baseado em processo computacional criado para realizar um objetivo específico.</blockquote>
Diferentemente dos filmes de ficção científica, ainda não há uma inteligência artificial “forte” (Strong AI) capaz de resolver qualquer tipo de problema e simular o cérebro humano. Alguns especialistas estimam que a IA “forte” será desenvolvida até 2060, outros afirmam ser sua criação uma impossibilidade<a href="#_ftn2" name="_ftnref2">[2]</a>.
O fato é que a utilização e o desenvolvimento da IA traz consigo indagações e pontos de atenção em razão do impacto que essa tecnologia pode trazer à sociedade. Assim, para além das discussões envolvendo o futuro do emprego e as mudanças das relações sociais, a utilização das ferramentas de IA trazem questionamentos quanto ao uso ético da IA em 3 principais pontos: 1) o risco da discriminação algorítmica, como no caso das câmeras da Amazon, 2) os Deep Fakes, como na ferramenta da Supertone, 3) a capacidade de antecipar, limitar e manipular as condutas humanas, como no exemplo do Spotify. Diante desse cenário, cabe discutir a estrutura regulatória em discussão necessária aos avanços da IA.
Regulação no Brasil
Em 2019, o Ministério da Ciência, Tecnologia, Inovações e Comunicações (MCTIC) abriu uma consulta pública, colhendo subsídios na construção de uma Estratégia Nacional de IA. Recolhidas as contribuições, aguardamos o relatório final do MCTIC. Concomitantemente, tramitam diversos Projetos de Lei no Congresso Nacional<a href="#_ftn3" name="_ftnref3">[3]</a>, ainda em fase inicial, que envolvem a regulação da Inteligência Artificial, seja através de uma Lei Geral ou do estabelecimento de princípios para seu uso.
Apesar das diferenças estruturais e de escopo das propostas, os PLs são convergentes em sua abordagem dos princípios, compondo-se da: transparência, segurança, proteção da privacidade e dados pessoais, respeito à ética, aos seres humanos e aos valores democráticos.
O primeiro deles, decorrente do princípio da transparência, é o direito de informações claras e adequadas sobre a Inteligência Artificial, intimamente relacionado ao Relatório de Impacto de IA. O documento tem por objetivo descrever o ciclo de vida do sistema de IA, bem como medidas de segurança e mitigação de riscos, equivalente ao Relatório de Impacto à Proteção de Dados previsto na LGPD. As empresas que desejarem ser proativas em sua adequação normativa devem iniciar a elaboração do mapeamento dos fluxos e medidas de mitigação de riscos de sua IA.
Outro importante e controverso ponto é a responsabilização. Os Projetos abordam a responsabilidade sem nuance específica: as empresas responderão por qualquer dano negativo causado à sociedade. A abordagem “tudo ou nada” pode ser ineficaz e contraproducente. Nesse compasso, sem prejuízo das legislações setoriais e a responsabilidade penal e administrativa, o instituto da responsabilidade civil é um ponto de necessária reflexão.
Lembremos: o Código Civil determina ser ato ilícito o dano causado a uma pessoa por uma ação ou omissão voluntária e, configurado o dano, surge o dever de indenizar.
<blockquote class="jota-article__eye">Existem várias possibilidades em que uma IA pode causar dano, por exemplo: mal funcionamento, falha de segurança e programação intencionalmente maliciosa.</blockquote>
Quando o dano causado pela IA decorrer diretamente de uma ação ou omissão humana, não precisamos ir além da teoria tradicional de responsabilidade civil, trata-se de responsabilidade civil indireta, análoga ao fato da coisa ou do animal, em que a IA fora utilizada como ferramenta, subsistindo a responsabilidade do agente sem maiores complexidades interpretativas.
No entanto, o desafio relacionado à responsabilidade civil e IA gira em torno da ruptura do nexo causal, ou seja, quando a ação da IA é relativamente autônoma e, portanto, causa danos sem imediata ingerência humana, cenário esse cada vez mais discutido no contexto do Machine e Deep Learning.
Se a responsabilidade pelo dano causado pela IA for subjetiva, ou seja, condicionada a uma negligência, imprudência ou imperícia, é possível que as empresas ou desenvolvedores não tenham motivação suficiente para investigarem com profundidade os processos do sistema de IA.
Afinal, caso comprovem a observância do dever geral de cuidado e a ruptura do nexo causal pela conduta do sistema autônomo, não é viável a imputação da responsabilidade subjetiva. Por outro lado, se a responsabilidade pelo dano for objetiva, independente de dolo, como pretendem os Projetos de Lei ora elaborados, a empresa seria responsabilizada em todos os casos de forma indiscriminada, excetuados apenas os casos de culpa exclusiva da vítima ou de força maior, podendo ocorrer um desincentivo à inovação.
Uma saída técnica como resultado dessa negação da parcela de autonomia dos sistemas de aprendizado de máquina é a utilização de outras inteligências capazes de desmistificar o aprendizado para um possível escrutínio de um humano ou de outra <a href="#_ftn4" name="_ftnref4">[4]</a>máquina, iniciativas hoje em desenvolvimento por pesquisadores da área.  Além disso, pode-se utilizar o Sandbox Regulatório como mecanismo preventivo na mitigação de riscos, permitindo que empresas testem projetos inovadores sujeitando-os a requisitos regulatórios específicos<a href="#_ftn5" name="_ftnref5">[5]</a>, como o Sandbox regulatório do Banco Central do Brasil, previsto para o primeiro semestre de 2021.
Observamos que Inteligência Artificial é uma realidade incontornável, estamos diante de tecnologias aplicadas no dia a dia cujo potencial criativo e disruptivo ainda não conhecemos plenamente. No entanto, para que o seu uso seja ético, responsável e centrado no ser humano, é necessário a criação de regras claras e adequadas.
No Brasil, ainda não há uma estratégia nacional de IA estabelecida, e as iniciativas regulatórias caminham a passos lentos, embora o Brasil faça parte dos países signatários dos princípios para desenvolvimento da IA da OCDE. Internacionalmente, diretrizes para o uso da IA nascem e são atualizadas com constância, tendo como uma das principais referências as regulamentações de Proteção de Dados Pessoais.
Para os próximos anos, podemos esperar, para além dos princípios, o estabelecimento de regramentos direcionados para empresas que fazem uso de sistemas de IA buscando como meta a mitigação de riscos. Além disso, a responsabilidade pelos danos causados no uso de IA será um tema com profunda repercussão jurídica.
Vemos, assim, que a existência da IA enseja um esforço regulatório através dos mecanismos já existentes, mas também uma reflexão quanto a uma possível reorganização dos modelos de regulação tipicamente adotados no sistema jurídico brasileiro, pois, como visto, os avanços tecnológicos trazem desafios de tempos não imaginados pelo legislador.
<hr />
O episódio 49 do podcast Sem Precedentes faz uma análise sobre o que o Supremo Tribunal Federal precisa dizer sobre a prisão de deputados. Ouça:
https://youtu.be/9Tv7gNDT4Rw
<hr />
&nbsp;
<a href="#_ftnref1" name="_ftn1">[1]</a> Disponível em: <a href="https://www.musicbusinessworldwide.com/spotifys-latest-invention-will-determine-your-emotional-state-from-your-speech-and-suggest-music-based-on-it/?utm_campaign=newsletter_-_0202202&amp;utm_medium=email&amp;utm_source=RD+Station;" target="_blank" rel="noopener noreferrer">https://www.musicbusinessworldwide.com/spotifys-latest-invention-will-determine-your-emotional-state-from-your-speech-and-suggest-music-based-on-it/?utm_campaign=newsletter_-_0202202&amp;utm_medium=email&amp;utm_source=RD+Station</a>; <a href="https://www.cnbc.com/2021/02/03/amazon-using-ai-equipped-cameras-in-delivery-vans.html" target="_blank" rel="noopener noreferrer">https://www.cnbc.com/2021/02/03/amazon-using-ai-equipped-cameras-in-delivery-vans.html</a>; <a href="http://supertone.ai/eng/synthesis/synthesis.php" target="_blank" rel="noopener noreferrer">http://supertone.ai/eng/synthesis/synthesis.php</a>; <a href="https://www.techtudo.com.br/noticias/2021/02/inteligencia-artificial-traz-cantor-de-volta-dos-mortos.ghtml" target="_blank" rel="noopener noreferrer">https://www.techtudo.com.br/noticias/2021/02/inteligencia-artificial-traz-cantor-de-volta-dos-mortos.ghtml</a>
<a href="#_ftnref2" name="_ftn2">[2]</a> 995 experts opinion: AGI singularity by 2060. Disponível em: https://research.aimultiple.com/artificial-general-intelligence-singularity-timing/
<a href="#_ftnref3" name="_ftn3">[3]</a> Na Câmara dos Deputados (PL 240/2020, PL 21/2020 e PL 4120/2020) e Senado Federal (PL 5691/2019 e PL  5051/2019).
<a href="#_ftnref4" name="_ftn4">[4]</a> Podemos citar outras iniciativas em andamento como o Marco Legal das Startups, e a LGPD, que possui disposições similares ao prever, em seu art. 55, XVIII, a competência da ANPD para elaboração de normas, orientações e procedimentos simplificados para que “iniciativas empresariais de caráter incremental ou disruptivo que se declarem startups ou empresas de inovação” possam estar em conformidade com a Lei.
<a href="#_ftnref5" name="_ftn5">[5]</a> As vantagens do sandbox aos agentes envolvidos:  às empresas por assegurar a adequação de suas tecnologias e diminuir o tempo de lançamento no mercado; aos legisladores e agências regulatórias que podem prever e acompanhar os desafios emergentes das inovações; e aos consumidores que podem adquirir produtos tecnológicos enquanto seus direitos são respeitados.

Inteligência Artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Principais aspectos para regulação da IA no Brasil

A Inteligência Artificial e os caminhos regulatórios

Os principais aspectos para regulação da Inteligência Artificial no Brasil