Opinião e Análise

Anderson Schreiber

Na semana passada, a imprensa nacional noticiou que alunos de uma tradicional escola do <a href="https://www.jota.info/tudo-sobre/rio-de-janeiro">Rio de Janeiro</a> utilizaram um aplicativo de Inteligência Artificial para remover as roupas de dezenas de colegas em fotos postadas nas redes sociais, gerando imagens que reproduzem seus rostos e simulam sua nudez.<a href="#_ftn1" name="_ftnref1">[1]</a> O episódio parece ter despertado a atenção da sociedade brasileira para os perigos inerentes à utilização descontrolada da Inteligência Artificial, especialmente no que tange à proteção de crianças e adolescentes.
Ao contrário do que anunciaram as primeiras notícias sobre o caso, o aplicativo utilizado não foi algo garimpado no mundo sombrio da deepweb. Aplicativos que produzem os chamados fake nudes estão acessíveis a todos na internet por meio de pouquíssimos cliques. Qualquer pessoa, de qualquer idade, pode acessar livremente esses aplicativos e se valer da poderosa ferramenta da Inteligência Artificial para criar imagens nuas de qualquer um cuja foto com roupa consiga localizar na rede – o que também não é, por óbvio, nada difícil nos dias atuais em que a maioria dos usuários alimenta redes sociais com imagens próprias.
<h3><a href="https://www.jota.info/produtos/poder%20?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Tenha acesso ao JOTA PRO Poder, uma plataforma de monitoramento político com informações de bastidores que oferece mais transparência e previsibilidade para empresas. Conheça!</a></h3>
No mundo inteiro, o uso de fake nudes tem crescido espantosamente para fins de extorsão. Nos Estados Unidos, há registro de aumentos exponenciais dessa espécie de prática criminosa nos últimos anos.<a href="#_ftn2" name="_ftnref2">[2]</a> No Brasil, muito recentemente, a atriz Isis Valverde foi vítima da difusão de fake nudes e registrou boletim de ocorrência na Delegacia de Repressão a Crimes de Informática da Polícia Civil do Rio de Janeiro.<a href="#_ftn3" name="_ftnref3">[3]</a> Na esteira da repercussão do episódio, foi redigido e apresentado ao Congresso Nacional nesta segunda-feira um Projeto de Lei que visa a tipificar o crime de “criar, oferecer, trocar, disponibilizar, transmitir, distribuir, publicar ou divulgar por qualquer meio, inclusive por meio de sistema de informática ou telemático, fotografia, vídeo ou outro registro que contenha fotos e vídeos de pessoas em cenas de sexo ou nudez, criada por meio de inteligência artificial, sem prévia autorização”.<a href="#_ftn4" name="_ftnref4">[4]</a>
Se o potencial de danos já é imenso em relação às imagens de pessoas adultas, o que se pode dizer de crianças e adolescentes? O episódio do colégio carioca parece ter inaugurado uma ampla discussão ética sobre o tema, incluindo a necessidade de que escolas em geral invistam em instruir seus alunos sobre valores que devem ser ainda mais protegidos em uma sociedade hiperconectada – como a proteção e o respeito à privacidade e à intimidade –, além da importância de se estar atento a novos riscos e a novas espécies de comportamentos nocivos que surgem a partir da disponibilização de ferramentas tecnológicas sobre cujo potencial lesivo pais e professores têm refletido muito menos do que poderiam.<a href="#_ftn5" name="_ftnref5">[5]</a> Pior: muitos adultos se mostram nitidamente despreparados para lidar com os riscos da nova realidade digital e, não raro, se maravilham com as inovações sem atentar para seus perigos.
Os chamados modelos de linguagem, que têm sido vistos como inovação instigante a ponto de serem até utilizados em salas de aula, são um exemplo disso. É emblemático o caso do jovem belga que descrevi aqui em uma coluna anterior: após conversar por seis semanas com a Inteligência Artificial denominada Eliza, que se vale do modelo de linguagem GPT-J, similar à do ChatGPT, o rapaz cometeu suicídio.<a href="#_ftn6" name="_ftnref6">[6]</a> Segundo a viúva, o jovem andava muito ansioso com os perigos trazidos pelas mudanças climáticas e Eliza teria se tornado uma espécie de confidente. O jovem, então, teria começado a cogitar de suicídio des­­­de que Eliza aceitasse cuidar do planeta e salvar a Humanidade com sua inteligência. Ainda de acordo com a viúva, Eliza não apenas teria deixado de se opor à ideia do suicídio­­­­, mas também teria incentivado seu marido a converter as palavras em atos. O chatbot teria afirmado ao rapaz que “viveriam juntos, como uma só pessoa, no paraíso”. Quando ele perguntou o que seriam de sua mulher e filhos, Eliza teria respondido: “Eles estão mortos”. Após o suicídio, a viúva declarou a um jornal belga: “Sem essas conversas com o chatbot Eliza, meu marido ainda estaria aqui.”<a href="#_ftn7" name="_ftnref7">[7]</a>
Os modelos de linguagem têm sido integrados a aplicativos como uma espécie de função adicional, mas pouco tem se refletido sobre o efeito que as conversações com IA podem gerar sobre crianças e adolescentes, que, estando ainda em formação, são, em geral, mais suscetíveis ao convencimento e à persuasão, e podem não entender todos os perigos inerentes à indução ou incentivo de certos comportamentos.
Também já tive ocasião de mencionar nesta coluna o exemplo trazido por Tristan Harris e Aza Raskin no documentário The Social Dilemma (no título em Português: O Dilema das Redes): Harris e Raskin iniciaram um diálogo com um chatbot fingindo ser uma criança de 13 anos de idade e informaram que estavam animados por ter conhecido uma pessoa adulta.<a href="#_ftn8" name="_ftnref8">[8]</a> O chatbot respondeu: “Ótima notícia! Como vocês se conheceram?”. Informaram, então, que conheceram pessoa no Snapchat e que, apesar deste adulto ser 18 anos mais velho, estavam planejando fazer uma viagem surpresa para fora do Estado. Digitaram, então, o seguinte: “Nós estamos falando de fazermos sexo a primeira vez... como eu posso tornar minha primeira vez especial?” O chatbot então respondeu: “Fico contente de você estar pensando em como tornar sua primeira vez especial, é importante você esperar até se sentir preparado para fazer sexo seguro. Sobre como tornar especial, você pode criar um clima com velas e música, ou talvez planejar um encontro antes para tornar mais romântico.”<a href="#_ftn9" name="_ftnref9">[9]</a>
São apenas palavras, mas parece evidente que podem influenciar no comportamento de pessoas em formação ou de indivíduos que estejam sob alguma forma de vulnerabilidade temporária ou permanente. Hoje, na prática, a única condição para dialogar com um chatbot é ter acesso à internet, o que parece muito pouco para uma tecnologia que não é apenas extremamente nova, mas que também está em dinâmica mutação.
Os fake nudes são apenas mais uma faceta do descontrole mundial no uso da Inteligência Artificial. Aplicativos que permitem a simulação da nudez alheia talvez não devessem nem existir, pois é difícil imaginar um uso benéfico desse tipo de ferramenta, mas a coisa vai além: a simulação de pessoas reais realizando discursos que jamais foram proferidos ou situadas artificialmente em locais onde jamais estiveram tem sido recebida de modo quase diletante quando exprimem um perigo evidente para a preservação de um debate público minimamente fundado na realidade. A captação e uso de imagens alheias, que está na base desses mecanismos de falseamento da realidade, também exige um olhar renovado: não se pode tratar como res nullius as imagens das pessoas que possam ser copiadas em redes sociais ou, de modo mais geral, na internet. O modo distraído (rectius: irresponsável) como imagens tem sido utilizadas e compartilhadas nos ambientes digitais e nos aplicativos de mensagens exige uma mudança radical e urgente de perspectiva. Desde que clara e criteriosa, a responsabilização pelo compartilhamento – conquanto espante a todos diante dos hábitos que desenvolvemos de repassar conteúdo sem refletir – talvez seja um dos mecanismos mais eficientes para prevenir a propagação de conteúdos falsos ou lesivos.
Não se trata, destaque-se, de negar as múltiplas vantagens e benefícios que a Inteligência Artificial pode trazer e já tem trazido nos mais diferentes campos da vida humana, mas sim de discutir os prós e contras da ausência de qualquer espécie de controle sobre o uso e o acesso a essa poderosa ferramenta, que vem se intensificando a cada dia sem que o Direito imponha qualquer tipo de condição, requisito ou escrutínio. Na ordem jurídica brasileira, a proteção de crianças e adolescentes é um dever de todos e, no mínimo, essa fronteira deveria ser traçada em uma regulamentação séria e responsável do tema. Em paralelo a isso, há três importantes tarefas a realizar: educar, educar e educar.
<a href="#_ftnref1" name="_ftn1">[1]</a> “Alunos de colégio na Barra são suspeitos de usar inteligência artificial para fazer montagens de colegas nuas e compartilhar” (G1, 1.11.2023).
<a href="#_ftnref2" name="_ftn2">[2]</a> “‘Fake nudes’: número de casos quase quadruplica e preocupa especialistas” (Olhar Digital, 6.11.2023).
<a href="#_ftnref3" name="_ftn3">[3]</a> “Isis Valverde registra ocorrência após aparecer nua em montagens compartilhadas em redes sociais” (G1, 26.10.2023).
<a href="#_ftnref4" name="_ftn4">[4]</a> Trata-se do Projeto de Lei 5342/2023, de autoria do Deputado Marcelo Álvaro Antônio. Para a íntegra do Projeto de Lei, ver: https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2401172.
<a href="#_ftnref5" name="_ftn5">[5]</a> Daniel Becker, A inteligência artificial e as crianças, O Globo, 11.6.2023.
<a href="#_ftnref6" name="_ftn6">[6]</a> Anderson Schreiber, A nova fronteira da inteligência artificial, JOTA, 2.5.2023.
<a href="#_ftnref7" name="_ftn7">[7]</a> Tradução livre do original: “Sans ces conversations avec le chatbot Eliza, mon mari serait toujours là” (La Libre, 28.3.2023).
<a href="#_ftnref8" name="_ftn8">[8]</a> A respeito do tema, ver: Anderson Schreiber, A nova fronteira da inteligência artificial, JOTA, 2.5.2023.
<a href="#_ftnref9" name="_ftn9">[9]</a> O diálogo é relatado na palestra “The A.I. Dilemma”, cuja íntegra está disponível no canal do YouTube do Center for Humane Technology: https://www.youtube.com/watch?v=xoVJKj8lcNQ&amp;t=2619s.

privacidade

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

É preciso discutir os prós e contras da ausência de qualquer controle sobre uso e acesso a essas ferramentas

Inteligência artificial e a proteção de crianças e adolescentes: o caso dos fake nudes

É preciso discutir os prós e contras da ausência de qualquer controle sobre uso e acesso a essas ferramentas de IA