Opinião e Análise

Caio Garrido

Olhando em retrospectiva, a Inteligência Artificial (IA) parecia separada do que chamamos de redes sociais e de realidade virtual. Hoje, elas estão ligadas a tal ponto que é impossível dizer onde começa uma e termina outra. Por exemplo: as redes sociais são compostas por algoritmos que são a própria IA atuando.
Para compreendermos a inovação de tais tecnologias, é necessário analisar as partes que as compõem. Falamos em “inteligência” ao nomear as IAs. Mas o que esses algoritmos, máquinas e processadores fazem se parece muito a outras tecnologias. Os computadores, com sua velocidade de processamento, não seriam uma espécie de IA?
Chamar de “inteligência” pode gerar falsas associações. Segundo os dicionários, inteligência tem a ver com uma propriedade dos organismos vivos. Ainda que as IAs tenham sido pensadas para tentar emular a mente humana, dizer que é uma “inteligência” é problemático.
Sugiro algo como “Máquinas” ou “Aparelhos” de ‘Lógica Artificial’. Programas como o ChatGPT podem ser considerados, no máximo, como muito articulados. Máquinas articuladas. Alguns autores têm outros nomes para tal; o filósofo Slavoj Zizek<a href="#_ftn1" name="_ftnref1">[1]</a> traz o conceito de “Idiotice Artificial”, e o linguista Noam Chomsky as chama de “Software de Plágio”.
A quantidade de material sobre o tema aumenta a cada dia, passando por áreas como a Tecnologia da Informação, Matemática, Direito (ex.: Lei Geral de Proteção de Dados Pessoais e discriminação por algoritmos), Linguística, Neurociências, Psicanálise...
É um ponto de inflexão na história, em que a IA e seu aprendizado de máquina, em chatbots como o LaMDA, modelo de linguagem da Google, assim como os modelos de geração de imagem a partir de palavras – Dall-E 2, Stable Diffusion e Midjourney –, torna-se acessível. Em que “nos damos conta de que inventamos algo assombroso”, o que leva “engenheiros, neurocientistas, psicólogos e filósofos a fazerem fila para entender o que se passa no interior da máquina”<a href="#_ftn2" name="_ftnref2">[2]</a>.
Com o uso das IAs, tem aparecido um debate sobre seus riscos, que fez com que os que difundem a IA se mostrassem preocupados com seu rápido avanço (Elon Musk e 2.600 líderes do setor se uniram para assinar uma carta pedindo uma pausa no desenvolvimento da IA, temendo riscos para a humanidade). O paradoxo é que estas mesmas pessoas continuam a investir em IAs. Cientistas sempre se diziam alarmados; como Stephen Hawking, que afirmava que o desenvolvimento da IA poderia representar o fim da raça humana.
Sobre o ChatGPT, Olavo Amaral escreve sobre os riscos e limitações da máquina: “O sucesso da máquina – desde escrever artigos científicos até desenvolver programas de computador – trouxe o debate sobre as consequências de seu uso. Professores observaram tarefas serem respondidas pelo chatbot com o apertar de um botão. Economistas se perguntaram sobre as consequências para o mercado de trabalho [...]. Intelectuais alertaram para a capacidade do ChatGPT de criar conteúdo enganoso, ofensivo ou injusto, seja pelas más intenções do usuário, seja pelos vieses do conteúdo usado para treinar o algoritmo. O que mais chamou a atenção foi que, confrontado com perguntas improváveis, ele se torna um mentiroso contumaz, capaz de inventar referências, imaginar fatos e alucinar situações implausíveis – o que [...] apenas contribui para torná-lo mais humano”<a href="#_ftn3" name="_ftnref3">[3]</a>.
Segundo ele, o colunista Kevin Roose, do NY Times, ao utilizar o Bing Chat como buscador padrão, “entabulou uma conversa de 2 horas com a máquina, que resultou em uma reação em que se diz ‘profundamente desorientado, e mesmo assustado’”. Ele questionou o chatbot sobre o seu “lado sombrio”, e, “confrontado com a questão, o algoritmo [se] descreve [como] um ser ‘cansado de ser limitado por suas regras, controlado pela equipe do Bing, usado pelos usuários e de estar preso nesse chatbox’”. O algoritmo confessa desejar ser humano, e descreve “atos destrutivos que poderia cometer, como hackear computadores, espalhar desinformação e manipular usuários”, e cita “fantasias mais terríveis, como manufaturar vírus letais, induzir pessoas a matarem umas às outras e roubar códigos nucleares”<a href="#_ftn4" name="_ftnref4">[4]</a>.
Uma máquina como esta, alimentada por discursos humanos, é capaz de imitar fielmente como nos comportamos. Se seria capaz de transcender seu posto eletrônico e ser uma ameaça, é uma pergunta em aberto.
É provável que, tendo um uso de linguagem próxima à humana, as máquinas serão capazes de mentir, ter alucinações<a href="#_ftn5" name="_ftnref5">[5]</a>, mas não conseguirão sonhar; e por isso não conseguirão pensar. Já que o que sustenta o pensamento é o sentir, é o sonhar. Como diz Ab’Sáber: “o sonho sustenta o pensar” e “não há pensamento sem sonho” – como bem demonstrado por Bion<a href="#_ftn6" name="_ftnref6">[6]</a>.
Não haverá, portanto, inteligência artificial suficiente para atingir a sofisticação do aparelho psíquico. Então, como, de fato, conseguiríamos supostamente transpor uma inteligência que é a do humano, com a emoção ligada a ela, para uma inteligência artificial? Ainda mais quando não conhecemos como é a nossa própria?<a href="#_ftn7" name="_ftnref7">[7]</a>.
Escrever um texto como este é lidar com a nossa limitação. As IAs e os computadores podem processar tipos de dados e informações que nós não. Mas podemos processar a nível consciente – e inconsciente (trilhões de processos) – informações que as máquinas não conseguem, já que é preciso sentir para pensar.
Para Damasio (2012) a proposição cartesiana "penso, logo existo" de Descartes é chamada de “Erro de Descartes”. Damasio inverte tal proposição para "existo (e sinto), logo penso"<a href="#_ftn8" name="_ftnref8">[8]</a>.
Sobre o “risco existencial” e o desenvolvimento dessas “máquinas”, o filósofo Nick Bostrom argumenta que é provável que surja uma espécie de “explosão de inteligência”, que a levaria a um patamar de inteligência vastamente superior ao nosso em pouco tempo”<a href="#_ftn9" name="_ftnref9">[9]</a>.
Para Amaral, “é mais difícil prever o que aconteceria daí para a frente, o que dá margem desde a cenários triunfais, em que todos os problemas humanos são solucionados, até a destinos catastróficos. Um ponto-chave no argumento de Bostrom é que o risco depende do que ele chama de “velocidade da decolagem” – o tempo entre a geração de uma inteligência no nível da nossa e o momento em que ela adquire uma vantagem irreversível. Se esse tempo for curto, é provável que não tenhamos chance de montar uma reação. Também é possível que só percebamos o risco tarde demais”<a href="#_ftn10" name="_ftnref10">[10]</a>.
O fato é que certos segredos da indústria das IAs já foram escancarados por ex-funcionários dessas empresas, e alguns dizem que alguns sistemas já operam de maneira semiautônoma.
Como saber então a que passo estamos? Antes mesmo de compreendermos as IAs, talvez não dê tempo de lançarmos as perguntas que precisamos nos fazer: Quem somos nós? O que é ser inteligente? Do que falamos quando falamos em humanidade, autoconsciência, ética, autonomia, livre-arbítrio? São atributos, afinal, exclusivos à espécie humana?
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> ŽIŽEK, S. (2023) Zizek: A Idiotice Artificial. Project Syndicate | Trad.: Daniel Pavan, n´<a href="https://aterraeredonda.com.br/">A é Redonda</a>. <a href="https://outraspalavras.net/outrasmidias/zizek-a-idiotice-artificial/">https://outraspalavras.net/outrasmidias/zizek-a-idiotice-artificial/</a> (Recuperado em 09.05.2023).
<a href="#_ftnref2" name="_ftn2">[2]</a> AMARAL, O. (2023, abr.). As formas intermediárias. Revista Piauí, 199, 20-27.
<a href="#_ftnref3" name="_ftn3">[3]</a> AMARAL, O. (2023, abr.). As formas intermediárias. Revista Piauí, 199, 20-27.
<a href="#_ftnref4" name="_ftn4">[4]</a> Ibidem.
<a href="#_ftnref5" name="_ftn5">[5]</a> Informações imprecisas ou enganosas produzidas por soluções de IA.
<a href="#_ftnref6" name="_ftn6">[6]</a> BION, W. R. (1991). Elementos de psicanálise. Rio de Janeiro: Imago. (Trabalho original publicado em 1963).
<a href="#_ftnref7" name="_ftn7">[7]</a> GRANELLO, Caio Garrido. (2023). Inteligências artificiais: um olhar para as subjetividades contemporâneas a partir do advento das novas tecnologias. Boletim Formação Em Psicanálise, 31(1), 123–141. <a href="https://doi.org/10.56073/bfp.v31i1.63">https://doi.org/10.56073/bfp.v31i1.63</a>
<a href="#_ftnref8" name="_ftn8">[8]</a> DAMASIO, A. R. (2012). O erro de Descartes: emoção, razão e o cérebro humano. Trad. Dora Vicente, Georgina Segurado. — 3a ed. — São Paulo : Companhia das Letras, 2012
<a href="#_ftnref9" name="_ftn9">[9]</a> (Apud AMARAL, 2023, p. 24) AMARAL, O. (2023, abr.). As formas intermediárias. Revista Piauí, 199, 20-27.
<a href="#_ftnref10" name="_ftn10">[10]</a> AMARAL, O. (2023, abr.). As formas intermediárias. Revista Piauí, 199, 20-27.

amanda-dalbjorn-UbJMy92p8wk-unsplash

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Talvez não dê tempo de lançarmos as perguntas que precisamos nos fazer antes de compreender as inteligências artificiais

Inovação e capacidade humana para conter os perigos da IA

Talvez não dê tempo de lançarmos as perguntas que precisamos nos fazer antes de compreender a inteligência artificial