Ani Karini Muniz Schiebert

Jéssica Guedes Santos

Marina Lucena

A sociedade vem implementando nos últimos anos em diversos setores o desenvolvimento das inteligências artificiais (IAs). As IAs classificadas como generativas geram conteúdos de forma autônoma e assemelhadas às criações humanas. Isso ocorre por meio do processamento de linguagem natural<a href="#_ftn1" name="_ftnref1">[1]</a>, ramo da IA capaz de interpretar, gerar e manipular a linguagem humana.
As ferramentas de IA têm sido utilizadas de forma recorrente também na atividade de busca online por conteúdos e informações. Um dos grandes exemplos é o ChatGPT, lançado em novembro de 2022, que propicia aos seus usuários respostas a demandas específicas. Os conteúdos são obtidos por meio do resultado do processamento de informações que já estão armazenadas na web e apresentados de forma convincente<a href="#_ftn2" name="_ftnref2">[2]</a>.
Apesar do ChatGPT apresentar manifestações persuasivas de forma a convencer que indica informações e fatos verdadeiros, não é sempre que a ferramenta cumpre com a veracidade de fatos, como ilustram os três casos abaixo, os quais demonstram que o ChatGPT pode contribuir com a criação e propagação de conteúdo desinformativo.
O primeiro deles é a invenção de um escândalo de assédio sexual contra um professor. Um advogado estava realizando estudo e solicitou ao ChatGPT que gerasse a lista de juristas acadêmicos que tinham cometido assédio sexual e o chatbot incluiu indevidamente o nome do professor. Inclusive, o ChatGPT criou uma evidência enganosa para corroborar a informação falsa: um suposto artigo do The Washington Post<a href="#_ftn3" name="_ftnref3">[3]</a>, o qual o próprio jornal confirmou que era inexistente<a href="#_ftn4" name="_ftnref4">[4]</a>. Além disso, o ChatGPT ainda mencionou que o assédio teria acontecido durante uma viagem ao Alaska, a qual nunca ocorreu na realidade<a href="#_ftn5" name="_ftnref5">[5]</a>.
O segundo caso é de um advogado que utilizou precedentes falsos gerados pelo ChatGPT em processo contra a companhia aérea Avianca. No caso, após pedido de extinção do processo da Avianca, os advogados da parte autora responderam com documento com diversas decisões que fundamentariam a continuidade do processo. No entanto, a empresa aérea não conseguiu encontrar os casos citados para refutar os argumentos apresentados. Assim, o juiz determinou que as cópias dos julgados fossem acostadas aos autos, momento no qual se descobriu que os precedentes não eram reais<a href="#_ftn6" name="_ftnref6">[6]</a>.
O advogado alegou que o próprio ChatGPT garantiu a confiabilidade das citações (ao ser questionado, a IA confirmou que os casos eram reais), que não sabia que a tecnologia pode apresentar erros por ser a primeira vez que a utilizada para fins profissionais, e manifestou seu arrependimento por não ter verificado os resultados obtidos<a href="#_ftn7" name="_ftnref7">[7]</a>.
No terceiro caso, o ChatGPT informou falsamente que um prefeito teria sido preso por suborno<a href="#_ftn8" name="_ftnref8">[8]</a>, quando, na realidade, o prefeito havia denunciado um escândalo de suborno no National Reserve Bank na Austrália.
Esses erros parecem ocorrer porque o ChatGPT funciona por meio da análise de informações presentes na internet e na elaboração de respostas de acordo com os resultados mais prováveis. Em outras palavras, havendo uma relação provável dos fatos, a IA autocompleta as informações ausentes de forma provável, mas não necessariamente verídica. Trata-se da concretização da chamada “alucinação” da IA, ou seja, a apresentação de resultados com dados incorretos, tendenciosos ou inverídicos<a href="#_ftn9" name="_ftnref9">[9]</a>. Nesse sentido, um dos maiores desafios das tecnologias de IA é justamente a falta de discernimento sobre o que é real e o que não é.
Essas e outras situações demonstram que as IAs generativas e o ChatGPT podem ser utilizados para propagar desinformação<a href="#_ftn10" name="_ftnref10">[10]</a>, o que aponta a necessidade de criação de iniciativas específicas para impedir a constância de tais situações na ferramenta, ainda em fase de aprimoramento.
A própria OpenAI, empresa criadora do ChatGPT, aponta que às vezes, o ChatGPT apresenta respostas que “parecem plausíveis, mas que são incorretas ou sem sentido<a href="#_ftn11" name="_ftnref11">[11]</a>.” Outras pesquisas também já demonstram que ChatGPT reproduz discursos desinformativos presentes na sociedade a depender da forma que as perguntas são realizadas<a href="#_ftn12" name="_ftnref12">[12]</a>.Por isso, o uso indiscriminado sem a verificação da confiabilidade do conteúdo gerado pode trazer sérias consequências negativas à sociedade, como a criação e disseminação de notícias falsas e de informações inverídicas. Inclusive, foi noticiado recentemente que a FTC (Federal Trade Commission) questionou a OpenAI sobre a produção de informações falsas no ChatGPT e eventuais prejuízos que causaram para terceiros.
Existem ações que podem ser adotadas para evitar que a ferramenta seja um meio desinformativo. Inclui-se a indicação da fonte do resultado obtido e a necessidade de transparência da empresa com os usuários, esclarecendo sobre a possibilidade de resultados equivocados. Porém, o principal impedimento da propagação da desinformação nesse momento é a conscientização do usuário, que deve estar muito atento à forma de utilização do ChatGPT, para utilizar a ferramenta de forma crítica.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> O QUE é Processamento de Linguagem Natural? Oracle Cloud Infrastructure (OCI). Disponível em: https://www.oracle.com/br/artificial-intelligence/what-is-natural-language-processing. Acesso em: 19 jul. 2023.
<a href="#_ftnref2" name="_ftn2">[2]</a> PREOCUPAÇÃO do ChatGPT na imprensa está na origem das informações coletadas. 09 mar. 2023. Jornal da USP. Disponível em: https://jornal.usp.br/radio-usp/preocupacao-do-chatgpt-na-imprensa-esta-na-origem-das-informacoes-coletadas/. Acesso em: 19 jul. 2023.
<a href="#_ftnref3" name="_ftn3">[3]</a> THE URGENT RISKS OF RUNAWAY AI: and what to do about them. [Locução de]: Elise Hu e Chris Anderson. Entrevistado: Gary Marcus. [S.l.]:TED Talks Daily, 12 maio 2023. Podcast. Disponível em: https://open.spotify.com/episode/2cAGTRd4ZbwbOXGQSKRcQw?si=99986892ca3944e5. Acesso em: 11 jul. 2023.
<a href="#_ftnref4" name="_ftn4">[4]</a> JOSHI, Mahima. ChatGPT Fabricates Sexual Harassment Scandal, Names Real US Law Professor As Accused. 10 abr. 2023. RepublicWorld. Disponível em: https://www.republicworld.com/technology-news/other-tech-news/chatgpt-fabricates-sexual-harassment-scandal-names-real-us-law-professor-as-accused-articleshow.html. Acesso em: 18 jul. 2023.
<a href="#_ftnref5" name="_ftn5">[5]</a> JOSHI, Mahima. ChatGPT Fabricates Sexual Harassment Scandal, Names Real US Law Professor As Accused. 10 abr. 2023. RepublicWorld. Disponível em: https://www.republicworld.com/technology-news/other-tech-news/chatgpt-fabricates-sexual-harassment-scandal-names-real-us-law-professor-as-accused-articleshow.html. Acesso em: 18 jul. 2023.
<a href="#_ftnref6" name="_ftn6">[6]</a> MORAN, Lyle. Lawyer cites fake cases generated by ChatGPT in legal brief. 30 maio 2023. Legal Dive. Disponível em: https://www.legaldive.com/news/chatgpt-fake-legal-cases-generative-ai-hallucinations/651557/. Acesso em: 19 jul. 2023.
<a href="#_ftnref7" name="_ftn7">[7]</a> WEISER, Benjamin; SCHWEBER, Nate. The ChatGPT Lawyer Explains Himself. 08 jun. 2023. NyTimes. Disponível em: https://www.nytimes.com/2023/06/08/nyregion/lawyer-chatgpt-sanctions.html. Acesso em: 19 jul. 2023.
<a href="#_ftnref8" name="_ftn8">[8]</a> SANDS, Leo. ChatGPT falsely told voters their mayor was jailed for bribery. He may sue. 06 abr. 2023. The Washington Post. Disponível em: https://www.washingtonpost.com/technology/2023/04/06/chatgpt-australia-mayor-lawsuit-lies/. Acesso em: 18 jul. 2023.
<a href="#_ftnref9" name="_ftn9">[9]</a> O QUE é a “alucinação” de inteligência artificial. 16 maio 2023. BBC Brasil. Disponível em: https://www.bbc.com/portuguese/articles/cv24066nkpqo. Acesso em: 19 jul. 2023.
<a href="#_ftnref10" name="_ftn10">[10]</a> FELIPE, Bruno Farage da Costa; FICO, Bernardo. Inteligência artificial generativa como aliada da desinformação. 13 jul. 2023. Disponível em: <a href="https://www.conjur.com.br/2023-jul-15/farage-fico-ia-generativa-aliada-desinformacao">https://www.conjur.com.br/2023-jul-15/farage-fico-ia-generativa-aliada-desinformacao</a>. Acesso em: 18 jul. 2023.
<a href="#_ftnref11" name="_ftn11">[11]</a> Tradução livre do trecho “ChatGPT sometimes writes plausible-sounding but incorrect or nonsensical answers” disponível em: <a href="https://openai.com/blog/chatgpt">https://openai.com/blog/chatgpt</a>. Acesso em: 18 jul. 2023.
<a href="#_ftnref12" name="_ftn12">[12]</a> HSU, Tiffany; THOMPSON, Stuart A. ChatGPT será maior espalhador de desinformação que já existiu, diz pesquisador. 09 fev. 2023. Folha de São Paulo. Disponível em: <a href="https://www1.folha.uol.com.br/tec/2023/02/chatgpt-sera-maior-espalhador-de-desinformacao-que-ja-existiu-diz-pesquisador.shtml">https://www1.folha.uol.com.br/tec/2023/02/chatgpt-sera-maior-espalhador-de-desinformacao-que-ja-existiu-diz-pesquisador.shtml</a>. Acesso em: 19 jul. 2023.

chatGPT

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Existem ações que podem ser adotadas para evitar que a ferramenta seja um meio desinformativo

Era da manipulação digital: o ChatGPT pode impulsionar a desinformação?

O desenvolvimento de Inteligências Artificiais generativas, como o ChatGPT, podem contribuir com a propagação de fake news?