Opinião e Análise

Ana Frazão

Tem sido muito divulgada pela imprensa a estatística compartilhada por Anand Mahindra, segundo a qual apenas 38,5% do atual tráfego online vem de humanos. O restante é gerado de forma inautêntica por entidades não humanas, como bots, rastreadores, scrapers, mineradores de cripto, ferramentas de hacking, dentre outros<a href="#_ftn1" name="_ftnref1">[1]</a>.
O assunto é tão pungente – ainda mais quando se considera que, em breve, o já expressivo percentual de conteúdo inautêutico pode tornar-se ainda muito maior – que já foi objeto de um dos episódios do podcast Direito Digital, cujo título é Teoria da Internet Morta e Circulação de Conteúdos Gerados por IA.<a href="#_ftn2" name="_ftnref2">[2]</a>
<a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a>
Mais recentemente, fomos surpreendidos com a notícia da existência de uma rede social – a Moltbook – em que somente sistemas de inteligência artificial gerariam conteúdos, cabendo aos seres humanos apenas observar o que lá se passava<a href="#_ftn3" name="_ftnref3">[3]</a>. Por mais que o MIT tenha descoberto que a proposta era uma fraude – já que brechas permitiam publicações feitas por seres humanos e as interações eram orquestradas por pessoas<a href="#_ftn4" name="_ftnref4">[4]</a> – o episódio revela o quão próximo é o cenário de ambientes comunicacionais dominados exclusivamente por inteligência artificial, assim como os riscos de indevidas interferências humanas, nem sempre de fácil identificação.
Tais fatos chamam a atenção para a importância da linguagem e para os riscos de que esta seja transferida para sistemas de inteligência artificial, o que representa uma forma de poder até então nunca vista, pois interfere naquilo que é constitutivo do próprio ser humano e das sociedades.
Este tema foi trazido no último Fórum Econômico Mundial por Yuval Harari, em interessante palestra sobre o controle cada vez maior da linguagem por sistemas de inteligência artificial<a href="#_ftn5" name="_ftnref5">[5]</a>, a partir de algumas das premissas fundamentais para o debate:
<ul>
<li>A inteligência artificial não é uma mera ferramenta ou instrumento, mas sim agente, com capacidade decisória. Logo, ao contrário de uma faca, que pode cortar uma salada ou matar alguém a depender do uso que lhe seja dado um por ser humano, a inteligência artificial se diferencia das demais ferramentas por ser ela que decide, no referido exemplo, se vai cortar salada ou matar alguém.</li>
<li>A inteligência artificial é altamente criativa, podendo mentir e manipular<a href="#_ftn6" name="_ftnref6">[6]</a>.</li>
</ul>
Prosseguindo no raciocínio, Harari faz uma provocação sobre se a habilidade dos sistemas de inteligência artificial de formar frases e raciocínios, mesmo com base em probabilidades, já não seria uma prova de que elas também podem pensar e poderiam fazê-lo melhor do que nós, já que tal tipo de capacidade de comunicação não é tão diferente daquela existente nos seres humanos.
A partir daí, o autor nos instiga com perguntas desconcertantes: se aprendemos com a linguagem – sendo os livros exemplos nesse sentido - qual é a repercussão de aprendermos agora com conteúdos gerados por máquinas e não por outros seres humanos? Se grandes especialistas em assuntos como direito e religião aprendem essencialmente com livros, não pode a inteligência artificial ser a maior especialista nessas áreas?
Se os seres humanos conquistaram o mundo com a linguagem e usam as palavras para construir sistemas como direito, religião, política e finanças, o que acontecerá quando tais sistemas forem construídos predominantemente por sistemas de inteligência artificial?
A hipótese de Harari é que, por meio do progressivo domínio da linguagem, os sistemas de inteligência artificial poderão dominar também tudo aquilo que é construído por ela ou dela derivado. E aí não se está a falar apenas em direito, religião, política e finanças, mas na própria identidade do ser humano, que é também definida com base em palavras.
Até hoje, as palavras que usamos são originadas de outros homens. Porém, o cenário futuro é aquele em que até as palavras poderão ser geradas por inteligência artificial, o que pode levar a um verdadeiro choque de identidades. Mais do que isso, mesmo com a manutenção das palavras humanas, em pouco tempo tudo aquilo que é feito por palavras poderá ser assumido pela inteligência artificial.
Não é mera coincidência que hoje as pessoas buscam na inteligência artificial papéis e funções de seres humanos, tais como os de juízes, advogados, psicólogos, professores, autoridades eclesiásticas e mesmo de amigos ou amantes.
Vale ressaltar que a importante advertência de Harari encontra paralelos com inúmeras discussões da mais alta relevância, tais como as de que os dados, as estatísticas e a matemática em que se baseia a inteligência artificial, longe se serem neutros, refletem sempre escolhas valorativas, nem que seja a de manutenção do status quo<a href="#_ftn7" name="_ftnref7">[7]</a>.
Dessa maneira, quando se transfere a linguagem e a capacidade decisória para sistemas de inteligência artificial, transfere-se igualmente o conjunto de decisões valorativas – inclusive as políticas – inerentes a tais processos. Não é sem razão que, em debate, Kenneth Cukier e Carissa Véliz destacaram o quanto os resultados de máquina, longe de serem isentos de valores, estão moldados por escolhas humanas e estruturas morais, já que os números são sempre políticos e alguém sempre vai decidir o que conta<a href="#_ftn8" name="_ftnref8">[8]</a>.
Daí por que o tema também se conecta diretamente ao poder de grandes agentes econômicos que cada vez mais assumem o controle das narrativas e do discurso público por diversos mecanismos, seja pela propriedade de meios tradicionais de mídia ou de plataformas digitais, seja pelo próprio controle da linguagem. Não é mera coincidência que Elon Musk tenha adquirido o Twitter e tenha criado a Grokipedia não só para competir com a Wikipedia, como sobretudo para espalhar distorções históricas e teorias da conspiração do seu interesse<a href="#_ftn9" name="_ftnref9">[9]</a>.
É importante notar que é notável o alcance político das big techs nessa disputa por linguagem e conteúdos. Quando Donald Trump pretendeu substituir a denominação “Golfo do México” para “Golfo da América”, sua decisão foi acompanhada pela Google e Apple, que fizeram a referida renomeação nas suas redes, pelo menos para usuários norteamericanos<a href="#_ftn10" name="_ftnref10">[10]</a>.
Quando o ChatGPT é indagado sobre onde estão as pessoas mais inteligentes e criativas do mundo, a sua resposta aponta para países de alta renda, assim como a baguete francesa é por ele considerada a melhor do mundo, sem nenhum espaço para a indicação de outras regiões da África e do Oriente Médio com grande tradição em panificação<a href="#_ftn11" name="_ftnref11">[11]</a>.
Tais disparidades acontecem igualmente no cenário nacional, razão pela qual o ChatGPT considera que os brasileiros mais inteligentes estão no Distrito Federal e em São Paulo, reforçando preconceitos contra as regiões Norte e Nordeste<a href="#_ftn12" name="_ftnref12">[12]</a>. Na verdade, fica claro que a OpenAI favorece, em suas respostas, países e regiões mais ricos, além de homens e a população branca<a href="#_ftn13" name="_ftnref13">[13]</a>.
Tais questões já apontavam para os riscos do controle do discurso e das narrativas por parte de poucos agentes interessados em difundir a sua visão de mundo e os seus próprios valores. A partir do momento em que somamos a isso o próprio controle da linguagem, os riscos tornam-se ainda maiores.
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
Afinal, a inteligência artificial, assim como qualquer outra tecnologia, não é neutra e tem sido desenvolvida e estruturada por poucos agentes econômicos que tendem a priorizar seus próprios interesses. Dessa maneira, é ingênuo acreditar que a progressiva desumanização da linguagem e da comunicação levarão à maior neutralidade e objetividade.
Estamos diante de grandes agentes e de novas formas de poder econômico que pretendem – e vêm obtendo considerável êxito nesse propósito – não apenas controlar o discurso público, como a própria linguagem, com o que poderão dominar todas as demais esferas da experiência humana, tanto em âmbito coletivo – aí incluídos direito, economia, e política – como em âmbito individual.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> <a href="https://timesofindia.indiatimes.com/etimes/trending/anand-mahindra-shares-worrisome-data-humans-make-up-only-38-5-of-users-online-the-rest-is-ai/articleshow/118548511.cms">https://timesofindia.indiatimes.com/etimes/trending/anand-mahindra-shares-worrisome-data-humans-make-up-only-38-5-of-users-online-the-rest-is-ai/articleshow/118548511.cms</a>
<a href="#_ftnref2" name="_ftn2">[2]</a> Podcast Direito Digital. Apresentado por Ana Frazão e Caitlin Mulholland. Episódio 43. <a href="https://open.spotify.com/episode/0z4o9vg6AiVzeS0ebsAOvv?si=1ck_MQJCTcue3qNr9wkEqA&amp;nd=1&amp;dlsi=69874aad232f4f3c">EP#43: Teoria da Internet Morta e a circulação de conteúdos gerados por IA - Direito Digital | Podcast on Spotify</a>
<a href="#_ftnref3" name="_ftn3">[3]</a> cnnbrasil.com.br/tecnologia/estao-fazendo-maquinas-simularem-revolta-diz-especialista-sobre-moltbook/
<a href="#_ftnref4" name="_ftn4">[4]</a> <a href="https://forbes.com.br/forbes-tech/2026/02/mit-desmascara-moltbook-posts-feitos-por-humanos/">https://forbes.com.br/forbes-tech/2026/02/mit-desmascara-moltbook-posts-feitos-por-humanos/</a>; <a href="https://www.tecmundo.com.br/redes-sociais/410654-moltbook-a-farsa-da-rede-social-para-ias-que-enganou-a-internet.htm">https://www.tecmundo.com.br/redes-sociais/410654-moltbook-a-farsa-da-rede-social-para-ias-que-enganou-a-internet.htm</a>
<a href="#_ftnref5" name="_ftn5">[5]</a> <a href="https://www.youtube.com/watch?v=QiT2yK-5-yg">https://www.youtube.com/watch?v=QiT2yK-5-yg</a>
<a href="#_ftnref6" name="_ftn6">[6]</a> Já tive oportunidade de tratar desse tema em coluna específica: “O lado enganoso da inteligência artificial. Recentes estudos trazem evidências de fraudes, ameaças, chantagens e manipulações.” FRAZÃO, Ana. Jota. <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-lado-enganoso-da-inteligencia-artificial">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-lado-enganoso-da-inteligencia-artificial</a>
<a href="#_ftnref7" name="_ftn7">[7]</a> Esse aspecto foi abordado na minha série do Jota sobre Discriminação Algorítmica, especialmente na coluna “Discriminação algorítmica: ciência dos dados como ação política. Necessário reconhecimento de que sistemas algorítmicos que impactam na vida das pessoas envolvem escolhas sociais e políticas. FRAZÃO, Ana. Jota. <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-ciencia-dos-dados-como-acao-politica">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-ciencia-dos-dados-como-acao-politica</a>
<a href="#_ftnref8" name="_ftn8">[8]</a> <a href="https://www.youtube.com/watch?v=2bD1YKniZcE">https://www.youtube.com/watch?v=2bD1YKniZcE</a>
<a href="#_ftnref9" name="_ftn9">[9]</a> <a href="https://epocanegocios.globo.com/inteligencia-artificial/noticia/2025/11/grokipedia-enciclopedia-criada-por-ia-de-elon-musk-e-acusada-de-copiar-wikipedia-e-distorcer-fatos-historicos.ghtml">https://epocanegocios.globo.com/inteligencia-artificial/noticia/2025/11/grokipedia-enciclopedia-criada-por-ia-de-elon-musk-e-acusada-de-copiar-wikipedia-e-distorcer-fatos-historicos.ghtml</a>
<a href="#_ftnref10" name="_ftn10">[10]</a> <a href="https://g1.globo.com/tecnologia/noticia/2025/02/12/apos-google-apple-renomeia-golfo-do-mexico-como-golfo-da-america-em-app-de-mapas-nos-eua.ghtml">https://g1.globo.com/tecnologia/noticia/2025/02/12/apos-google-apple-renomeia-golfo-do-mexico-como-golfo-da-america-em-app-de-mapas-nos-eua.ghtml</a>
<a href="#_ftnref11" name="_ftn11">[11]</a> <a href="https://www.instagram.com/reel/DUJTz3_Ds5i/">https://www.instagram.com/reel/DUJTz3_Ds5i/</a>
<a href="#_ftnref12" name="_ftn12">[12]</a> <a href="https://www1.folha.uol.com.br/mercado/2026/02/chatgpt-reproduz-preconceitos-regionais-e-classifica-nordestinos-como-ignorantes.shtml">https://www1.folha.uol.com.br/mercado/2026/02/chatgpt-reproduz-preconceitos-regionais-e-classifica-nordestinos-como-ignorantes.shtml</a>
<a href="#_ftnref13" name="_ftn13">[13]</a> <a href="https://www.tecmundo.com.br/software/410472-chatgpt-reforca-preconceitos-contra-as-regioes-norte-e-nordeste-diz-estudo.htm">https://www.tecmundo.com.br/software/410472-chatgpt-reforca-preconceitos-contra-as-regioes-norte-e-nordeste-diz-estudo.htm</a>

inteligência-artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

O crescente papel da IA na produção de linguagem e a quem serve tal atuação

Nova fronteira do poder econômico: o controle da linguagem

O crescente papel da IA na produção de linguagem e a quem serve tal atuação