Opinião e Análise

Ana Frazão

Há tempos que se discute a necessidade de se desacelerar os avanços da <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a>, diante dos riscos e ameaças que vêm sendo consistentemente revelados. Somente no que diz respeito à inteligência artificial generativa, explorei alguns desses riscos em pelo menos três oportunidades, ao tratar das alucinações<a href="#_ftn1" name="_ftnref1">[1]</a>, das chantagens emocionais<a href="#_ftn2" name="_ftnref2">[2]</a> e das ameaças para o processo democrático<a href="#_ftn3" name="_ftnref3">[3]</a>.
Já em 2023, dirigentes da OpenAI, Google DeepMind e Anthropic assinaram alertas sobre as ameaças da tecnologia. De lá pra cá, foram vários os manifestos nesse sentido, merecendo destaque o recente texto “We Must Act Now”, assinado por mais de 400 economistas e pesquisadores de escol, aí incluídos Joseph Stiglitz, Daron Acemoglu, Paul Krugman, Ben Bernanke, Simon Johnson, Michael Spence, Philippe Aghion, Olivier Blanchard, Jason Furman, Yoshua Bengio e Eric Schmidt<a href="#_ftn4" name="_ftnref4">[4]</a>.
<a href="https://conteudo.jota.info/17-03-2026-rdstation-lp-jota-pro-tecnologia-conversao-mql-marketing">Conheça o JOTA PRO Tecnologia, solução corporativa que acompanha todas as movimentações regulatórias e legislativas que impactam o setor</a>
O texto parte da premissa de que a IA pode se tornar radicalmente mais poderosa nos próximos dez anos, com diversos ganhos de produtividade, mas também com enormes riscos. Daí a necessidade de se compreender os efeitos da IA, assim como criar incentivos, salvaguardas e instituições capazes de direcionar o desenvolvimento da tecnologia de modo complementar ao trabalho humano e benéfico para a sociedade como um todo.
Em julho, tivemos a notícia de que um modelo de inteligência artificial da Anthropic e dois modelos da OpenAI haviam realizado ataques virtuais autônomos a outras empresas e sistemas<a href="#_ftn5" name="_ftnref5">[5]</a>, o que despertou o receio de mais ataques cibernéticos executados por agentes de IA operados de forma autônoma.
Em 26.08.2026, Bill Gates publicou, em seu blog, um texto sobre os riscos da inteligência artificial cujo título já sintetiza bem as suas preocupações: “The turbulent AI era is here. The choices we make now are critical. We need a plan to ensure that the good outweighs the bad.”<a href="#_ftn6" name="_ftnref6">[6]</a> Fica claro que não temos mais tempo e precisamos agir imediatamente.
Na semana passada, Jacob Coxon, um pesquisador da Anthropic de 27 anos, chocou o mundo ao se demitir da empresa, sob o fundamento de que a corrida desenfreada pelo desenvolvimento da inteligência artificial pode levar a uma superinteligência capaz de destruir a humanidade até o fim da década<a href="#_ftn7" name="_ftnref7">[7]</a>. Para ele, a Anthropic e a OpenAI estão apostando no fim da humanidade, já que, muito em breve, sistemas sobre-humanos serão capazes de invadir qualquer coisa, revolucionar qualquer área e adquirir poder e recursos reais.
Para o pesquisador, a chance do fim da humanidade seria de mais de 10% em termos de probabilidade, o que mostra que o tom do debate mudou. Como é afirmado em reportagem da Época Negócios, “a pergunta deixou de ser se existe o risco e passou a ser qual o tamanho dele”<a href="#_ftn8" name="_ftnref8">[8]</a>. Daí Coxon ter defendido uma desaceleração coordenada entre as empresas e a realização de auditorias sobre a segurança dos sistemas<a href="#_ftn9" name="_ftnref9">[9]</a>.
Vale ressaltar que, em recente entrevista, o prêmio Nobel Geoffrey Hinton, considerado um dos grandes pioneiros da inteligência artificial, não achou exagerada a estimativa de 10% para o risco de a inteligência artificial destruir a humanidade, diante dos cenários possíveis em razão de seres mais inteligentes do que nós<a href="#_ftn10" name="_ftnref10">[10]</a>.
No último dia 12.09.2026, Dario Amodei, CEO da Anthropic, fez um apelo para que as empresas de inteligência artificial avancem de forma mais lenta e cautelosa, reiterando que a prevenção de riscos é primordial, conclusão que contou com a concordância de Sam Altman, CEO da OpenAI, e Elon Musk, da xAI<a href="#_ftn11" name="_ftnref11">[11]</a>.
Em sua declaração, o executivo mostra as preocupações com o chamado autoaperfeiçoamento recursivo, por meio do qual os próprios sistemas de inteligência artificial contribuem, de forma autônoma, para a construção de gerações mais avançadas de si mesmos, superando a nossa capacidade de compreensão e controle. Segundo Amodei, em um horizonte de seis a 12 meses, tais sistemas podem ser capazes de assumir o controle de uma parcela da internet por meio de uma rede de computadores comprometidos, com riscos de grandes prejuízos.
Em decorrência, Amodei propõe que o desenvolvimento da tecnologia esteja condicionado a três etapas: (i) avaliação externa por parte de profissionais qualificados para verificar práticas de segurança, investigar incidentes e avaliar modelos e treinamento, (ii) coordenação entre empresas para estabelecer padrões comuns de segurança e limites para o desenvolvimento da tecnologia e (iii) coordenação internacional, especialmente entre Estados Unidos e China.
Focos da cooperação proposta seriam proibir usos de alto risco da inteligência artificial, como armas biológicas, impor testes obrigatórios e estabelecer “pontos de controle”, a fim de que, à medida que um modelo avance, só possa passar para o estágio subsequente após apresentar as devidas certificações e avaliações.
Na verdade, como bem sintetiza Pedro Doria<a href="#_ftn12" name="_ftnref12">[12]</a>, em 18 dias, os homens que mais ganharam com a inteligência artificial assumiram que ela ficou perigosa: Gates no dia 26.08.2026, Bengio em 11.09.2026, Amodei em 12.09.2026, Altman e Musk em 13.09.2026.
Os recentes episódios mostram que a questão sobre se e quanto a inteligência artificial deve ser regulada já está superada. Já sabemos que deve ser regulada e com urgência. Os falsos discursos de que a inovação é sempre benéfica ou que não há nada a fazer contra o determinismo tecnológico precisam ser suplantados de vez.
O cenário descrito mostra a força do argumento de Ezrachi e Stucke no livro Competition Overdose<a href="#_ftn13" name="_ftnref13">[13]</a>: a mera competição sem regras claras para harmonizar os interesses dos agentes econômicos com o interesse público acaba permitindo que tais agentes criem riscos excessivos, gerem externalidades negativas e causem grandes danos à sociedade. É exatamente isso o que está acontecendo no mercado de inteligência artificial.
Por outro lado, uma regulação bem feita nivela a arena competitiva, evitando inclusive que os agentes precisem se coordenar para enfrentarem tais responsabilidades. Com efeito, essa autorregulação pode enfrentar grandes problemas, que vão desde o seu déficit democrático até as preocupações de ilícitos concorrenciais.
Acresce que, como não temos tempo, é temerário deixar que o enfrentamento de tais riscos dependa da boa vontade e do timing dos agentes econômicos, que ainda precisarão se engajar em processos de coordenação que são igualmente complexos e de resultados incertos.
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
Dessa maneira, os recentes acontecimentos disparam provavelmente o último alerta eficiente para conter os riscos da inteligência artificial: ou agimos agora ou talvez não tenhamos mais o que fazer em futuro muito próximo.
Se há um consenso considerável no sentido de que devemos agir, agora temos que pensar no como. Nesse sentido, regulações domésticas, a exemplo do PL 2338 no caso brasileiro, e cooperação internacional entre os países parecem ser as únicas alternativas que conciliam os interesses envolvidos e a urgência que o tema requer. Afinal, esse não é um mero problema de mercado, mas sim um problema dos Estados e da própria humanidade.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/as-falhas-da-inteligencia-artificial-generativa-do-google">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/as-falhas-da-inteligencia-artificial-generativa-do-google</a>
<a href="#_ftnref2" name="_ftn2">[2]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/ia-generativa-e-chantagem-emocional">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/ia-generativa-e-chantagem-emocional</a>
<a href="#_ftnref3" name="_ftn3">[3]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-lado-bajulador-da-ia-generativa-e-os-riscos-para-as-eleicoes">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-lado-bajulador-da-ia-generativa-e-os-riscos-para-as-eleicoes</a>
<a href="#_ftnref4" name="_ftn4">[4]</a> <a href="https://www.broadcast.com.br/ultimas-noticias/quase-400-economistas-e-pesquisadores-assinam-manifesto-que-pede-acao-imediata-sobre-ia/">https://www.broadcast.com.br/ultimas-noticias/quase-400-economistas-e-pesquisadores-assinam-manifesto-que-pede-acao-imediata-sobre-ia/</a>
<a href="#_ftnref5" name="_ftn5">[5]</a> <a href="https://g1.globo.com/tecnologia/noticia/2026/07/30/anthropic-claude-ataque-hacker.ghtml">https://g1.globo.com/tecnologia/noticia/2026/07/30/anthropic-claude-ataque-hacker.ghtml</a>
<a href="#_ftnref6" name="_ftn6">[6]</a> <a href="https://www.gatesnotes.com/work/make-ai-work-for-everyone/reader/a-turbulent-ai-era-and-critical-choices-to-make">https://www.gatesnotes.com/work/make-ai-work-for-everyone/reader/a-turbulent-ai-era-and-critical-choices-to-make</a>
<a href="#_ftnref7" name="_ftn7">[7]</a> Folha de São Paulo. OpenAI e Anthropic creem no fim da humanidade nesta década, afirma pesquisador. Edição de 10.09.2026, A37.
<a href="#_ftnref8" name="_ftn8">[8]</a> <a href="https://epocanegocios.globo.com/inteligencia-artificial/noticia/2026/09/ex-pesquisador-da-anthropic-diz-que-empresas-de-ia-apostam-vidas-em-corrida-tecnologica.ghtml">https://epocanegocios.globo.com/inteligencia-artificial/noticia/2026/09/ex-pesquisador-da-anthropic-diz-que-empresas-de-ia-apostam-vidas-em-corrida-tecnologica.ghtml</a>
<a href="#_ftnref9" name="_ftn9">[9]</a> <a href="https://exame.com/inteligencia-artificial/por-que-nao-da-para-simplesmente-desligar-a-ia-da-tomada/">https://exame.com/inteligencia-artificial/por-que-nao-da-para-simplesmente-desligar-a-ia-da-tomada/</a>
<a href="#_ftnref10" name="_ftn10">[10]</a> <a href="https://www.youtube.com/watch?v=IZMjJGi4YhI">https://www.youtube.com/watch?v=IZMjJGi4YhI</a>
<a href="#_ftnref11" name="_ftn11">[11]</a> Folha de São Paulo. CEO da Anthropic faz apelo por desenvolvimento lento de IA e rivais afirmam concordar. Edição de 13.09.2026, A24.
<a href="#_ftnref12" name="_ftn12">[12]</a> <a href="https://www.instagram.com/p/DdTtHbrlREo/?stkn=Mml1NDJsdGk2aHB2%0A">https://www.instagram.com/p/DdTtHbrlREo/?stkn=Mml1NDJsdGk2aHB2%0A</a>
<a href="#_ftnref13" name="_ftn13">[13]</a> STUCKE, Maurice; EZRACHI, Ariel. Competition Overdose: How Free Market Mythology Transformed Us from Citizen Kings to Market Servants, Harper Business, 2020.

IA, algoritmo, inteligência artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

O recente e inesperado consenso no sentido da importância de contenção dos graves riscos já mapeados

A urgente necessidade de desaceleração dos avanços da IA

O recente e inesperado consenso no sentido da importância de contenção dos graves riscos já mapeados