Opinião e Análise

Ana Frazão

Na semana passada, a Anthropic surpreendeu o mundo com um manifesto conclamando os agentes de <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> a darem uma pausa no desenvolvimento da tecnologia, sob a advertência de que estamos perdendo o controle do seu avanço<a href="#_ftn1" name="_ftnref1">[1]</a>.
O fundamento principal da declaração é que os rápidos progressos na tecnologia estão permitindo que os sistemas de IA evoluam e se desenvolvam mais rápido do que o gerenciamento dos riscos respectivos por parte da sociedade.
<a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a>
Por mais que a empresa possa ter outros objetivos que não apenas a defesa da sociedade e da democracia, fato é que o manifesto coloca luzes sobre um problema fundamental dos nossos tempos: o que fazer com os avanços da inteligência artificial e em que medida devemos ou não regulá-la ou esperar soluções coordenadas por parte do mercado, como a proposta pela Anthropic.
Tal discussão é premente no Brasil diante das notícias de que o Marco da Inteligência Artificial será votado até o fim de junho<a href="#_ftn2" name="_ftnref2">[2]</a> e em face do lobby e das inúmeras iniciativas que as big techs vêm adotando para disseminar narrativas intransigentes contrárias à regulação da inteligência artificial<a href="#_ftn3" name="_ftnref3">[3]</a>.
Por essa razão, gostaria de analisar a iniciativa da Anthropic com base nas obras Digital Empires, de Anu Bradford<a href="#_ftn4" name="_ftnref4">[4]</a>, e Power and Progress, de Acemoglu e Johhson<a href="#_ftn5" name="_ftnref5">[5]</a>.
Na primeira obra, a autora sustenta que a ordem global é disputada no plano tecnológico, normativo, geopolítico, jurídico e civilizacional por três “impérios digitais”: Estados Unidos, China e União Europeia, cada qual com uma visão muito distinta. Afinal, o modelo norte-americano é orientado pelo mercado; o chinês, pelo Estado; o europeu, pelos direitos.
Portanto, a grande questão é saber se a economia e a sociedade digitais devem ser organizadas pelo mercado, pelo controle de um estado forte ou por um controle orientado pela proteção de direitos fundamentais.
Para Bradford, o fato de empresas americanas como Google, Meta, Amazon, Apple e Microsoft terem se tornado atores centrais da vida econômica, política e social não decorre apenas da sua inovação e mérito, mas também de escolhas regulatórias, como as relacionadas a um antitruste fraco, isenções de responsabilidade, ausência de regulação efetiva sobre privacidade e proteção de dados.
No caso norte-americano, as mesmas explicações podem ser aplicadas aos novos agentes de inteligência artificial generativa, como a OpenAI e a Anthropic. A grande questão é que o modelo de mercado gera não apenas inovação, mas também dominação privada. Com efeito, uma das ideias-chave do livro é que as empresas de tecnologia são agentes de poder, inclusive no sentido de que negociam, resistem e moldam a aplicação das normas.
Ponto importante da análise de Bradford é afastar o argumento de que a regulação inibe necessariamente a inovação. Nesse sentido, ela dedica uma parte do estudo para a análise do caso europeu, a fim de mostrar que a Europa não produziu gigantes tecnológicos por outras razões que não a existência de regulação, dentre as quais menor disponibilidade de capital de risco, políticas industriais fracas e ecossistemas de inovação menos integrados.
Todos esses argumentos são trazidos para mostrar que a batalha digital contemporânea esta relacionada aos pontos mais sensíveis da nossa vida e à própria sobrevivência da democracia liberal. Daí a necessidade de se pensar em alternativas a tais modelos.
A própria autora rejeita leituras binárias, evitando a ideia de que temos que escolher entre esses modelos com rigidez. Mas é assertiva ao concluir que o modelo norte-americano perdeu força e demonstrou sua vulnerabilidade porque a promessa do controle pelo mercado foi corroída pela concentração privada e pelos danos sociais das plataformas.
Nesse sentido, fica a advertência de que algo precisa ser feito em relação à regulação da inteligência artificial, cujo desenvolvimento e utilização não podem ficar apenas sujeitos ao ritmo e às decisões do mercado.
Trata-se de conclusão muito próxima às de Acemoglu e Johnson no livro Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity, que, a partir do exame da evolução da tecnologia ao longo dos últimos mil anos, procura demonstrar que a tecnologia e a inovação não são necessariamente boas. Pelo contrário, vários exemplos históricos mostram que, em muitos casos, as novas tecnologias reforçaram desigualdades e concentraram ainda mais poder nas mãos dos mais favorecidos.
Assim, rompendo com perspectivas excessivamente otimistas ou que refletem um verdadeiro determinismo tecnológico, os autores colocam em xeque a ideia de que a mudança tecnológica é necessariamente um fator de progresso e prosperidade, encontrando-se sempre a favor do interesse público. Pelo contrário, realçam o fato de que a tecnologia é muitas vezes escolhida, moldada e utilizada pelos interesses e crenças dos poderosos.
Para os autores, muito do progresso e da prosperidade decorrentes dos avanços tecnológicos resultou mais das lutas sociais e da regulação jurídica em prol de uma distribuição mais igualitária dos seus benefícios do que propriamente da tecnologia em si. Daí a importância da regulação da tecnologia, incluindo a inteligência artificial, que, segundo os autores, precisa ser utilizada de forma compatível com o interesse público.
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
Diante dessas contribuições, a declaração da Anthropic torna-se ainda mais eloquente. Afinal, quando é o próprio mercado que identifica que algo precisa ser feito para conter o avanço incontrolável da tecnologia, temos um alerta que nos provoca a pensar no tema com a seriedade e a urgência que ele requer.
É indispensável, portanto, que tais reflexões pautem o Congresso na tramitação do Marco da Inteligência Artificial. Sob vários aspectos, o Manifesto da Anthropic converge com a preocupação da nova Encíclica Papal, objeto da coluna anterior<a href="#_ftn6" name="_ftnref6">[6]</a>, ao nos mostrar que as decisões que tomaremos sobre a tecnologia dizem respeito à escolha entre um progresso que serve às pessoas e aos povos ou um progresso que nos submete às lógicas de poder.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> <a href="https://www.reuters.com/business/anthropic-says-ai-labs-need-coordinated-plan-halt-development-if-risks-rise-2026-06-04/">https://www.reuters.com/business/anthropic-says-ai-labs-need-coordinated-plan-halt-development-if-risks-rise-2026-06-04/</a>
<a href="#_ftnref2" name="_ftn2">[2]</a> <a href="Https://www.camara.leg.br/noticias/1277316-motta-quer-votar-regulamentacao-da-inteligencia-artificial-ate-o-final-de-junho/">Https://www.camara.leg.br/noticias/1277316-motta-quer-votar-regulamentacao-da-inteligencia-artificial-ate-o-final-de-junho/</a>
<a href="#_ftnref3" name="_ftn3">[3]</a> Para maiores informações, acesse o episódio #48 do Podcast Direito Digital “Narrativas Intransigentes na Regulação de IA”, apresentado por Ana Frazão e Caitlin Mulholland. <a href="https://open.spotify.com/episode/42yvLChIJ22qQQ3VgNLogO">https://open.spotify.com/episode/42yvLChIJ22qQQ3VgNLogO</a>
<a href="#_ftnref4" name="_ftn4">[4]</a> BRADFORD, Anu. Digital Empires. The Global Battle to Regulate Technology. New York: Oxford University Press, 2023.
<a href="#_ftnref5" name="_ftn5">[5]</a> ACEMOGLU, Daron; JOHNSON, Simon. Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity. Public Affairs, 2023.
<a href="#_ftnref6" name="_ftn6">[6]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/licoes-de-economia-e-humanidade-com-o-papa">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/licoes-de-economia-e-humanidade-com-o-papa</a>

solen-feyissa-5Ib2B9MBJhQ-unsplash

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Uma leitura do Manifesto da Anthropic à luz dos ensinamentos de Bradford, Acemoglu e Johnson

Pausa na inteligência artificial

Uma leitura do Manifesto da Anthropic à luz dos ensinamentos de Bradford, Acemoglu e Johnson