Paulo Fernando Pinheiro Machado

<blockquote class="jota-article__quote">
“Em seu ensaio ‘A Paz Perpétua’, o filósofo Immanuel Kant argumentou que a paz perpétua viria finalmente ao mundo em uma de duas maneiras: ou por meio da razão humana ou por meio de conflitos e catástrofes de uma tal magnitude que não haveria outra escolha para a humanidade. Estamos nesta encruzilhada.”
<footer class="jota-article__quote-cite">Henry Kissinger</footer>
</blockquote>
Revoluções tecnológicas são uma constante na história da humanidade. O domínio de um elemento ou de uma técnica frequentemente torna-se um facilitador das tarefas humanas, alterando, por vezes radicalmente, o modo de vida das nações e as relações entre elas. Raras vezes, contudo, a inovação tecnológica é tão profunda a ponto de alterar a própria cognição humana, levando-a a reinterpretar a realidade mesma, sob novas lentes. O domínio do fogo é um exemplo dessas revoluções radicais: a sua descoberta abriu uma nova era, iniciando uma série de revoluções muito profundas nos hábitos, na alimentação e na relação dos hominídeos com o mundo. Estima-se que tenha sido um elemento crucial no seu processo evolutivo, permitindo-lhes mesmo passarem de quadrúpedes para bípedes <a href="#_ftn1" name="_ftnref1">[1]</a>. Não havia homo sapiens antes do domínio do fogo.
<a href="https://www.jota.info/produtos/poder?utm_source=Banner%20site&amp;utm_medium=Artigos&amp;utm_campaign=CTA_Poder_materias"><img class="size-medium wp-image-292717 aligncenter" src="https://www.jota.info/wp-content/uploads/2021/01/jota-pro-poder.jpg" alt="" width="688" height="688" /></a>
Estamos adentrando em uma dessas eras de revolução antropológica, na qual a Inteligência Artificial (IA) está redefinindo não apenas a forma como nos relacionamos com a realidade, mas o nosso próprio entendimento de o que seja, de fato, a realidade. Não se trata apenas de auxiliar a inteligência humana na execução de tarefas que seriam demasiado longas ou dispendiosas para serem realizadas analogicamente, mas sim de redefinir os contornos da realidade e a maneira de estruturar a abordagem intelectiva dela. A IA está a operar em uma relação dialética com a inteligência humana, cuja síntese representará uma nova forma de sermos humanos neste mundo.
E em poucas searas essa revolução é mais evidente do que no campo da estratégia, que engloba desde processos judiciais, passando por jogos e entretenimento até questões diplomático-militares relativas à paz e à segurança internacionais. Um dos elementos mais instigantes da IA é a sua capacidade de perceber e explorar elementos e relações da realidade que não podem ser percebidos pela inteligência humana. E isso em uma velocidade antes inimaginável. Esqueça tudo o que você gostaria de saber sobre estratégia, cara leitora, mas tinha medo de perguntar. Em se tratando da nova estratégia da inteligência artificial, alguns mistérios permanecerão para sempre inexplorados.
A ruptura ocorreu em 5 de dezembro de 2017 com o lançamento pela DeepMind, uma subsidiária do Google, do programa AlphaZero. Trata-se de um algoritmo de reinforcement learning, isto é, um método de cálculo que busca produzir soluções ótimas a partir da análise das correlações de variáveis possíveis em um campo com regras definidas, como o xadrez, por exemplo. O AlphaZero desenvolve-se “treinando” sozinho a partir de parâmetros pré-estabelecidos e da atualização constante de uma rede neural artificial. Basicamente, cara leitora, você apresenta para o AlphaZero as regras do jogo e ele lhe dá as estratégias mais avançadas para atingir os seus objetivos. O programa aprende o jogo de maneira autodidática, digamos.
E ele é um baita de um fast learner. Com apenas quatro horas de “treinamento” do zero, isto é, sem nenhum input humano além das regras do jogo, o AlphaZero já havia atingido um nível sobre-humano no xadrez, no shogi e no weiqi, derrotando, também, outros softwares. Mais importante do que os resultados concretos do AlphaZero, contudo, é a forma pela qual o algoritmo desenvolve as suas estratégias. O programa demonstrou-se capaz de explorar combinações e sequências de movimentos jamais imaginadas pela mente humana em milênios de prática dos jogos. O AlphaZero também se demonstrou bastante ousado, realizando movimentações consideradas tabus, como sacrificar friamente peças-chave para sobrepor-se ao oponente. Luz amarela.
O grandmaster dinamarquês, Peter Heine Nielsen – que é o coach do atual maior enxadrista do mundo, Magnus Carlsen –, chegou mesmo a comparar o estilo do AlphaZero ao de uma “espécie superior alienígena” <a href="#_ftn2" name="_ftnref2">[2]</a>. Isso é um testemunho avalizado, cara leitora, de que a IA é capaz de explorar aspectos da realidade que são imperceptíveis à mente humana. E esses insights da IA para os humanos, ocorrem em três níveis. No primeiro, a mente humana é ainda capaz de perceber a relação encontrada, no estilo “como é que ninguém havia pensado nisso antes?”. No segundo, o caminho percorrido já não é tão óbvio e é necessário que a mente humana se debruce sobre a solução para tentar refazer o raciocínio lógico. No terceiro, a lógica da inteligência artificial é absolutamente impenetrável para nós. Simplesmente ninguém sabe como o algoritmo chegou àquela conclusão. Outra luz amarela.
E não pense que a coisa para por aí. Em um recente paper publicado na revista Nature <a href="#_ftn3" name="_ftnref3">[3]</a>, a DeepMind apresentou os resultados do MuZero, um novo e mais avançado algoritmo que alcançou os mesmos níveis sobre-humanos do AlphaZero no xadrez, no shogi, no weiqi e agora também no Atari, sem, contudo, ter-lhe sido fornecidas as regras do jogo. Em outras palavras, cara leitora, o MuZero é capaz de planejar uma estratégia em um ambiente desconhecido, isto é, ele aprende sozinho as regras do jogo e desenvolve uma estratégia sobre-humana para vencê-lo. E isso é só o começo.
Trata-se de uma verdadeira revolução no campo da estratégia em todos os seus níveis, seja ele lúdico, judicial ou diplomático-militar. Dentro de alguns anos o próprio conceito que temos de embate estratégico pode acabar relegado aos livros de história. A extensão dos impactos dessa revolução é totalmente imprevisível. No curto prazo, contudo, vê-se o surgimento de uma parceria entre os seres humanos e as máquinas, com o objetivo de se produzir um resultado superior ao que potencialmente seria obtido pelos humanos sozinhos, mas ainda referendado por nós. No médio prazo, já se pode mesmo vislumbrar a condução de operações militares e de processos judiciais sem interferência humana. No longo prazo, talvez o próprio conceito de ser humano tenha de ser redefinido. Mais uma luz amarela.
Em termos geopolíticos, o risco atual é o de um processo de fragmentação da experiência humana, que arriscaria batizar de “antiglobalização”. Ao passo em que o processo de dissolução das fronteiras nacionais, levado à cabo a partir dos anos 1990, visava a transformação do mundo em uma verdadeira “aldeia global”, o processo atual de desenvolvimento autônomo de algoritmos de IA corre o risco de quebrar a “aldeia global” em um sem-número de “povoados algoritmicamente isolados”, uma vez que os seus sistemas de IA não teriam comunicação uns com os outros. Opinião e inteligência artificial, cada um terá a sua.
Além disso, e talvez mais importante, é o fato de que a IA nos apresenta facetas da realidade que não são diretamente perceptíveis aos seres humanos, redefinindo a relação mesma entre o ser humano e a realidade. Um mundo constituído por sistemas de inteligência artificial pulverizados e – por que não – individualizados, seria capaz de produzir percepções e integrações distintas e setorializadas da própria realidade, fragmentando o universo da experiência humana compartilhada como a conhecemos. Cada “povoado algoritmicamente isolado” teria a sua visão própria da realidade, do ser humano e da relação entre eles. É a receita perfeita para uma catástrofe. Luz vermelha.
O risco é ainda mais premente quanto se tem em conta que, como recentemente observou Henry Kissinger, já estamos vivendo em uma Segunda Guerra Fria, com uma nova corrida armamentista <a href="#_ftn4" name="_ftnref4">[4]</a>. Desta vez não por capacidade nuclear, mas sim por uma vantagem estratégica no domínio do desenvolvimento da IA, que tem o condão de potencializar geometricamente as capacidades defensivas tradicionais, nucleares e cibernéticas, em uma disputa cuja própria fragmentação torna a sua mensuração crescentemente elusiva. Particularmente preocupante, cara leitora, é a tendência de que tanto a corrida armamentista em si quanto a administração dos arsenais – o que inclui a decisão última de empregá-los ou não – seja crescentemente autônoma, isto é, opere sem a interferência da inteligência humana.
Kissinger chama à atenção para o desafio que uma proliferação de “povoados algoritmicamente isolados” apresentaria à segurança global, por desenvolverem doutrinas de segurança distintas, com “distintas atitudes acerca da imposição deliberada de baixas civis” <a href="#_ftn5" name="_ftnref5">[5]</a>, fazendo com que os cálculos diplomáticos de contenção e equilíbrio se tornem “demasiado difusos e incertos” <a href="#_ftn6" name="_ftnref6">[6]</a>. Kissinger alerta para o fato de que “quando o cálculo do equilíbrio se torna incerto, ou quando as nações chegam a cálculos fundamentalmente diferentes com relação ao poder, o risco de um conflito causado por um erro de cálculo atinge o seu ponto mais alto” <a href="#_ftn7" name="_ftnref7">[7]</a>. Luz vermelha intermitente com sinal sonoro.
A única saída para a preservação da paz e da segurança internacionais, cara leitora, é pelo fortalecimento do Direito Internacional. A paz é fruto da manutenção de um equilíbrio dinâmico da balança de poder, que se dá pela construção de um consenso com relação à definição dos elementos constitutivos desse mesmo poder e pela estruturação de sistemas jurídicos com legitimidade reconhecida para regular os seus usos e conter os seus abusos. A humanidade precisa urgentemente desenvolver estruturas jurídicas robustas, capazes de administrar um novo e mais sofisticado regime de dissuasão, apto a conter a atual corrida armamentista da inteligência artificial. Se não vier pelo Direito, como vaticinou Kant, a salvação virá pela dor. Quem avisa amigo é.
<div id="sdr-inbound-form-artigos-impacto-nas-instituicoes-8c5227dd4ede3347a6c6" role="main"></div>
<script type="text/javascript" src="https://d335luupugsy2.cloudfront.net/js/rdstation-forms/stable/rdstation-forms.min.js"></script> <script type="text/javascript"> new RDStationForms('sdr-inbound-form-artigos-impacto-nas-instituicoes-8c5227dd4ede3347a6c6', 'UA-53687336-1').createForm();</script>
<hr />
&nbsp;
<a href="#_ftnref1" name="_ftn1">[1]</a> <a href="https://royalsocietypublishing.org/author/Gowlett%2C+J+A+J">Gowlett J. A. J.</a> “The discovery of fire by humans: a long and convoluted process”. Phil. Trans. R. Soc. B, 2016, p. 371
<a href="#_ftnref2" name="_ftn2">[2]</a> <a href="https://www.bbc.com/news/technology-42251535">https://www.bbc.com/news/technology-42251535</a>
<a href="#_ftnref3" name="_ftn3">[3]</a> Chrittwieser, J., Antonoglou, I., Hubert, T. et al. “Mastering Atari, Go, chess and shogi by planning with a learned model.” in Nature, vol 588, 24 dec. 2020, pp. 604–609.
<a href="#_ftnref4" name="_ftn4">[4]</a> Kissinger, H.A.; Schmidt, E.; e Huttenlocher, D. The Age of AI and our Human Future. Nova Iorque: Little, Brown and Copany, 2021. p. 116.
<a href="#_ftnref5" name="_ftn5">[5]</a> Ob. Cit. p. 125
<a href="#_ftnref6" name="_ftn6">[6]</a> Ibid.
<a href="#_ftnref7" name="_ftn7">[7]</a> Ibid, p. 126.

inteligência artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

A importância do Direito Internacional para a estruturação de novos regimes dissuasórios

A geopolítica da inteligência artificial

A importância do Direito Internacional para a estruturação de novos regimes dissuasórios com o advento da inteligência artificial