Opinião e Análise

Ana Frazão

“Neste sentido, a verdadeira alternativa não é entre entusiasmo ou medo, mas entre duas formas de construção: um progresso que serve às pessoas e aos povos, ou um progresso que os submete às lógicas de poder”. (Papa Leão XIV)
Recentemente o papa Leão XIV publicou a encíclica Magnifica Humanitas, que tem como tema a salvaguarda da pessoa humana na era da digitalização, da <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> e da robótica. Trata-se de texto que, além da beleza e das esperadas reflexões religiosas e filosóficas, aborda os aspectos jurídicos e econômicos mais importantes da nossa era, os quais serão sintetizados no presente artigo.
Com efeito, a encíclica representa uma crítica contundente ao neoliberalismo e à teoria econômica predominante (mainstream), insistindo na conclusão de que a transformação digital exige, simultaneamente, a descoberta da verdade como bem comum, a tutela da dignidade do trabalho e a salvaguarda da liberdade contra todas as formas de dependência e mercantilização.
<a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a>
Sob vários aspectos, a nova encíclica reforça e atualiza a famosa Rerum Novarum, que faz 135 anos e que teve uma participação fundamental nos rumos do constitucionalismo e do Estado Social no Ocidente. O que é bastante interessante é a relação entre os princípios da chamada doutrina social da Igreja a discussões jurídicas e econômicas de grande relevância:
<ul>
<li>O princípio do bem comum está associado ao papel do Estado para a organização justa da sociedade civil;</li>
<li>O princípio da destinação universal dos bens está associado à função social da propriedade e à solidariedade, inclusive no que diz respeito à necessidade de “devolver ao pobre o que lhe corresponde”. A novidade é que agora tal princípio é explicitamente estendido aos bens imateriais e culturais, aí incluídos patentes, algoritmos, plataformas digitais, infraestruturas tecnologias e dados. Nessa parte, o papa já adianta a sua preocupação com a concentração desses bens nas mãos de poucos, sem formas adequadas de partilha e acesso.</li>
<li>O princípio da subsidiariedade – segundo o qual o que pessoas, famílias e comunidades podem fazer não deve ser absorvido por instâncias superiores, que devem reconhecer, proteger e promover a liberdade e a criatividade das instâncias inferiores – conecta-se à necessária presença do Estado – que continua a ter o importante papel de “permitir que todos os sujeitos sociais desempenhem sua missão sem serem esmagados” – e à sua eficácia perante os “grandes sujeitos tecnológicos”, a fim de que estes não adotem processos impostos a partir de cima, de modo opaco e unilateral, mas sim “que sejam orientados para o bem comum através da transparência, da responsabilidade e de formas concretas de participação (auditorias independentes, transparência sobre algoritmos, acesso equitativo aos dados, instrumentos de recurso).”</li>
<li>O princípio da solidariedade exige que escolhas em matérias de dados, algoritmos, plataformas e inteligência artificial tenham em conta não só a vantagem imediata de alguns, mas também a repercussão sobre o conjunto dos povos e sobre as gerações futuras.</li>
<li>O princípio da justiça social, que tanto tem uma dimensão estrutural – já que é visto a partir da perspectiva de que “as injustiças não surgem apenas das escolhas erradas dos indivíduos, mas também de estruturas, mecanismos e sistemas econômicos e culturais que, de forma quase automática, produzem desigualdades” – como uma dimensão reparadora – pois deve recompor relações destruídas e reintegrar quem foi excluído por injustiças, guerra, colonialismo, discriminações raciais ou de gênero, violências contra povos inteiros e exploração – passa a estar relacionado ao fato de que, no ambiente digital, não pode haver novas formas de exclusão e privação de liberdade, o que ocorre com práticas como vedação de acesso a tecnologias, vigilância invasiva e sancionamento de grupos sociais por algoritmos opacos que reproduzem preconceitos e discriminações.</li>
</ul>
Todos esses princípios são mencionados para se chegar à conclusão de que “uma ordem social justa na era digital é aquela que garante a todos um acesso equitativo às oportunidades, protege os pequenos e mais frágeis, combate o ódio e a desinformação, submete a utilização de dados e das tecnologias à inspeção publica, de modo que o critério não seja apenas o lucro, mas a dignidade de cada pessoa e o bem-estar dos povos.”
Todos esses assuntos são examinados a partir de um pressuposto essencial: “As inovações tecnológicas – entre elas a inteligência artificial – não são neutras: podem aumentar a participação e a justiça, ou, pelo contrário, agravar desigualdades, controle e exclusão". Daí por que, nesse ponto, o papa se afasta das visões mais otimistas em torno da tecnologia, partindo da premissa de que a tecnologia tanto pode melhorar significativamente a vida da humanidade como causar danos.
Ao assim fazer, o papa associa corretamente as discussões sobre tecnologia ao poder, mostrando suas preocupações com o domínio impressionante que alguns poucos agentes têm sobre o gênero humano e o mundo inteiro: “Devemos perguntar-nos com realismo quem detém hoje este poder e para que fins o orientam".
Ao alinhavar as respostas, reconhece que, se antes eram Estados que orientavam e dirigiam a inovação, hoje “os principais motores do desenvolvimento privado são sujeitos privados, frequentemente transnacionais”. “O poder tecnológico assume, destarte, uma identidade inédita, predominantemente ‘privada’ e, portanto, ainda mais difícil de discernir, gerir e orientar para o bem comum”.
Prosseguindo em suas reflexões, a Encíclica questiona o paradigma tecnocrático, apontando os riscos de um desenvolvimento tecnológico que, além de avançar sem a maturação ética e social adequada, é capitaneado pelos poucos agentes privados que estão no controle de plataformas, infraestruturas, dados e capacidade de computação: “Quando um poder desta magnitude se concentra na mão de poucos, ele tende a tornar-se opaco e fugir ao controle público, aumentando o risco dum desenvolvimento distorcido que gera novas dependências, exclusões, manipulações e desigualdades".
Apesar de reconhecer as vantagens e facilidades proporcionadas pelas novas tecnologias, o papa também destaca os inúmeros riscos, dentre os quais os ambientais e os pessoais, argumentando que a delegação excessiva de funções humanas para as máquinas pode trazer o consequente enfraquecimento da opinião própria e da criatividade, além da enganosa aparência de objetividade, já que as máquinas refletem os parâmetros culturais de quem os concebeu e treinou com todos os seus méritos e defeitos.
Ademais, isso pode comprometer o aperfeiçoamento humano, pois “uma tecnologia que classifica e otimiza o que já existe pode tornar-se, sem querer, um obstáculo à mudança e ao crescimento. Para um algoritmo, o erro é algo a corrigir; para uma pessoa, pode ser o início de uma mudança profunda".
Entretanto, o ponto essencial de suas preocupações é que as novas tecnologias nunca dizem respeito apenas a questões técnicas, pois, ao interferirem e afetarem a vida das pessoas, elas trazem impactos em direitos, oportunidades, reputação e liberdade. Daí os riscos de discriminações e marginalizações, usos anti-humanos, como as armas autônomas, e ausência de responsabilidades na delegação de decisões importantes, como a de selecionar alguém.
É marcante a preocupação do papa com a “injustiça silenciosa” que pode ser perpetrada pelas máquinas, sobretudo diante da advertência de que “não podemos considerar a IA moralmente neutra”. Nesse contexto, em respeito ao homem, as regras de responsabilidade precisam ficar claras em todas as etapas e estas precisam passar por filtros minimamente democráticos.
Segundo o papa, “não precisamos de uma IA mais moral, se esta moral for decidida por poucos. Precisamos de uma política mais presente, capaz de reduzir a velocidade onde tudo se acelera e de proteger os espaços onde as comunidades ainda podem participar e questionar-se".
Partindo da premissa de que a inteligência artificial tende, como qualquer outro avanço tecnológico, a reforçar o poder daqueles que já têm, o papa sustenta que a propriedade de dados deve ser regulamentada e que a inteligência artificial precisa ser desarmada, inclusive no aspecto econômico e cognitivo: “Desarmar significa quebrar esta equivalência entre poder técnico e direito de governar”, “significa retirá-la dos monopólios, torná-la discutível, contestável e, portanto, habitável, devolvendo-a à pluralidade das culturas humanas e das formas de vida”. “Portanto, não basta regulá-la: deve ser desarmada e tornada acolhedora".
Diante dos riscos de que se imprima à inteligência artificial uma visão anti-humana, o papa critica as insuficiências da lógica da eficiência, sob o argumento de que “o poder técnico, se não for equilibrado, não nos torna mais capazes; torna-nos mais sós e mais expostos a lógicas de domínio e de exclusão.”
O papa também se preocupa com posições transumanistas ou pós-humanistas que, ao verem seres humanos como matérias a serem aperfeiçoadas ou ultrapassadas, podem levar à ideia de que alguns sejam menos úteis, desejáveis e dignos e que, em nome do progresso, admitam-se “sacrifícios necessários” e que mais frágeis paguem o preço de uma suposta otimização da espécie.
Nesse contexto, o papa propõe três vetores que precisam orientar a atual revolução tecnológica: (i) a busca da verdade, (ii) a proteção do trabalho e (iii) a proteção da própria liberdade e individualidade dos homens.
No que diz respeito à busca da verdade, o papa alerta para os problemas de desinformação e manipulação e seus impactos sobre a vida das pessoas e das democracias. Afinal, quem detém controle das plataformas e meios de comunicação tem enorme poder de influenciar o imaginário coletivo e de apresentar como desejável uma determinada visão da realidade, o que pode ser determinante para as escolhas das pessoas.
Daí propor uma nova ecologia da comunicação, a fim de que tenhamos espaços de debate nos quais prevaleçam a argumentação e a averiguação ao invés da reação impulsiva, comunicação transparente e orientada para a verdade, novos processos educacionais, especialmente de crianças e jovens, e medidas para conter os riscos do ambiente digital.
No que toca à dignidade do trabalho, o papa critica as tecnologias que degradam o trabalho, contribuindo para a precariedade e a desigualdade. Daí realçar a necessidade de se combater qualquer forma de exploração, o que exige, dentre outras medidas, apoio aos sindicatos, proteção do emprego, requalificação e participação dos trabalhadores.
A defesa do trabalho é feita também à luz da liberdade econômica, que está em xeque “quando as condições concretas impedem que muitos se beneficiem verdadeiramente dela”. Daí a conclusão de que “uma sociedade justa requer um Estado presente e instituições civis capazes de superar a lógica da eficiência, orientando explicitamente recursos, criatividade e normas em favor dos mais vulneráveis.”
Nessa parte, a Encíclica reforça às críticas ao trickle down, afirmando que “as experiências das últimas décadas mostram que, nas crises econômicas e financeiras, são sempre os pobres a pagar o preço mais elevado, revelando-se frequentemente ilusórias as teorias que prometem um automático e geral bem-estar".
Em face disso, são propostas novas métricas, complementares ao PIB, para a avaliação dos resultados econômicos, a partir de parâmetros que mensurem a dignidade do trabalho, a prosperidade compartilhada, a redução das desigualdades e a salvaguarda do meio ambiente.
Para o papa, “na era da IA e da robótica, já não é possível confiar-se apenas à ‘mão invisível do mercado’: a política tem a tarefa de orientar as dinâmicas econômico-tecnológicas para o bem comum, promovendo o trabalho digno, a inclusão social e uma distribuição equitativa dos benefícios da inovação".
O papa propõe, então, medidas importantes para reduzir a desigualdade econômica entre pessoas e países, o que envolve (i) acesso aos benefícios da inovação, incluindo cuidados, conhecimento, instrumentos e oportunidades; (ii) proteção do trabalho; e (iii) leis justas de redistribuição, incluindo sistemas tributários progressivos, que aliviem os mais pobres e exijam mais dos mais ricos. Em suma, “fiscalidade, proteções sociais e políticas industriais devem corrigir os desequilíbrios criados pela concentração de riqueza e pelo poder. Estes critérios não são um travão à inovação; tornam-na, na realidade, viável e humana”.
Por fim, a encíclica apresenta grande preocupação em salvaguardar a liberdade contra a dependência e a mercantilização em face da economia da atenção e da manipulação: “Quando modelos empresariais prosperam à custa da fraqueza humana, a pessoa é tratada como um meio e não como um fim, e quem concebe estes sistemas assume uma responsabilidade moral que não pode ser ignorada.” “É urgente promover uma utilização das tecnologias que reforce a liberdade interior: educação para a sobriedade digital, proteção dos menores e combate a modelos que prosperam à custa da vulnerabilidade".
Além disso, o papa chama atenção para os riscos do controle social por meio da tecnologia: “Por isso, na era digital, a liberdade não é apenas algo interior: é também uma questão pública, que exige regras claras, transparência, possibilidades de recurso e limites ao uso de tecnologias invasivas, para que a técnica permaneça ao serviço da pessoa e não se torne uma forma de domínio das consciências".
Por fim, há o alerta para a necessidade de quebrar as correntes novas formas de escravidão, ressaltando que parte da economia digital assenta no trabalho silencioso e mal remunerado de milhares de seres humanos e da extração indevida de recursos ambientais.
Nesse ponto, a discussão está conectada às preocupações do papa com o colonialismo digital: “O colonialismo apresenta, nos nossos dias, um rosto inédito. Não domina apenas os corpos, mas apropria-se dos dados, transformando as vidas pessoais em informações que podem ser exploradas. Inteiros territórios, sobretudo aqueles com menor relevância geopolítica e maior fragilidade estrutural, são atualmente atravessados por uma nova lógica de extração: a dos fluxos sanitários, perfis epidemiológicos, mapas genéticos e dados demográficos. São estas as novas ‘terras raras’ do poder: informações vitais que, uma vez relacionadas entre si, podem utilizar-se para desenvolver modelos preditivos, orientar estratégias de investimento, antecipar crises e, sobretudo, selecionar quem e o que importa". As novas expressões de escravatura alimentam-se de cadeias econômicas e infraestruturas digitais.
Como se pode observar a partir desta brevíssima síntese, a encíclica dialoga com temas jurídicos e econômicos da maior importância, dentre os quais a o função social da propriedade – incluídos aí os bens imateriais, papel do Estado na sociedade e na economia, a responsabilidade dos grandes agentes econômicos na gestão de dados e plataformas, os riscos do governo algorítmico e das discriminações algorítmicas, as causas estruturais de desigualdade na era digital, bem como a necessidade de inclusão e redução de pobreza.
Todos esses assuntos são tratados a partir de um fio condutor comum, que dialoga com as preocupações de muitos juristas, economistas e outros estudiosos, dentre os quais eu me incluo: a tecnologia não é neutra nem necessariamente boa; pelo contrário, tem sido escolhida e implementada a partir dos interesses de grandes agentes econômicos, tornando-se instrumento de poder e favorecimento de poucos em detrimento de muitos.
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
Por essa razão, a encíclica reforça a necessidade de regulação e “desarmamento” da tecnologia, assim como nos incentiva a pensar no papel do Estado e da sociedade civil na luta pela conformação da tecnologia com a proteção do homem e pela distribuição mais equitativa dos benefícios das inovações.
Como se destacou na epígrafe, precisamos decidir se queremos um progresso que serve às pessoas e aos povos ou um progresso que os submete às lógicas de poder. As nossas decisões e ações de hoje irão definir se controlaremos a tecnologia ou se seremos controlados por ela.

WhatsApp Image 2026-05-28 at 15.28.12

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Nova encíclica de Leão XIV destaca necessidade de proteção do homem diante das novas tecnologias

Lições de economia e humanidade com o papa

Nova encíclica de Leão XIV destaca necessidade de proteção do homem diante das novas tecnologias