Discriminação algorítmica

Como se procurou demonstrar no último artigo da série, a tendência atual de transferir para algoritmos decisões complexas relacionadas a questões humanas e sociais não deixa de ser um reflexo da crescente matematização do mundo e das ciências sociais.

Mais do que se referir ao processo pelo qual se considera que a matemática pode ser útil para a compreensão e a solução de todos os problemas do mundo, a matematização envolve a ideia de que somente é válido o conhecimento quantitativo. Segundo W. Teed Rockwell[1], tal postura rompe a tradição que permeou a maior parte da história humana, na qual o conhecimento foi considerado algo que precisava ser armazenado e capturado por palavras.

Stephan Hartmann e Jan Sprenger[2] fazem uma interessante síntese histórica nesse sentido, mostrando que, até o início do século XX, as ciências sociais eram formuladas em termos qualitativos, de forma que os métodos quantitativos e matemáticos ou não cumpriam um papel substancial ou eram até mesmo considerados inapropriados. Entretanto, no final do século XX, os métodos matemáticos e estatísticos passaram a ser usados e valorizados até que se chegasse ao momento atual, em que quase todas as ciências sociais neles confiam para análise de dados, formulação de hipóteses e entendimento do mundo social, inclusive com a criação das correspondentes sub-disciplinas, tais como Mathematical Psychology, Mathematical Sociology e Mathematical Anthropology[3].

Ainda segundo Stephan Hartmann e Jan Sprenger[4], o processo de matematização chegou ainda mais cedo às ciências econômicas, o que explica o fato de a economia contemporânea ser dominada pela abordagem matemática, ainda que esta visão esteja sob ataque desde o início dos anos 2000, especialmente em razão dos desenvolvimentos recentes da economia comportamental e da economia experimental.

Uma das importantes razões para a matematização das ciências sociais é a busca por precisão, objetividade e previsibilidade, o que as aproximaria das ciências naturais e lhes atribuiria maior “cientificidade”. Para Stephan Hartmann e Jan Sprenger[5], embora Popper não tenha proposto a matematização das ciências sociais, o seu foco em predições e falseabilidade acabou levando ao entendimento de que uma teoria matematizada é preferível a uma teoria que não é.

O grande problema, entretanto, não é usar a matemática como importante ferramenta para a compreensão dos problemas humanos, mas sim considerar válido somente o conhecimento apoiado por fórmulas matemáticas, como bem sintetiza Rockwell[6]:

“As a result, it is very difficult in our time to explain why anyone should bother to study knowledge which consists only of words unsupported by mathematical formulae. Many people in the humanities have dealt with this problem by mathematizing their disciplines. Philosophers study Plato by reducing his arguments to symbolic logic. English professors read Shakespeare by analyzing statistically recurring sentence structures or using Chomskyian diagrams. History professors stop writing biographies of great historical figures, and start analyzing grain production statistics. Anthropologists stop writing stories about their visits to exotic cultures, and focus on DNA analysis and bone structure. Not every one in these disciplines fits this caricature, of course. The other extreme strategy available is to reject the ambition to actually deliver knowledge, and to see the stories told by novelists, anthropologists, and historians as a kind of entertainment whose existence is justified by their beauty, not their truth.”

Essas mesmas limitações podem ser observadas no processo de redução do conhecimento científico genuíno somente ao que pode ser traduzido na forma de algoritmos matemáticos[7]. Afinal, como já antecipava Hannah Arendt[8], a introdução da matemática nos assuntos humanos gera um perigoso impasse, porque a matemática não pode ser reconvertida em palavras e tudo o que os homens fazem, sabem ou experimentam só tem sentido na medida em que pode ser discutido.

Por outro lado, em outra linha de reflexão, Einstein já mostrava os desafios das métricas e quantificações, ao advertir que nem tudo o que conta é contável e nem tudo o que é contável conta[9]. Daí por que a pretensão de certeza e objetividade nas ciências sociais encontra desafios naturais diante da natureza dinâmica e mutável das experiências sociais. Consequentemente, métodos quantitativos tendem a desconsiderar o que é difícil ou impossível de ser quantificado ou acabam implementando quantificações reducionistas ou aleatórias.

Por essa razão, David Kingsley[10], ao refletir sobre a matematização das ciências sociais e especialmente da ciência política, conclui que complexos modelos matemáticos não refletem a realidade, pois muito da quantificação é realizada a partir de falácias.

Não é sem motivo que, mesmo sendo otimistas quanto à utilização de métodos matemáticos e estatísticos nas ciências sociais, Hartmann e Sprenger[11] advertem para o fato de que é um erro supervalorizar o papel da matemática, pois esta é apenas uma ferramenta cujo uso depende crucialmente das premissas e dos pressupostos que justificaram a sua utilização. Outro problema apontado pelos autores é que, para refletir a complexidade do mundo social, tais formulações matemáticas, especialmente quando elaboradas com poderosos computadores, podem resultar em modelos tão complexos que, ainda que se adequem à realidade empírica, tornam-se incompreensíveis.

Consequências dessas limitações são apontadas por Nicolas Bouleau[12], ao tratar dos maus usos da matemática na economia, pois várias questões importantes escapam aos modelos matemáticos, tais como a evolução estrutural e histórica das sociedades, a prevenção de crises, os fenômenos psicológicos, dentre inúmeras outras.

Um dos exemplos citados por Nicolas Bouleau é a relação entre a matematização do risco ocorrida nos mercados financeiros e a ausência de medidas de segurança, o que foi determinante para a crise econômica do subprime de 2008. Segundo o autor, a quantificação da incerteza remove o significado dos eventos, o que impossibilita a própria compreensão da extensão do risco.

Ademais, especialmente nas ciências sociais, como é o caso da economia, a utilização dos modelos matemáticos não se adequa ao rigor “popperiano”, já que teorias econômicas não são suscetíveis de refutação pela observação dos fatos. Como o ambiente social está em constante mudança e nunca se repete, modelos especializados com objetivos preditivos são probabilísticos e não podem ser submetidos ao teste da falseabilidade por um único evento. Ademais, matematizações úteis para compreender mudanças são sempre abertas a muitos modelos que competem entre si, a depender das diferentes perspectivas de que partam.

É por essa razão que, ao lado de mostrar que é necessário o pluralismo interpretativo e que a função social do conhecimento não é predição, mas sim precaução e cuidado, Nicolas Bouleau conclui que o problema não é a matemática em si, mas sim o fato de ser utilizada como estrutura de teorias que clamam uma verdade unívoca.

Tal observação converge com a conclusão de Irving Fisher[13], ao ressaltar que a matemática é uma linguagem e, como tal, deve ser usada quando as relações a serem por ela expressadas assim exigirem, em preferência à linguagem natural, que é menos precisa e completa. De toda sorte, extrai-se das observações do autor de que a linguagem matemática nem sempre será adequada para vários dos problemas sociais.

Fica claro, portanto, que, além dos problemas já mencionados nos dois primeiros artigos da série, os julgamentos algorítmicos partem de uma dificuldade inicial, que é a premissa de que todos os aspectos da natureza humana podem ser convertidos em fórmulas matemáticas, o que não é verdade.

Ademais, mesmo os aspectos da experiência humana e social que podem ser traduzidos para a linguagem matemática normalmente o serão ou por meio de modelos cujas simplificações os descolarão da realidade ou por meio de modelos cuja complexidade os tornarão incompreensíveis. Em qualquer das hipóteses, haverá dificuldades consideráveis para a sua utilização nos assuntos humanos e sociais, ainda mais se forem considerados julgamentos finais ou prioritários.

Daí se poder antecipar a conclusão de que, mesmo quando os julgamentos algorítmicos são compatíveis com a natureza e a complexidade do mundo social, há boas razões para sustentar que esse tipo de conhecimento não pode ser único e precisa necessariamente de complementações.

Entretanto, os problemas dos julgamentos algorítmicos estão longe de acabarem por aí, como será explorado no próximo artigo da série.

[1] ROCKWELL, W. Teed. Algorithms and Stories. Human Affairs 23, 633–644, 2013, p. 633. DOI: 10.2478/s13374-013-0154-0.

[2] HARTMANN, Stephan; SPRENGER, Jan. Mathematics and Statistics in the Social Sciences. May 7, 2010., p. 1. http://hdl.handle.net/2318/1662639.

[3] Op.cit., p. 1.

[4] Op.cit., pp. 1-2.

[5] Op.cit., p. 4.

[6] Op.cit., p. 634.

[7] Ver ROCKWELL, Op.cit., p. 633.

[8] ARENDT, Hannah. A Condição Humana. Tradução de Roberto Raposo. Lisboa: Relógio d’Água Editores, 2001, pp. 14-15.

[9] Cf. MULLER, Jerry Z. The tyranny of metrics. New Jersey: Princeton University Press, 2018.

[10] KINGSLEY, David. Quantification and Scientism in Political Science: Domination of Discourse by Experts Presenting Mathematical Models of Reality. https://doi.org/10.1002/pop4.211

[11] Op.cit., p. 4.

[12] Nicolas Bouleau. On Excessive Mathematization, Symptoms, Diagnosis and Philosophical bases for Real World Knowledge. Real World Economics, 2011, 57, pp.90-105. halshs-00781976.

[13] FISHER, Irving. The application of mathematics to the Social Sciences. https://projecteuclid.org/journals/bulletin-of-the-american-mathematical-society-new-series/volume-36/issue-4/The-application-of-mathematics-to-the-social-sciences/bams/1183493954.full