Opinião e Análise

Ana Frazão

Como se demonstrou no último artigo da série, diante das limitações das decisões algorítmicas, é fundamental complementá-las com outras análises qualitativas que possam abranger os aspectos valorativos que devem nortear os julgamentos sobre as pessoas, a fim de evitar resultados discriminatórios ou inaceitáveis.
Nos termos da precisa síntese de Megha Srivastava e Andreas Krause<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn1" name="_ftnref1">[1]</a>, apesar de várias formulações matemáticas de justiça terem sido propostas, é impossível satisfazer a todas simultaneamente, razão pela qual há muito a evoluir no que chamam de Fair Machine Learning Literature.
<a href="https://www.jota.info/produtos/poder?utm_source=Banner%20site&amp;utm_medium=Artigos&amp;utm_campaign=CTA_Poder_materias"><img class="size-medium wp-image-292717 aligncenter" src="https://www.jota.info/wp-content/uploads/2021/01/jota-pro-poder.jpg" alt="" width="688" height="688" /></a>
Outro aspecto que justifica a complementação dos julgamentos algorítmicos é a importância das narrativas e das diversas molduras (frames) para a compreensão e a solução de problemas humanos complexos. Sobre esse assunto, é imprescindível a referência à recentíssima obra de Cukier, Mayer-Shönberger e Véricourt<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn2" name="_ftnref2">[2]</a>, ao ressaltarem a importância da habilidade humana de emoldurar (framing).
Os frames ou molduras são modelos mentais ou representações da realidade por meio dos quais vemos o mundo. Tais modelos mentais, que tornam o mundo mais compreensível e ordenado, tanto podem ser subconscientes, como podem ser transformados em ferramentas para tomar melhores decisões, na medida em que possibilitam a visualização de diferentes ângulos e perspectivas do mesmo problema<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn3" name="_ftnref3">[3]</a>.
Embora os termos frame e framing sejam muito comuns na psicologia comportamental, Cukier, Mayer-Shönberger e Véricourt esclarecem que o utilizam em um sentido diferente, enfatizando o ato deliberado de aproveitar variados modelos mentais para extrair distintas alternativas antes de tomar uma decisão<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn4" name="_ftnref4">[4]</a>. Sob esta perspectiva, o framing é uma capacidade humana extremamente valiosa e empoderadora, pois nos faz entender o sentido do mundo e remoldá-lo<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn5" name="_ftnref5">[5]</a>.
Os autores também insistem no fato de que os frames são mais do que perspectivas individuais, sendo verdadeiros templates cognitivos<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn6" name="_ftnref6">[6]</a>. Aliás, cada mudança de paradigma, no sentido de Kuhn, pode ser vista como um reframing<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn7" name="_ftnref7">[7]</a>. A vantagem dos frames é que eles podem acomodar raciocínios que são impossíveis para modelos algorítmicos, tais como os causais, os contrafactuais e as restrições<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn8" name="_ftnref8">[8]</a>. Daí concluírem os autores que o framing é uma habilidade exclusivamente humana extremamente valiosa para a compreensão do mundo e a solução de problemas<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn9" name="_ftnref9">[9]</a>:
"Meanwhile AI may make better decisions than people and steal our jobs, but computers and algorithms cannot frame. AI is brilliant at answering what it is asked; framers pose questions never before voiced. Computers work only in a world that exists; human live in ones they imagine through framing."
"Framing is a central quality of human that is impossible for machines to emulate."
Além de ressaltarem que os julgamentos humanos, sob este ângulo, são superiores aos julgamentos algorítmicos, os autores também mostram a importância da coexistência de diferentes molduras, a fim de se evitar o que chamam de monoculturas mentais<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn10" name="_ftnref10">[10]</a>. Nesse ponto, a observação reforça a crítica de que os julgamentos algorítmicos refletem a forma como os programadores compreendem o mundo, o que é bastante restritivo.
<blockquote class="jota-article__eye">Tais considerações igualmente evidenciam que a pretensão de acurácia, que é o maior fundamento para substituir julgamentos humanos por julgamentos algorítmicos, não pode ser a única a ser buscada em decisões que afetarão as pessoas.</blockquote>
Pelo contrário, além das discussões éticas e valorativas, há que se assegurar espaço para diversos juízos para os quais os algoritmos têm inúmeras limitações.
Não é sem razão que, para Cukier, Mayer-Shönberger e Véricourt, é fundamental assegurar o pluralismo e as diferentes visões de mundo para a solução dos problemas complexos. Ademais, asseveram os autores que muito do poder transformador da inteligência humana - que assegurou a própria sobrevivência da espécie e que não pode ser replicado por julgamentos algorítmicos - vem dessa habilidade de ver o mundo por diferentes lentes, de imaginar novos cenários e soluções e de mudar a realidade<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn11" name="_ftnref11">[11]</a>:
"The frontiers of our imagination are the boundaries of our world. Humanity is not locked into one reality but can enjoy any it decides to create. The power is within us, by how we conceive of and conceptualize our world and lives - all that we are, and all that we hope to be. We thrive through cooperation but we can only survive as framers."
Vale ressaltar que Cukier, Mayer-Shönberger e Véricourt não estão sozinhos em suas conclusões. Cada vez mais, as ciências sociais e a economia direcionam suas atenções para a importância dos distintos frames e narrativas para a compreensão do mundo e para as tentativas de modificá-lo.
Robert Shiller, no seu Narrative Economics<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn12" name="_ftnref12">[12]</a>, mostra como as histórias que as pessoas contam podem ter importância fundamental para a economia, embora sejam comumente ignoradas sob o fundamento de que são anedóticas ou anticientíficas. De forma contrária, o autor propõe que estudar histórias populares e narrativas é fundamental para entender e para influenciar o comportamento econômico - tanto individual como coletivo -, inclusive para o fim de melhorar nossa habilidade para prever crises financeiras ou importantes eventos econômicos, ou pelo menos para nos preparar para eles ou mitigar os respectivos danos.
No âmbito da economia da complexidade, Brian Arthur<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn13" name="_ftnref13">[13]</a> também defende que os dados não têm nenhum significado a eles inerente, mas adquirem significados a partir dos sentidos que lhes atribuímos. Por essas razões, diferentes pessoas com diferentes experiências irão construir diferentes sentidos<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn14" name="_ftnref14">[14]</a>. Acrescenta Brian Arthur que seres humanos não pensam dedutivamente como os matemáticos, mas sim de forma associativa, relacionando os dados com metáforas, memórias, estruturas, padrões e teorias<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn15" name="_ftnref15">[15]</a>. Daí a importância de que essa forma de raciocínio esteja igualmente presente nas decisões humanas mais importantes.
Aliás, há uma farta literatura na atualidade mostrando não somente a importância dos frames, como a relação entre eles e a posição social e da coletividade, sendo este o tema central do livro The Human Network. How your social position determines your power, beliefs and behaviors<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn16" name="_ftnref16">[16]</a>. Se o aspecto social molda a nossa própria humanidade, especial atenção há que ser dada ao ambiente social dos programadores e executores de sistemas algorítmicos e em que medida ele é suficientemente aberto para a diversidade e o debate que devem permear decisões valorativas sobre seres humanos.
De forma geral, o reconhecimento da importância dos frames e da dimensão social da ação humana só reiteram a relevância do cotejo entre diferentes narrativas e versões para a compreensão do mundo e a solução dos principais problemas. É o que nos propõe Robert Skidelski, ao ressaltar não somente o quanto nossas ações individuais são também emolduradas (framed) pela posição dos indivíduos no grupo<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn17" name="_ftnref17">[17]</a>, como também a importância das narrativas<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn18" name="_ftnref18">[18]</a>:
“(...) stories or narratives are the ways in which people try to make sense of complex situations. They assume, that is, that much social landscape is mysterious, or uncertain. Their ways of making sense of it should not, therefore, be considered irrational, but rather reasonable in the circumstances. Second, it points out that belief in the story rests on confidence in the story-teller. This is undoubtedly true: knowing that our own predictions are worthless, we rely on the testimony of those supposedly better informed. Third, while the stories are not the engines of prediction envisaged by Samuelson, they illuminate problems which escape formal modelling. The question, then, is whether economic modelling can improve significantly on story-telling or whether it is part of the story-telling.”
Outra obra imprescindível para as atuais reflexões sobre o tema é a de Akerloff e Kranton<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn19" name="_ftnref19">[19]</a>, cujo título já descreve bem a ideia principal dos autores: Identity Economics. How our identities shape our work, wages and well-being. Um dos pontos fundamentais do livro é restaurar o papel das paixões humanas e das instituições sociais para a economia, mostrando como o contexto social importa<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn20" name="_ftnref20">[20]</a>, inclusive para as concepções individuais de justiça<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn21" name="_ftnref21">[21]</a>.
Obviamente que as abordagens ora expostas não pretendem substituir os julgamentos algorítmicos nem questionar a sua importância. Pretendem apenas mostrar que eles têm limitações que podem e devem ser complementadas por outras formas de julgamento. Várias dessas abordagens também mostram que os julgamentos humanos, apesar de todas as suas reconhecidas falhas, apresentam inúmeros aspectos positivos, dentre os quais as possibilidades de, por meio de distintas narrativas e molduras, não apenas ver o mundo de diferentes maneiras, como também de pensar em outras possibilidades a partir da imaginação e de diversos outros recursos do intelecto humano.
A partir do momento em que desprezamos as habilidades do raciocínio humano e passamos a atribuir a julgamentos algorítmicos a palavra única ou final, passamos a correr diversos riscos, que vão desde a possibilidade da prevalência e da cristalização dos valores ou dos frames dos seus programadores – sem qualquer discussão ou escrutínio – até o empobrecimento da própria compreensão e da interpretação dos dados, os quais serão vistos a partir de correlações que não estarão submetidas às análises de contextos, sentidos, causalidades, contrafactuais, constrições e tantas outras que dependem do julgamento humano qualitativo, pois dificilmente podem ser traduzidas em números e métricas.
Daí por que a idolatria cega dos algoritmos não somente amesquinha o processo de julgamento, impedindo que as ferramentas do raciocínio humano possam contribuir para complementar e suprir as limitações dos julgamentos algorítmicos, como igualmente aumenta a probabilidade de julgamentos equivocados ou discriminatórios.
Por mais que a pretensão de acurácia que justifica a utilização crescente dos algoritmos seja legítima, há que se buscar um caminho mais equilibrado para atingir tal fim, como se explorará melhor no próximo artigo da série, que tratará da recente obra de Kahneman, Sibony e Sunstein – Noise<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftn22" name="_ftnref22">[22]</a> – e suas repercussões sobre o papel dos julgamentos algorítmicos.
<div id="sdr-inbound-form-artigos-impacto-nas-instituicoes-8c5227dd4ede3347a6c6" role="main"></div>
<script type="text/javascript" src="https://d335luupugsy2.cloudfront.net/js/rdstation-forms/stable/rdstation-forms.min.js"></script> 
<script type="text/javascript"> new RDStationForms('sdr-inbound-form-artigos-impacto-nas-instituicoes-8c5227dd4ede3347a6c6', 'UA-53687336-1').createForm();</script>
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref1" name="_ftn1">[1]</a> SRIVASTAVA, Megha; KRAUSE, Andreas. Mathematical Notions vs. Human Perception of Fairness: A Descriptive Approach to Fairness for Machine Learning. Applied Data Science Track Paper KDD ’19, August 4–8, 2019, Anchorage, AK, USA.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref2" name="_ftn2">[2]</a> CUKIER, Kenneth; MAYER-SCHÖNBERGER, Viktor; VÉRICOURT, Francis de. Framers. Human Advantage in an Age of Turmoil. New York: Penguin Randon House LLC, 2021.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref3" name="_ftn3">[3]</a> Op.cit., pp. 3-9.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref4" name="_ftn4">[4]</a> Op.cit., p. 10.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref5" name="_ftn5">[5]</a> Op.cit., p. 10.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref6" name="_ftn6">[6]</a> Op.cit., p. 11.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref7" name="_ftn7">[7]</a> Op.cit., p. 10.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref8" name="_ftn8">[8]</a> Op.cit., p. 13.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref9" name="_ftn9">[9]</a> Op.cit., p. 17 e p. 44.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref10" name="_ftn10">[10]</a> Op.cit., pp. 173-182.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref11" name="_ftn11">[11]</a> Op.cit., p. 218.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref12" name="_ftn12">[12]</a> SHILLER, Robert. Narrative Economics. How stories go viral &amp; drive major economic events. New Jersey: Princeton University Press, 2019.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref13" name="_ftn13">[13]</a> ARTHUR, Brian. Complexity and the Economy. New York: Oxford University Press, 2015.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref14" name="_ftn14">[14]</a> Op.cit., p. 162.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref15" name="_ftn15">[15]</a> Op.cit., pp. 162-163.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref16" name="_ftn16">[16]</a> JACKSON, Matthew O. The Human Network. How your social position determines your power, beliefs, and behaviors. New York: Vintage Books, 2020.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref17" name="_ftn17">[17]</a> SKIDELSKY, Robert. What´s wrong with economics? A primer for the perplexed. Yale University Press, 2020, p. 94.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref18" name="_ftn18">[18]</a> Op.cit., pp. 95-96.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref19" name="_ftn19">[19]</a> AKERLOFF, George; KRANTON, Rachel. Identity Economics. How our identities shape our work, wages and well-being. New Jersey: Princeton University Press, 2020.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref20" name="_ftn20">[20]</a> Op.cit., pp. 6-7.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref21" name="_ftn21">[21]</a> Op.cit., p. 10.
<a href="applewebdata://95C12DFB-C4DD-4D31-A524-5458C8684A8E#_ftnref22" name="_ftn22">[22]</a> KAHNEMAN, Daniel; SIBONY, Olivier; SUNSTEIN, Cass. Noise. A Flaw in Human Judgment. Little Brown Spark, 2021.

coding-1853305_1920

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

A importância das narrativas, das contextualizações e das molduras cognitivas

Discriminação algorítmica: resgatando os aspectos positivos dos julgamentos humanos

A importância das narrativas, das contextualizações e das molduras cognitivas