Opinião e Análise

Ana Frazão

<blockquote class="jota-article__citation">“Model Land provides us with maps of the future, but they are not always the maps that we need. Some are plain and simple, some are elaborate and embellished; most are in some way misleading; all were drawn by someone fallible; all have limits (…).”<a href="#_ftn1" name="_ftnref1">[1]</a></blockquote>
Em um mundo em que crescentemente importantes decisões sociais, políticas e econômicas são tomadas a partir de modelos matemáticos e estatísticos, é imperdível a leitura do recente livro de Erica Thompson, "Escape from Model Land: How mathematical models can lead us astray and what we can do about it".
Com efeito, por maior que seja a importância de modelos para lidar com relações entre dados cada vez mais abundantes e complexos, o problema fundamental de tentar modelar o mundo, especialmente em questões sociais e econômicas, é que a vida real normalmente acontece apenas uma única vez, de forma que cada situação é diferente<a href="#_ftn2" name="_ftnref2">[2]</a> e a performance do passado não garante o sucesso futuro<a href="#_ftn3" name="_ftnref3">[3]</a>. Acresce que os objetos do mundo real dificilmente são suscetíveis de serem idealizados do ponto de vista matemático<a href="#_ftn4" name="_ftnref4">[4]</a>.
Daí por que as leis do modelo obviamente não são as leis do mundo real, até porque todas as premissas do primeiro, embora sejam confortavelmente fixadas pelo modelador como verdadeiras, são condicionais<a href="#_ftn5" name="_ftnref5">[5]</a>. É da discrepância entre os modelos e o mundo real que a autora cunhou a expressão Model Land, para destacar como este é um mundo à parte.
Sob essa perspectiva, o trabalho de Erica Thompson pertence à rica literatura que explora a discussão de que os modelos, como mapas, não podem se confundir com o território, sendo sempre simplificações. Entretanto, a autora aprofunda vários dos desafios dos modelos, a começar pelo fato de que há vários tipos de conhecimento – tácito, qualitativo, experimental e pragmático – que não são facilmente representados em formalismos quantitativos tradicionais<a href="#_ftn6" name="_ftnref6">[6]</a>.
Uma segunda dificuldade refere-se às incertezas radicais que caracterizam os assuntos humanos e que, como tal, são inquantificáveis e ubíquas, apenas podendo ser acessadas nos processos decisórios se, “escapando de Model Land”, entendermos as limitações dos nossos modelos e reconhecermos o seu contexto político<a href="#_ftn7" name="_ftnref7">[7]</a>.
Não é sem razão que a autora cita Taleb, para nos mostrar que mesmo a probabilidade é uma matéria subjetiva, na medida em que contém elementos quantificáveis relacionados à aleatoriedade observada no passado a partir de diferentes resultados, mas também inclui elementos inquantificáveis relacionados à ignorância fundamental sobre o sistema e sobre a possibilidade de ele estar equivocado em suas premissas<a href="#_ftn8" name="_ftnref8">[8]</a>.
Aliás, está aí uma das explicações das relações entre os modelos que eram utilizados para avaliação de riscos e a crise financeira de 2007/2008. Para a autora, esse é um claro exemplo dos riscos que surgem quando possibilidades inquantificáveis são confundidas com probabilidades quantificáveis<a href="#_ftn9" name="_ftnref9">[9]</a>. Daí realçar também o excelente trabalho de Kay e King – "Radical Uncertainty"<a href="#_ftn10" name="_ftnref10">[10]</a> –, ao mostrar que um dos grandes problemas dos modelos matemáticos formais é exatamente o de partir da premissa de que tudo pode ser quantificável, esquecendo das diferenças entre o mundo real e o Model Land<a href="#_ftn11" name="_ftnref11">[11]</a>.
Outro grave problema dos modelos diz respeito às suas necessárias – porém nem sempre reconhecidas e debatidas – implicações éticas, políticas e sociais<a href="#_ftn12" name="_ftnref12">[12]</a>. Aliás, o mais óbvio julgamento valorativo inserido nos modelos diz respeito à prioridade: o que é considerado importante o suficiente para ser incluído no modelo e o que fica de fora<a href="#_ftn13" name="_ftnref13">[13]</a>.
Consequentemente, por mais que os modelos matemáticos sejam famosos em razão da sua objetividade, sempre incorporarão narrativas sobre riscos e responsabilidades, assim como julgamentos éticos feitos pelos modeladores<a href="#_ftn14" name="_ftnref14">[14]</a>, refletindo a educação, os interesses, as prioridades e as capacidades destes<a href="#_ftn15" name="_ftnref15">[15]</a>.
Daí por que, considerando que os modelos são ferramentas para a persuasão social e veículos para o debate político, o seu conteúdo social e político é pelo menos tão importante quanto seu conteúdo matemático e estatístico<a href="#_ftn16" name="_ftnref16">[16]</a>. Mesmo as chamadas escolhas pragmáticas costumam refletir julgamentos valorativos e experiências dos modeladores que não necessariamente representam a sociedade<a href="#_ftn17" name="_ftnref17">[17]</a>.
Em resumo, quando experts criam modelos, eles estão usando a sua expertise para fazer julgamentos sobre a relativa importância das variáveis e das relações causais entre elas, o que lhes dá um grande poder<a href="#_ftn18" name="_ftnref18">[18]</a>. Na medida em que os modelos contam narrativas e refletem valores, há de se ter um especial cuidado para que a sua utilização, especialmente na função de persuadir, não cruze a linha da manipulação e da coerção<a href="#_ftn19" name="_ftnref19">[19]</a>.
Daí por que um desafio primário para a tomada de decisão no século 21 é aprender a conter o excesso de entusiasmo por soluções matemáticas, entendendo que, por mais que se goste da elegância e da simplicidade das descrições matemáticas do mundo, elas são inevitavelmente incompletas e essa incompletude tem consequências éticas e práticas.<a href="#_ftn20" name="_ftnref20">[20]</a>
Outra importante questão diz respeito ao fato de que, segundo a autora, a confiança nos modelos tende a nos levar a uma ausência de accountability, pois não fica claro quem deve ser responsável pelas predições nocivas do modelo. Pelo contrário, a pretensa justificativa científica torna-se um excelente pretexto para que tantos decisores como cientistas e artífices dos modelos possam se esconder e se furtar às responsabilidades<a href="#_ftn21" name="_ftnref21">[21]</a>.
Tal questão é ainda mais grave quando se verifica que o cálculo utilitarista normalmente adotado pelos modelos raramente pode ser a única consideração para a tomada de decisões complexas, que envolvem igualmente responsabilidade e julgamentos morais, incluindo questões de emoção, política, poder social, relacionamentos e mesmo a estética<a href="#_ftn22" name="_ftnref22">[22]</a>.
Diante de tantos desafios, a autora nos propõe a pergunta essencial para a utilização dos modelos:
<blockquote class="jota-article__citation">“If data is the new oil, then models are the new pipelines – and they are also refineries. How are models constructed? To whom do they deliver power? How should we regulate them? How can we use them responsibly?”.<a href="#_ftn23" name="_ftnref23">[23]</a></blockquote>
Uma primeira resposta é no sentido de que os modelos não podem ser usados sem o que a autora chama de parceria com o julgamento feito pelo cérebro humano: assim como os homens constroem os modelos e estes oferecem insights quantitativos e qualitativos, cabe aos homens integrar tais resultados com outros insights<a href="#_ftn24" name="_ftnref24">[24]</a>. Com isso, a autora nos adverte para a importância da análise qualitativa e da interpretação e contextualização dos resultados do modelo com outros critérios de julgamento.
Os mesmos cuidados, aliás, precisam ser estendidos aos sistemas algorítmicos que, se utilizados isoladamente, deixam de contar com importantes recursos humanos, incluindo a empatia e a compaixão.<a href="#_ftn25" name="_ftnref25">[25]</a> Mais do que isso, sem o controle humano, tais modelos não são capazes de considerar eventos não antecipados ou de assinalar novos valores aos julgamentos em situações de mudanças<a href="#_ftn26" name="_ftnref26">[26]</a>.
Todas essas críticas são apresentadas pela autora não com o objetivo de afastar a utilização dos modelos, mas sim de buscar um equilíbrio nesta tarefa<a href="#_ftn27" name="_ftnref27">[27]</a>. Todavia, é imprescindível aceitar que Model Land não é uma realidade matemática objetiva, mas sim uma ideia social, de forma que os modelos devem levar em consideração os contextos sociais, as premissas, as expectativas e preconceitos dos seus modeladores. Aliás, os modelos são inclusive caminhos pelos quais enquadramos determinadas questões científicas<a href="#_ftn28" name="_ftnref28">[28]</a>.
É por essa razão que a autora nos oferece algumas sugestões para entender o potencial e as limitações dos modelos, dentre as quais duas são de especial importância: (i) entender os modelos como metáforas ou caricaturas, razão pela qual sempre precisam ser colocados em contexto, de forma que considerar um modelo literalmente não é considerá-lo seriamente<a href="#_ftn29" name="_ftnref29">[29]</a>; e (ii) estar atento ao perigo das histórias únicas, pois, como cada modelo representa apenas uma história e uma perspectiva, há que se buscar maior pluralidade.
Para facilitar o percurso, a autora apresenta, na parte final do livro, cinco princípios para a utilização dos modelos, cada um dos quais acompanhado de uma série de perguntas que deveriam ser feitas aos modeladores:
<ul>
<li>Definição do propósito: saber se um modelo é ou não adequado apenas é possível mediante a prévia ciência das suas finalidades. As perguntas-chave a serem respondidas são: Que tipos de questões o modelo pretende responder? Que tipo de questões ele não pode responder? Que outras informações poderiam ser adicionadas?</li>
<li>Don’t say I don’t know: diante das incertezas radicais, não basta dizer que não se sabe, mas há que se avançar diante delas. As perguntas-chave são: Se o modelo não pode prever quantitativamente as incertezas, o que pode ser acrescido na avaliação da situação? Os insights qualitativos concordam ou discordam do modelo? Que histórias alternativas podem ser contadas sobre o futuro? Podemos tomar decisões mais ou menos sensíveis aos diferentes resultados plausíveis?</li>
<li>Importância dos julgamentos valorativos: As perguntas-chave são: O que faz com o que o modelo seja bom? O que constitui um bom resultado para esse modelo? Se as decisões do modelo irão influenciar outras pessoas ou comunidades, eles foram consultados ou engajados na elaboração do modelo? Há consenso sobre os julgamentos de valores implícitos no modelo ou isso é tema de debate político?</li>
<li>Importância da conexão com o mundo real: As perguntas-chave são: Esse é um resultado do modelo ou do mundo real? Que julgamentos foram usados para traduzir os resultados do modelo para o mundo real? Outras pessoas poderiam fazer outros julgamentos sobre qualidade? As premissas e precondições do modelo podem ser testadas diretamente?</li>
<li>Importância da diversidade de modelos: As perguntas-chave são: Que outros modelos para essa situação existem? Como uma pessoa com diferentes backgrounds e formações ou distintos interesses políticos ou pessoais poderiam criar outro modelo? Está havendo encorajamento da diversidade ou supressão?</li>
</ul>
São particularmente importantes as preocupações da autora com diversidade, pluralidade e sobretudo com o reconhecimento das escolhas valorativas e políticas do modelo e com a necessária confrontação com outras escolhas, especialmente quando se refere àqueles que serão influenciados ou impactados pelo modelo.
Se é verdade que, ainda que todos os modelos sejam errados, alguns podem ser úteis, a saída para a utilização racional e responsável do modelo é necessariamente qualitativa e envolve o julgamento crítico dos seus resultados, seja pelos experts, seja pela própria sociedade. Aliás, sobre julgamentos qualitativos por experts, a própria autora reconhece a necessidade de se refletir sobre quem pode ser considerado expert e as razões pelas quais podemos confiar neles<a href="#_ftn30" name="_ftnref30">[30]</a>. Porém, veja-se que, a rigor, o mesmo desafio precisa ser feito aos modeladores, em relação aos quais precisamos refletir sobre os motivos pelos quais devemos confiar neles ou não.
Como reflexão final, fica a advertência da autora de que um dos grandes desafios para a utilização responsável dos modelos nos processos decisórios é entender como eles interagem com a política e com os meios pelos quais delegamos a algumas pessoas tomarem decisões em nome de outras<a href="#_ftn31" name="_ftnref31">[31]</a>.
Especialmente quando tais modelos são utilizados para orientar políticas públicas e decisões que trarão impactos na vida de muitas pessoas, é fundamental encontrar um equilíbrio entre a tecnicidade e a legitimidade democrática das decisões.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> THOMPSON, Erica. Escape from Model Land. How mathematical models can lead us astray and what we can do about it. New York: Basic Books, 2022, p. 233. Tradução livre: A Terra dos Modelos nos oferece mapas do futuro, mas eles não são sempre os mapas de que precisamos. Alguns são fáceis e simples, outros são elaborados e embelezados; a maioria é de alguma maneira enganoso, todos são desenhados por alguém falível, todos têm limites (...)”
<a href="#_ftnref2" name="_ftn2">[2]</a> Op.cit., p. 47.
<a href="#_ftnref3" name="_ftn3">[3]</a> Op.cit., pp. 22-25.
<a href="#_ftnref4" name="_ftn4">[4]</a> Op.cit. p. 48.
<a href="#_ftnref5" name="_ftn5">[5]</a> Op.cit., pp. 3-4 e 56-58.
<a href="#_ftnref6" name="_ftn6">[6]</a> Op.cit., p. 213.
<a href="#_ftnref7" name="_ftn7">[7]</a> Op.cit., pp. 4-6.
<a href="#_ftnref8" name="_ftn8">[8]</a> Op.cit., p. 72.
<a href="#_ftnref9" name="_ftn9">[9]</a> Op.cit., p. 114.
<a href="#_ftnref10" name="_ftn10">[10]</a> Ver FRAZÃO, Ana. As incertezas radicais e seus impactos sobre a análise econômica. Refletindo sobre o papel dos cálculos probabilísticos a partir da obra ‘Radical Uncertainty’. Jota. Partes I e II. <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/incertezas-radicais-impactos-analise-economica-10112021">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/incertezas-radicais-impactos-analise-economica-10112021</a> e <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/incertezas-radicais-impactos-analises-economicas-preditivas-17112021">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/incertezas-radicais-impactos-analises-economicas-preditivas-17112021</a>
<a href="#_ftnref11" name="_ftn11">[11]</a> Op.cit., p. 114. Vale ressaltar que já dediquei algumas colunas à excelente obra de Kay e King.
<a href="#_ftnref12" name="_ftn12">[12]</a> Op.cit., p. 6.
<a href="#_ftnref13" name="_ftn13">[13]</a> Op.cit., p. 94.
<a href="#_ftnref14" name="_ftn14">[14]</a> Op.cit., p. 6.
<a href="#_ftnref15" name="_ftn15">[15]</a> Op.cit., p. 215.
<a href="#_ftnref16" name="_ftn16">[16]</a> Op.cit., pp. 6-12.
<a href="#_ftnref17" name="_ftn17">[17]</a> Op.cit., p. 94.
<a href="#_ftnref18" name="_ftn18">[18]</a> Op.cit., p. 98.
<a href="#_ftnref19" name="_ftn19">[19]</a> Op.cit., p. 200.
<a href="#_ftnref20" name="_ftn20">[20]</a> Op.cit., p. 214.
<a href="#_ftnref21" name="_ftn21">[21]</a> Op.cit., p. 11.
<a href="#_ftnref22" name="_ftn22">[22]</a> Op.cit., pp. 93-94.
<a href="#_ftnref23" name="_ftn23">[23]</a> Op.cit., p. 12. Tradução livre: Se os dados são o novo petróleo, então os modelos são os novos gasodutos e também as novas refinarias. Como esses modelos são construídos? A quem eles entregam poder? Como devemos regulá-los? Como podemos usá-los responsavelmente?
<a href="#_ftnref24" name="_ftn24">[24]</a> Op.cit., p. 10.
<a href="#_ftnref25" name="_ftn25">[25]</a> Op.cit., p. 108.
<a href="#_ftnref26" name="_ftn26">[26]</a> Op.cit., pp. 213-214.
<a href="#_ftnref27" name="_ftn27">[27]</a> Op.cit., p. 112.
<a href="#_ftnref28" name="_ftn28">[28]</a> Op.cit., pp. 216-217.
<a href="#_ftnref29" name="_ftn29">[29]</a> Op.cit., pp. 30-34.
<a href="#_ftnref30" name="_ftn30">[30]</a> Op.cit., p. 222.
<a href="#_ftnref31" name="_ftn31">[31]</a> Op.cit., p. 222.

benjamin-lizardo-IZsbWBZ08cs-unsplash

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Os riscos e as insuficiências do formalismo matemático para os assuntos humanos e sociais

Em que medida podemos tomar decisões baseadas em modelos matemáticos?

Os riscos e as insuficiências do formalismo matemático para os assuntos humanos e sociais