Opinião e Análise

Ana Frazão

Recentemente a Oracle publicou instigante estudo cujo título é How Data Overload Creates Decision Distress. Decision Dilemma Global Study<a href="#_ftn1" name="_ftnref1">[1]</a>. Um dos objetivos da pesquisa é mostrar as dificuldades que aqueles que tomam decisões empresariais enfrentam diante do excesso de dados.
O estudo, que foi realizado em janeiro de 2023, abarcou mais de 14 mil pessoas, distribuídas entre líderes empresariais e empregados, ao longo de 17 países. Dentre os importantes achados da pesquisa, encontram-se os seguintes:
<ul>
<li>o número de decisões diárias que precisamos tomar está se multiplicando → para 74% dos entrevistados, o número aumentou em 10 vezes ao longo dos últimos três anos;</li>
<li>embora os dados devessem ajudar o processo decisório, a realidade é que o efeito tem sido oposto → 97% dos entrevistados desejam a ajuda dos dados, mas 86% consideram que o grande volume de dados está tornando suas decisões pessoais e profissionais muito mais complicadas;</li>
<li>o dilema decisório está impactando negativamente nossa saúde pessoal e nosso bem estar → 85% dos entrevistados afirmam que sua inabilidade para tomar decisões traz impactos negativos para a sua qualidade de vida;</li>
<li>nossa complexa relação com os dados e com o processo decisório está criando um dilema decisório, ou seja, não saber que decisão tomar → 59% dos entrevistados admitem que enfrentam o dilema decisório mais de uma vez por dia e 70% admitem que desistiram de tomar determinadas decisões porque a análise dos dados representaria uma grande sobrecarga;</li>
<li>o dilema decisório está criando uma destruição no mundo corporativo → 85% dos líderes empresariais já sofreram do sofrimento decisório, o que inclui arrependimento, culpa ou questionamento de decisões anteriores;</li>
<li>o influxo de dados está prejudicando a performance empresarial → 91% dos líderes empresariais consideram que o aumento do número de fontes de dados vem limitando o sucesso de suas organizações e 73% admitem que a falta de confiança em relação aos dados vem impedindo de tomar decisões;</li>
<li>líderes empresariais sabem o quanto é importante a inteligência do processo decisório, assim como sabem que, sem dados, suas decisões terão menos acurácia (45%), serão menos bem sucedidas (29%) ou serão mais propensas a erros (41%).</li>
</ul>
Como se pode observar, se, durante muito tempo, o problema da humanidade foi lidar com a escassez de dados, agora o problema é lidar com o excesso deles. Não é sem razão que a Oracle aproveita a oportunidade do relatório para divulgar seus serviços, ressaltando o quanto é importante o gerenciamento de dados e o analytics business. Nesse contexto, a tecnologia é apresentada pelo relatório como solução milagrosa, pois teria chegado a hora de ela fazer o trabalho duro por nós: “it’s time for technology to do the hard work for us”. 
Não há dúvidas de que a tecnologia é parte importante do processo de tomada de decisão na atualidade. A grande questão, entretanto, é saber em que medida ela pode ou deve ser utilizada em decisões estratégicas e se e como deve ser necessariamente combinada com o julgamento humano.
Para entender melhor o problema, é importante lembrar que há uma diferença entre dado, informação e conhecimento. O primeiro é apenas a matéria-prima de uma informação e, a rigor, pode não ter nenhum significado, ainda mais se analisado isoladamente. Já a informação parte da constatação da relevância e da pertinência de determinados dados para, a partir deles, se chegar a alguma conclusão, que não necessariamente é correta.
Quando se fala de conhecimento, especialmente no sentido de conhecimento científico, a ideia é identificar informação que foi obtida a partir de metodologia idônea e que passou por critérios consistentes de validação, razão pela qual tem mais chances de ser correta. Mesmo que saibamos que não há verdades absolutas, é o conhecimento científico que possibilita ao menos que possamos nos aproximar da verdade.
Tais explicações preliminares são importantes para se entender parte do dilema decisório. Em muitos casos, gestores são inundados por um volume imenso de dados que podem dizer muito pouco ou nada. É preciso um grande esforço para encontrar padrões, inferências ou correlações entre dados, razão pela qual tanto se investe no big analytics e nos sistemas de inteligência artificial que lhe dão suporte, que cada vez mais conseguem trabalhar com volumes imensos de dados.
Entretanto, o processo de extrair informações dos dados é complexo e vem cercado de riscos. A própria escolha da base de dados não é inocente e pode ser determinante para a incorreção dos resultados extraídos a partir dela.
Por outro lado, mesmo que a base de dados seja considerada idônea para oferecer as informações que dela dependem, é fundamental que o treinamento seja adequado, sob pena também de se chegar a resultados incorretos ou mesmo esdrúxulos. Ademais, ainda há a possibilidade de erros e diversos outros problemas, o que justifica uma atenção constante em relação à utilização dos sistemas de inteligência artificial.
Por fim, é importante lembrar que as máquinas podem oferecer padrões, correlações e probabilidades, mas não consideram elementos fundamentais que os seres humanos usam para compreender o mundo, como é o caso das causalidades, constrições e contrafactuais<a href="#_ftn2" name="_ftnref2">[2]</a>. Daí a importância do julgamento humano para avaliar se o resultado das máquinas pode realmente ser considerado uma informação fidedigna.
Dessa maneira, em que pese a necessidade de lidarmos com dados, há bons fundamentos para se sustentar que a interpretação humana continua sendo fundamental tanto por parte de quem programa os sistemas de inteligência artificial, como por parte de quem os utiliza. É irreal achar que vamos delegar decisões complexas para robôs ou mesmo que decisões automatizadas são sempre melhores que as humanas<a href="#_ftn3" name="_ftnref3">[3]</a>.
Também é preciso um especial cuidado com conclusões apressadas, tais como a que considera sempre racional a decisão baseada em dados. Como dados não caem do céu, mas dependem sempre de interpretação, não há propriamente objetividade absoluta na sua utilização. Por outro lado, decidir com base em dados que não podem ser considerados informações fidedignas não poderá ser considerado um processo propriamente racional.
Mesmo estudos empíricos dependem de avaliações qualitativas e subjetivas por parte dos pesquisadores, tais como a de selecionar os dados que serão importantes para o problema, selecionar a metodologia pela qual tais dados serão considerados, mensurados ou avaliados e ainda interpretar os resultados da análise. Como fica claro no Guia Brasileiro de Análise de Dados, de Claudio Shikida, Leonardo Monastério e Pedro Fernando Nery<a href="#_ftn4" name="_ftnref4">[4]</a>:
“Dados não são dados. Ou seja, não caem do céu, prontos e perfeitos para quem os consome. São o resultado, por vezes, de longos processos de construção que envolvem várias decisões metodológicas. Além disso, o consumo dos dados não é imediato. Quem lê ou analisa dados precisa também estar capacitado para compreendê-los. Mesmo pesquisadores experimentados podem cair nas diversas armadilhas que uma nova e desconhecida base de dados geralmente apresenta.”
Daí por que é importante desmistificar a decisão com base em dados, mesmo quando se trata de decisões algorítmicas, especialmente caso se pretenda utilizar estas últimas em substituição às decisões humanas. Na maior parte dos casos, os sistemas algorítmicos replicarão vários dos problemas inerentes às análises empíricas, adicionando diversos outros, como a falta de transparência, uma vez que tais processos não têm explicabilidade nem em termos de metodologia nem em termos de inteligibilidade. Afinal, considerando a obscuridade dos algoritmos, não se tem como compreender por que, a partir de determinados inputs, se chegou a determinados outputs.
Parte desses desafios foram abordados na edição de 27.04.2023 do jornal Valor Econômico, que destacou o já mencionado estudo da Oracle na reportagem “Executivos confiam em robôs para tomar decisões”. É interessante que, ao ser entrevistado pelo jornal, o próprio Presidente da Oracle no Brasil, Alexandre Maioral, esclarece que “[d]ados são fundamentais, mas se não estiverem estruturados ou não forem confiáveis, podem causar um enorme problema”. Mas adiante, ele mostra que a delegação de decisões empresariais não pode ocorrer com questões estratégicas, afirmando categoricamente que “[é] possível automatizar decisões operacionais, mas questões estratégicas não podem ser terceirizadas para o robô”, concluindo que “[n]as empresas, o elemento humano também nunca será substituído”.
Como se vê, é a própria Oracle que responde à pergunta que motivou a presente coluna: não é adequado ou razoável se confiar em um robô para a tomada de nenhuma decisão estratégica, caso se pretenda delegar para o robô a própria decisão. Por outro lado, persistem importantes questões: o que são dados estruturados ou confiáveis? O que pode ser considerado informação fidedigna? É possível confiar em dados oferecidos por um sistema algorítmico incompreensível?
Mesmo pelo olhar da Oracle, a tecnologia é apresentada como uma parceira das decisões estratégicas, como uma ferramenta de auxílio, mas jamais como a última palavra. Aliás, vale ressaltar que tal raciocínio deveria ser estendido até mesmo para decisões operacionais que envolvam riscos ou que possam trazer impactos para direitos de terceiros.
De toda sorte, é importante lembrar que a resposta da pergunta envolve não apenas questões estratégicas, mas também jurídicas. Como já tive oportunidade de ressaltar em artigo<a href="#_ftn5" name="_ftnref5">[5]</a>, há boas razões para se considerar violador do dever de diligência o administrador de sociedade empresarial que delega decisões importantes para máquinas sem os devidos cuidados, especialmente no que toca ao monitoramento e à supervisão.
Para além dos contornos clássicos do dever de diligência, as referências à culpa in eligendo – a escolha do sistema de inteligência artificial que amparará a decisão empresarial – e à culpa in vigilando – a necessária supervisão dos resultados do sistema, inclusive para efeitos de interpretar e contextualizar o resultado automatizado e, se for o caso, complementá-lo pelo julgamento humano – podem ser também importantes referenciais<a href="#_ftn6" name="_ftnref6">[6]</a>.
O que precisa ficar claro é que, se o dilema da decisão empresarial é um problema real, a sua solução pressupõe o uso cuidadoso e adequado da tecnologia, o que definitivamente não ocorrerá com a delegação irresponsável e sem controle das decisões empresariais, especialmente as estratégicas, para as máquinas.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> <a href="https://www.oracle.com/cloud/decision-dilemma/">https://www.oracle.com/cloud/decision-dilemma/</a>.
<a href="#_ftnref2" name="_ftn2">[2]</a> Ver FRAZÃO, Ana. Discriminação algorítmica: resgatando os aspectos positivos dos julgamentos humanos. A importância das narrativas, das contextualizações e das molduras cognitivas. Jota. https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-resgatando-os-aspectos-positivos-dos-julgamentos-humanos-01092021.
<a href="#_ftnref3" name="_ftn3">[3]</a> FRAZÃO, Ana. Decisões algorítmicas x decisões humanas. As falhas das decisões humanas justificam a sua substituição pelas decisões algorítmicas? Jota. <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/decisoes-algoritmicas-x-decisoes-humanas-06042022">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/decisoes-algoritmicas-x-decisoes-humanas-06042022</a>
<a href="#_ftnref4" name="_ftn4">[4]</a> P. 11. <a href="https://repositorio.enap.gov.br/bitstream/1/6039/1/Guia%20BR%20de%20Ana%CC%81lise%20de%20Dados.pdf">https://repositorio.enap.gov.br/bitstream/1/6039/1/Guia%20BR%20de%20Ana%CC%81lise%20de%20Dados.pdf</a>.
<a href="#_ftnref5" name="_ftn5">[5]</a> FRAZÃO, Ana. Responsabilidade civil de administradores de sociedades empresárias por decisões tomadas com base em sistemas de inteligência artificial. In: FRAZÃO, Ana; MULHOLLAND, Caitlin. Inteligência Artificial e Direito. Ética, Regulação e Responsabilidade. São Paulo: RT, 2019.
<a href="#_ftnref6" name="_ftn6">[6]</a> Ver FRAZÃO, Ana. Discriminação algorítmica. Como lidar com reducionismo e formalismo dos sistemas? A importância da inclusão das discussões valorativas na programação e no treinamento dos sistemas. Jota. <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-como-lidar-com-reducionismo-e-formalismo-dos-sistemas-18082021">https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-como-lidar-com-reducionismo-e-formalismo-dos-sistemas-18082021</a>; Discriminação algorítmica: superando estatísticas e cálculos probabilísticos. O necessário enfrentamento do conflito entre acurácia e justiça. Jota. <a href="https://www.jota.info/opiniao-e-analise/artigos/discriminacao-algoritmica-superando-estatisticas-e-calculos-probabilisticos-25082021">https://www.jota.info/opiniao-e-analise/artigos/discriminacao-algoritmica-superando-estatisticas-e-calculos-probabilisticos-25082021</a>; Discriminação algorítmica: resgatando os aspectos positivos dos julgamentos humanos. A importância das narrativas, das contextualizações e das molduras cognitivas. Jota, https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-resgatando-os-aspectos-positivos-dos-julgamentos-humanos-01092021.

proteção de dados; dados

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

É adequado ou razoável confiar em robôs para tomar decisões estratégicas?

O dilema da decisão empresarial diante da sobrecarga de dados

É adequado ou razoável confiar em robôs para tomar decisões estratégicas?