Opinião e Análise

Aline Santos Barbosa

Jose Borbolla Neto

Estas primeiras três décadas do século XXI trouxeram consigo transformações profundas, causadas pelo avanço tecnológico acelerado e seus impactos em nossas vidas.
Um dos motivos para essa aceleração é o aumento vertiginoso da produção e circulação de informações em um mundo cada vez mais interconectado e interdependente. Porém, esse conjunto de tecnologias, especificamente a <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">Inteligência Artificial</a>, vem transformando a realidade e o mundo como o conhecemos de maneira um tanto imprecisa.
<h3><a href="https://www.jota.info/produtos/poder%20?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Tenha acesso ao JOTA PRO Poder, uma plataforma de monitoramento político com informações de bastidores que oferece mais transparência e previsibilidade para empresas. Conheça!</a></h3>
Os avanços tecnológicos perpassam todos os âmbitos da sociedade de maneira transversal. O que gera impactos por todos os lados: do mercado financeiro à agropecuária, do jornalismo à medicina. Isto inclui, obviamente, o Direito e todas as suas áreas de atuação.
Na promessa, quase profética, de que, ao combinarmos estas técnicas e ferramentas para processar e analisar dados, seríamos capazes de resolver todos os problemas que assombram os stakeholders se encontram duas crenças bastante propagadas e enraizadas na nossa época. A primeira delas é o “solucionismo tecnológico”, que consiste numa certa esperança de que o avanço tecnológico, por si só, seria capaz de resolver problemas que falhamos em endereçar. Já a segunda é a ideia de que, para poder controlar ou gerir, é preciso criar formas de mensuração e aferição por meio da atribuição de métricas ou indicadores que tornem possível um nível de leitura sobre um recorte da realidade.
A lógica, portanto, parece evidente quando estas duas narrativas se combinam.
Se a qualidade e assertividade da gestão melhora na mesma medida em que nosso poder de aferição evolui, a conclusão é que hoje, diferente de outras épocas, temos os meios para atingir níveis de eficiência operacional que antes pareciam inalcançáveis.
Ainda que o potencial exista, para que estas técnicas e aplicações recentes nos auxiliem a transformar dados em conhecimento e melhores decisões, nossa compreensão precisa ganhar mais amplitude e considerar diferentes nuances.
Métricas e indicadores são, na realidade, abstrações relacionadas a modelos que simplificam fenômenos reais para que eles se tornem mensuráveis e/ou computáveis.
Como grande parte dos desafios enfrentados pelas organizações são fenômenos complexos, ou seja, compostos por um número muito grande de variáveis, é necessária a elaboração de modelos teóricos que, idealmente, consigam captar o que seriam os aspectos e dinâmicas “mais importantes” destes fenômenos. O que acaba deixando de fora de seus cálculos uma série de outros elementos.
Considere a pontuação que avalia motoristas de aplicativos. De todos os aspectos e detalhes passíveis de consideração da experiência do(a) cliente na utilização daquele serviço, há apenas um único número, numa escala de 1 a 5, que, em tese, cumpre essa missão de verificar a satisfação do usuário e a qualidade do serviço prestado pelo profissional ao volante.
Se você fosse o CEO de uma destas empresas, quantos e quais dados você coletaria para obter uma estimação fidedigna?  Como você realizaria a coleta destes dados?
Para ser computável, a nota destes aplicativos baseia-se em uma medida aproximada, com algum grau de imprecisão, mas ainda assim capaz de capturar aspectos relevantes para a gestão do modelo de negócio. Todo processo de metrificação compartilha desta mesma natureza.
Uma famosa frase, de autoria discutida, afirma que “Nenhum modelo está certo. Mas alguns modelos podem ser úteis”. O mesmo vale para métricas e indicadores.
Outro exemplo interessante para enriquecer nossa discussão é o PIB (Produto Interno Bruto). De maneira específica e simplificada, o PIB é o resultado final de um modelo composto por dados relativos a bens e serviços finais que são medidos quando os preços chegam ao consumidor, contabilizando também os impostos sobre os produtos comercializados.
Hoje, ele é considerado a principal meta de líderes políticos para indicar positivamente as atividades econômicas de cidades, regiões ou países, em um determinado período de tempo
Mas será que um modelo criado para avaliar atividades econômicas teria a capacidade de indicar, de maneira fidedigna, tudo o que "melhorou" na vida dos habitantes, a ponto de se tornar a única medida de "sucesso" disponível?
Vamos explorar dois cenários para tentar captar todas as implicações desta pergunta.
Nos últimos 10 anos, e potencializado durante a pandemia, houve um aumento enorme nos casos de depressão e ansiedade no Brasil, e também nas vendas de medicamentos indicados para estes transtornos. O crescimento da comercialização desses produtos contribuiu para o incremento da participação da indústria farmacêutica no PIB. Mas ainda que o PIB tivesse subido em relação aos anos anteriores, o fato de haver cada vez mais pessoas diagnosticadas com problemas de saúde mental significa que o país melhorou ou piorou?
Nessa mesma linha, agora num cenário hipotético, imagine que um percentual considerável das áreas desmatadas na Amazônia nos últimos anos teria sido utilizado para a ampliação de atividades agropecuárias. Se o aumento no PIB é nossa "única" maneira de medir o sucesso do Brasil, o aumento do desmatamento agropecuário poderia ser interpretado como algo “positivo”, haja vista seus efeitos na balança comercial?
Sob esta perspectiva, você diria que o país melhorou ou piorou?
Como todos os modelos são, em essência, simplificações do mundo real, corremos o risco de ignorar ou sequer saber se existem outros aspectos importantes relativos aos contextos nos quais nossas organizações estão inseridas. O que não apenas impacta negativamente na assertividade das nossas análises e interpretações, como pode produzir conclusões imprecisas, equivocadas ou incorretas.
Notem o potencial explosivo que tecnologias complexas associadas a modelos simplificados da realidade podem gerar e reparem que não se trata de encontrar o "modelo certo", ou a tecnologia “ideal”, mas sim, o quanto é preciso pensar numa definição de sucesso que esteja vinculada tanto a resultados de acurácia e lucro quanto aos efeitos reais causados que considerem juntamente os vieses, as limitações e os efeitos colaterais de seus modelos teóricos.
Utilizar qualquer tipo de tecnologia, por mais avançada que pareça, sem conhecimento e clareza acerca destes elementos, suas naturezas, relações, capacidade e limitações é correr o risco de tomar decisões equivocadas e amplificar o problema que se pretendia resolver. O ChatGPT ou qualquer outra ferramenta precisa ser capaz de responder a questões como estas: será que a nossa concepção de "sucesso” está alinhada com os desafios identificados? O que nossas concepções de “eficiência” estão deixando de fora? Quais efeitos colaterais nossos modelos não estão enxergando?
Ainda que estas e outras tecnologias possam contribuir positivamente, elas sempre serão tão míopes quanto nossa compreensão sobre aquele tema, tão limitadas quanto nossos modelos e concepções da realidade. O que acaba contribuindo para amplificar e aprofundar diversos tipos de problemas. Não é coincidência que estes efeitos colaterais negativos ocorram, na esmagadora maioria dos casos, com grupos historicamente excluídos. Os mesmos que há séculos sofrem com <a href="https://www.amnesty.ca/surveillance/racial-bias-in-facial-recognition-algorithms/">exclusão, violência, perseguição seletiva, injustiças e desigualdades</a>.
No caso do Direito, ser “mais eficiente” ao utilizar ferramentas tecnológicas significa, também, “ser mais justo” ou estar de acordo com as leis atuais?
Fomentar reflexões e discussões que instiguem nossa capacidade de pensamento crítico para que estejamos cada dia mais próximos de responder a estes tipos de questionamentos é, provavelmente, a principal missão desta geração que decide quais as noções de “eficiência” e “sucesso” implementadas nas novas tecnologias. Lembrando que, por mais avançadas e “inteligentes” que possam parecer, são apenas máquinas processadoras capazes de amplificar a nossa visão de mundo.

opção 1 (2)

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Mito da eficiência: ser mais eficiente é também ser mais justo?

O dilema do Direito na era da IA e das transformações que a tecnologia traz para o futuro sob a perspectiva do mito da eficiência