Robson de Oliveira

Ainda que o racismo e todas as formas de discriminação sejam algo complexo e sofisticado, existe um debate sobre como eles podem se manifestar por meio de vieses inconscientes.
Verdadeiramente, é possível dizer que vieses inconscientes são preconceitos, pré-concepções adquiridas a partir das experiências de um indivíduo, que o levam a julgamentos automáticos e o direcionam a determinados comportamentos, que podem ser preconceituosos e discriminatórios.
Esses preconceitos e discriminações são forjados a partir de determinadas construções sobre gênero, raça, classe, dentre outros.  
É público e notório, por exemplo, que algumas pessoas tendem a atravessar a rua ao verem um homem negro. Trata-se de um comportamento adquirido a partir de experiências e construções que compreendem os negros como perigosos. 
Isso se potencializa se houver um determinado modo de vestir, caminhar ou simplesmente estar em locais onde supostamente não seja comum encontrar pessoas identificadas com determinados grupos frequentadores daquele espaço, dentre tantos outros marcadores que podem identificar um determinado grupo social. 
O viés adquirido nesse caso é: o homem é negro e está andando sozinho ou em grupo na rua, logo ele é suspeito. Do mesmo modo, uma pessoa está circulando em uma loja, enxerga uma mulher negra e pergunta a ela o preço de um produto ou a sua localização dentro do estabelecimento, embora essa pessoa seja uma consumidora como qualquer outra naquele espaço. 
Neste caso o viés é: a mulher é negra e está circulando na loja, logo ela é vendedora. Isto porque a construção adquirida funciona no sentido de compreender o lugar social de mulheres negras na posição de serviço e nunca de consumidora ou proprietária. 
Tais vieses originam, portanto, situações que podem, ainda que inconscientemente, prejudicar determinadas pessoas e levar a tomadas de decisões equivocadas. 
Isso acontece muito em processos seletivos porque, especificamente no que diz respeito à questão da raça, existe uma ideia de que pessoas negras não são capazes o suficiente, o que as leva a não serem colocadas como uma primeira alternativa. 
Nestes casos, o candidato terá sua oportunidade cerceada, contudo, o próprio contratante perderá a oportunidade de, com a diversidade, contemplar talentos que são perdidos em razão desses vieses inconscientes.
Infelizmente é possível afirmarmos que existem vieses inconscientes que estão também presentes na <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a>, uma vez que essa decorre da inteligência humana. 
Estudos demonstram que alguns modelos de inteligência artificial podem incorporar os preconceitos dos seres humanos. 
Nos Estados Unidos, essas pesquisas estão bastantes avançadas, inclusive indicando que os algoritmos podem ser tendenciosos uma vez que se baseiam em dados pretéritos, eliminando candidatos oriundos de uma determinada região, deixando de selecioná-los em processos de admissão, identificando pessoas negras como potencialmente mais perigosas, como ocorreu recentemente com um programa de computador no estado da Flórida. 
Por outro lado, é possível dizer que a inteligência artificial pode colaborar para eliminar esses vieses humanos. 
Nesse sentido, se os dados subjacentes na inteligência artificial forem alimentados por pessoas isentas de preconceitos, as tomadas de decisões colocarão em condições iguais pessoas que apenas pela análise humana poderiam estar em patamares diferentes, como por exemplo para a concessão de crédito pelos sistemas bancários.  
Na verdade, a inteligência artificial deve servir como apoio e não como via única para tomadas de decisões, porque é a conciliação entre a análise crítica humana e os dados fornecidos por ela, livres de marcadores discriminatórios, que levarão aos resultados que atendam e satisfaçam a todos isentos de preconceitos e discriminações. 
Com efeito, o ser humano é insubstituível especialmente em algumas áreas do conhecimento, como nas ciências humanas e sociais. 
Desse modo, no campo da justiça e do direito não é possível conceber uma decisão que decorra apenas dos dados da inteligência artificial. Exemplifica-se: uma decisão em um pedido de guarda no direito de família, ainda que a inteligência artificial possa reunir os elementos daquele que, em tese, reúne melhores condições de estar com uma criança, não é possível decidir sem que essa criança seja ouvida e que suas declarações sejam consideradas. 
As tomadas de decisão realizadas com base na inteligência artificial serão seguras se estiverem também apoiadas em um olhar humano e crítico daquele ou daquela que precisa decidir.

markus-spiske-FXFz-sW0uwo-unsplash (1)

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Estudos demonstram que alguns modelos podem incorporar preconceitos dos seres humanos

Vieses inconscientes, inteligência artificial e tomadas de decisões

Ainda que considerados complexos, existe um debate sobre como o racismo e as discriminações se manifestam por meio de vieses inconscientes