Tales Schmidke Barbosa
As conquistas obtidas com o auxílio de ferramentas de Inteligência Artificial (IA) são inegáveis. A realidade atual convive com uma crescente implementação de artefatos de análise de comportamento humano por meio dessa modalidade de tecnologia, sendo inegável também que as máquinas representam perigo à autonomia dos ser humano, como indivíduo, e podem gerar mecanismos potencialmente discriminatórios em razão da possibilidade de manejo perverso de algoritmos.
É evidente que o avanço da Inteligência Artificial pode trazer grandes benefícios para a humanidade, desde que resguardada a defesa da condição humana e do desenvolvimento sustentável em todas as suas dimensões.
O sistema algorítmico de aprendizagem, utilizado para solucionar possíveis problemas e auxiliar na tomada de decisões por meio de previsões e probabilidades, pode produzir resultados discriminatórios e refletir preconceitos já existentes, principalmente pela utilização de correlações e não de causalidades quando de sua criação. Tudo isso adquire uma maior complexidade quando consideramos o desenvolvimento atual da ciência da computação no campo da IA (Inteligência Artificial), principalmente quando analisamos aprendizagem das máquinas, denominado pelos cientistas da computação de Machine Learning, que pode “mudar as regras do jogo”. Ou seja, o algoritmo inteligente faz uma espécie de previsão com base nos acontecimentos pretéritos e poderá estimar uma probabilidade futura.
Os métodos estatísticos utilizados no processamento de dados por algoritmos podem reproduzir vieses já existentes e levar a resultados discriminatórios, até porque nexo de causalidade e correlações são definidos pelos controladores de dados, que acabam transmitindo vieses existentes nos processos tradicionais de tomadas de decisões. A Inteligência artificial está relacionada à tarefa similar de usar computadores para entender a inteligência humana.
Dentro de diversas abordagens sobre o tema, a inteligência artificial pode ser classificada com IA forte, IA fraca e IA pragmática. Pela primeira abordagem, acredita-se que o computador possa pensar da mesma forma que os humanos. De acordo com a IA fraca, o computador só precisaria agir como se fosse inteligente. Na abordagem pragmática, não importa se as máquinas se pareçam com humanos ou não, e sim qual uso se pode fazer delas.
A inteligência artificial nada mais é do que uma criação algorítmica destinada a cumprir finalidades específicas com base no recebimento de dados objetivos (input) para gerar resultados também objetivos (outputs). O ponto crítico é que os algoritmos de aprendizagem na IA são organizados com maior complexidade do que na automação, pois não apenas seguem regras como também tomam decisões, aprendendo sozinhos sobre dados coligidos[1]. Há ainda, no campo denominado como Machine Learning, o fato de que adentram na máquina além do input e output o resultado desejado, o que torna um algoritmo capaz de tornar a relação entre dado e resultado verdadeira. É o que se chama de learners – são algoritmos inteligentes que criam outros algoritmos.
A discriminação algorítmica decorre do fato de que nessas operações por algoritmos alguém pode pertencer a determinado grupo e ser julgado a partir das características generalizada desse grupo, onde as características individuais de uma pessoa são desconsideradas, sendo vista apenas como membro de um dado conjunto de pessoas. A ocorrência da discriminação se torna melhor explicável quando se conceitua generalizações em consistentes (universais e não universais) e inconsistentes. As generalizações consistentes podem ser subdividias em universais e não-universais. Nas universais tem-se como destaque o exemplo utilizado por Aristóteles de que “Todos os humanos são mortais”, o que significa que a totalidade da raça humana um dia, de fato, morre, de modo que essa generalização se mostra verdadeira em 100% dos casos. Nas não universais a generalização não se presta a descrever a totalidade de um grupo, mas sim uma característica compartilhada da maioria dos indivíduos daquele grupo, o que pode utilizado com grupo de indivíduos de determinada localidade. Generalizações inconsistentes são as que falham em preencher os parâmetros anteriormente definidos.
Utilizamos como exemplo uma afirmação de que “arianos são impulsivos”, o que é de fácil verificação que essa não é uma característica universal, pois não há evidências de que essas pessoas sejam mais impulsivas do que aquelas nascidas em outros períodos do ano[2]. O ponto chave da generalização é que com muita frequência os algoritmos utilizam características de um grupo para avaliar a totalidade dos indivíduos, o que é uma forma de discriminação. Isso porque os agentes ainda precisam tomar grandes decisões quando do tratamento desses dados, e consequentemente tendem a utilizar características facilmente observáveis, como gênero, raça, orientação sexual como proxies para características produtivas algorítmicas.
Fator importante a ser observado na discriminação algorítmica é que o perfil criado de determinada pessoa utiliza dados históricos e pretéritos para traçar um perfil adequado ou verdadeira sobre determinada condição, tanto nas situações de emprego, como de marketing, policiamento e diversos outros casos. Se o direito é demasiadamente afetado, provável que o uso seja discriminatório.
O fato é que a inteligência artificial (AI) repercute nas dimensões sociais, econômicas, ambientais, éticas, tornando crucial análise de qualquer tipo de enviesamento, que deve necessariamente ser corrigido no momento da programação da Inteligência Artificial, no curso do aprendizado (adaptabilidade), ou posteriormente. O desenviesamento evita qualquer relação da Inteligência Artificial com a discriminação algorítmica, que deve ser evitada para não inquinar aos vieses associados às predisposições esteriotipantes, discriminatórias e ameaçadoras.
Da mesma forma, a governança algorítmica no uso da Inteligência Artificial deve se tornar inseparável da acconuntability, tendo-se em mente que pessoas serão afetadas pelo processo decisório e que, dessa forma, é necessário oferecer alternativas de responsabilização, o que é pouco evidenciada na Lei Geral de Proteção de Dados Brasileira.
De igual modo deve ser em relação a auditabilidade, que pressupõe a ideia de que um terceiro deva ser capaz de avaliar o método utilizado pelo algoritmo para chegar àquela conclusão.
Como um dos princípios mais desafiadores, também a fairness deve ser inseparável e condição indispensável da governança algorítmica, pois é por trás desse conceito que surge a ideia de que os algoritmos não podem levar a resultados discriminatórios, chamando ao feito a necessidade de evocar a transparência para desmistificar as “caixas-pretas” do sistema algorítmico e obedecer o indispensável protocolo ético-jurídico da inteligência artificial, que abarca tábua necessária de diretrizes para decisão algorítmica.
A regulação estatal sofisticada é condição urgente para sustentar o próprio papel evolutivo da Inteligência Artificial e garantir a defesa do humano ao revés dos danos que a IA está propensa a ocasionar.
_______________________________________________________________________________________________
[1] FREITAS, Juarez; FREITAS, Thomas Bellini. Direito e inteligência artificial: em defesa do humano. Belo Horizonte: Fórum, 2020. p. 29.
[2] SCHAUER, F. Profiles, Probabilities, and Stereotypes. Cambridge: Harvard University Press, 2006 Apud SCHERTEL MENDES, Laura; MATTIUZZO, Marcela. DISCRIMINAÇÃO ALGORÍTMICA: CONCEITO, FUNDAMENTO LEGAL E TIPOLOGIA. Direito Público, [S.l.], v. 16, n. 90, dez. 2019. ISSN 2236-1766. Disponível em: <https://portal.idp.emnuvens.com.br/direitopublico/article/view/3766>. Acesso em: 29 nov. 2020.
