Inova&Ação
Menu
  • Justiça
  • Casa JOTA
  • STF
    Voltar
    • STF
    • Do Supremo
    • SUPRA
  • Tributos & Empresas
    Voltar
    • Tributos & Empresas
    • Tributário
    • Concorrência
    • Saúde
    • Trabalho
    • Infraestrutura
    • Regulação
    • Mercado
  • Carreira
  • Dados
    Voltar
    • Dados
    • Aprovação dos Presidentes
    • Rui
    • Agregador de Pesquisas
  • Legislativo
  • Opinião & Análise
    Voltar
    • Opinião & Análise
    • Análise
    • Colunas
    • Artigos
  • Coberturas Especiais
    Voltar
    • Coberturas Especiais
    • Aviação, Competitividade e Desenvolvimento
    • Contencioso Tributário
    • Liberdade de Expressão
    • Inova&Ação
    • Nação Inovadora
    • Nova Economia
    • Segurança Jurídica e Investimento
  • Cadastre-se
  • Assine
  • Pro
Buscar
  • Cadastre-se
  • Assine
  • Pro
Login
  • Facebook
  • Twitter
  • Linkedin
  • Instagram
  • RSS

Home » Coberturas Especiais » Inova&Ação » Inteligência artificial e discriminação algorítmica

  • ICMS NA BASE PIS/COFINS

    ICMS no PIS/Cofins: rejeição dos embargos gerará restituição excessiva, diz Soriano

  • SEM PRECEDENTES

    Como o STF deve se dividir nos próximos julgamentos de caso Lula e Moro

  • Corrupção

    Conseguiram livrar o Brasil da Lava Jato, e agora?

  • renda básica

    STF volta a julgar omissão do Executivo em instituir renda básica

Direito e Tecnologia

Inteligência artificial e discriminação algorítmica

Regulação é condição urgente para sustentar o papel evolutivo da Inteligência Artificial e garantir a defesa do humano

  • Tales Schmidke Barbosa
10/01/2021 07:23
Facebook Twitter Whatsapp Email
comentários
Crédito: Pexels
Inova&Ação

Este texto integra a cobertura de novos temas do JOTA. Apoiadores participam da escolha dos temas, mas não interferem na produção editorial. Conheça o projeto!

As conquistas obtidas com o auxílio de ferramentas de Inteligência Artificial (IA) são inegáveis. A realidade atual convive com uma crescente implementação de artefatos de análise de comportamento humano por meio dessa modalidade de tecnologia, sendo inegável também que as máquinas representam perigo à autonomia dos ser humano, como indivíduo, e podem gerar mecanismos potencialmente discriminatórios em razão da possibilidade de manejo perverso de algoritmos.

É evidente que o avanço da Inteligência Artificial pode trazer grandes benefícios para a humanidade, desde que resguardada a defesa da condição humana e do desenvolvimento sustentável em todas as suas dimensões.


O sistema algorítmico de aprendizagem, utilizado para solucionar possíveis problemas e auxiliar na tomada de decisões por meio de previsões e probabilidades, pode produzir resultados discriminatórios e refletir preconceitos já existentes, principalmente pela utilização de correlações e não de causalidades quando de sua criação. Tudo isso adquire uma maior complexidade quando consideramos o desenvolvimento atual da ciência da computação no campo da IA (Inteligência Artificial), principalmente quando analisamos aprendizagem das máquinas, denominado pelos cientistas da computação de Machine Learning, que pode “mudar as regras do jogo”. Ou seja, o algoritmo inteligente faz uma espécie de previsão com base nos acontecimentos pretéritos e poderá estimar uma probabilidade futura.

Os métodos estatísticos utilizados no processamento de dados por algoritmos podem reproduzir vieses já existentes e levar a resultados discriminatórios, até porque nexo de causalidade e correlações são definidos pelos controladores de dados, que acabam transmitindo vieses existentes nos processos tradicionais de tomadas de decisões. A Inteligência artificial está relacionada à tarefa similar de usar computadores para entender a inteligência humana.

Dentro de diversas abordagens sobre o tema, a inteligência artificial pode ser classificada com IA forte, IA fraca e IA pragmática. Pela primeira abordagem, acredita-se que o computador possa pensar da mesma forma que os humanos. De acordo com a IA fraca, o computador só precisaria agir como se fosse inteligente. Na abordagem pragmática, não importa se as máquinas se pareçam com humanos ou não, e sim qual uso se pode fazer delas.

A inteligência artificial nada mais é do que uma criação algorítmica destinada a cumprir finalidades específicas com base no recebimento de dados objetivos (input) para gerar resultados também objetivos (outputs). O ponto crítico é que os algoritmos de aprendizagem na IA são organizados com maior complexidade do que na automação, pois não apenas seguem regras como também tomam decisões, aprendendo sozinhos sobre dados coligidos[1]. Há ainda, no campo denominado como Machine Learning, o fato de que adentram na máquina além do input e output o resultado desejado, o que torna um algoritmo capaz de tornar a relação entre dado e resultado verdadeira. É o que se chama de learners – são algoritmos inteligentes que criam outros algoritmos.

A discriminação algorítmica decorre do fato de que nessas operações por algoritmos alguém pode pertencer a determinado grupo e ser julgado a partir das características generalizada desse grupo, onde as características individuais de uma pessoa são desconsideradas, sendo vista apenas como membro de um dado conjunto de pessoas. A ocorrência da discriminação se torna melhor explicável quando se conceitua generalizações em consistentes (universais e não universais) e inconsistentes. As generalizações consistentes  podem ser subdividias em universais e não-universais. Nas universais tem-se como destaque o exemplo utilizado por Aristóteles de que “Todos os humanos são mortais”, o que significa que a totalidade da raça humana um dia, de fato, morre, de modo que essa generalização se mostra verdadeira em 100% dos casos. Nas não universais a generalização não se presta a descrever a totalidade de um grupo, mas sim uma característica compartilhada da maioria dos indivíduos daquele grupo, o que pode utilizado com grupo de indivíduos de determinada localidade. Generalizações inconsistentes são as que falham em preencher os parâmetros anteriormente definidos.

Utilizamos como exemplo uma afirmação de que “arianos são impulsivos”, o que é de fácil verificação que essa não é uma característica universal, pois não há evidências de que essas pessoas sejam mais impulsivas do que aquelas nascidas em outros períodos do ano[2]. O ponto chave da generalização é que com muita frequência os algoritmos utilizam características de um grupo  para avaliar a totalidade dos indivíduos, o que é uma forma de discriminação. Isso porque os agentes ainda precisam tomar grandes decisões quando do tratamento desses dados, e consequentemente tendem a utilizar características facilmente observáveis, como gênero, raça, orientação sexual como proxies para características produtivas algorítmicas.

Fator importante a ser observado na discriminação algorítmica é que o perfil criado de determinada pessoa utiliza dados históricos e pretéritos para traçar um perfil adequado ou verdadeira sobre determinada condição, tanto nas situações de emprego, como de marketing, policiamento e diversos outros casos. Se o direito é demasiadamente afetado, provável que o uso seja discriminatório.

O fato é que a inteligência artificial (AI) repercute nas dimensões sociais, econômicas, ambientais, éticas, tornando crucial análise de qualquer tipo de enviesamento, que deve necessariamente ser corrigido no momento da programação da Inteligência Artificial, no curso do aprendizado (adaptabilidade), ou posteriormente. O desenviesamento evita qualquer relação da Inteligência Artificial com a discriminação algorítmica, que deve ser evitada para não inquinar aos vieses associados às predisposições esteriotipantes, discriminatórias e ameaçadoras.

Da mesma forma, a governança algorítmica no uso da Inteligência Artificial deve se tornar inseparável da acconuntability, tendo-se em mente que pessoas serão afetadas pelo processo decisório e que, dessa forma, é necessário oferecer alternativas de responsabilização, o que é pouco evidenciada na Lei Geral de Proteção de Dados Brasileira.

De igual modo deve ser em relação a auditabilidade, que pressupõe a ideia de que um terceiro deva ser capaz de avaliar o método utilizado pelo algoritmo para chegar àquela conclusão.

Como um dos princípios mais desafiadores, também a fairness deve ser inseparável e condição indispensável da governança algorítmica, pois é por trás desse conceito que surge a ideia de que os algoritmos não podem levar a resultados discriminatórios, chamando ao feito a necessidade de evocar a transparência para desmistificar as “caixas-pretas” do sistema algorítmico e obedecer o indispensável protocolo ético-jurídico da inteligência artificial, que abarca tábua necessária de diretrizes para decisão algorítmica.

A regulação estatal sofisticada é condição urgente para sustentar o próprio papel evolutivo da Inteligência Artificial e garantir a defesa do humano ao revés dos danos que a IA está propensa a ocasionar.

_______________________________________________________________________________________________

[1] FREITAS, Juarez; FREITAS, Thomas Bellini. Direito e inteligência artificial: em defesa do humano. Belo Horizonte: Fórum, 2020. p. 29.

[2] SCHAUER, F. Profiles, Probabilities, and Stereotypes. Cambridge: Harvard University Press, 2006 Apud SCHERTEL MENDES, Laura; MATTIUZZO, Marcela. DISCRIMINAÇÃO ALGORÍTMICA: CONCEITO, FUNDAMENTO LEGAL E TIPOLOGIA. Direito Público, [S.l.], v. 16, n. 90, dez. 2019. ISSN 2236-1766. Disponível em: <https://portal.idp.emnuvens.com.br/direitopublico/article/view/3766>. Acesso em: 29 nov. 2020.

Tales Schmidke Barbosa – Advogado. Pós-graduado em Direito Público pela Universidade Federal do Rio Grande do Sul. Pós-graduado em Direito Tributário pelo Instituto Brasileiro de Estudos Tributários – IBET. Sócio do escritório especializado em Direito Administrativo, Tales Barbosa Advocacia e Consultoria.

Compartilhe Facebook Twitter Whatsapp

Próxima
Mercado
Empresa simples de crédito, uma breve reflexão

Tags Direito e Tecnologia inteligência artificial Judiciário

Recomendadas

Vacina / Foto: Tomaz Silva / Agência Brasil

STF

Rede quer que STF obrigue governo a divulgar cronograma de recebimento de vacinas

Sigla pede que governo apresente, em até 48 horas, cronograma atualizado para os próximos três meses

Luiz Orlando Carneiro | Do Supremo

Crédito: Pixabay

Saneamento básico — Avanços e Desafios

Riscos nos contratos de saneamento

Com modernização dos contratos, deve-se superar o tabu relativo ao compartilhamento de riscos

Mariana Saragoça, Julia Barker, Carina Montenegro, Paula Mariotti Feldmann | Artigos

Baterista Terri Lyne Carrington / Crédito: Divulgação/John Watson

Jazz

Novos jazz masters da NEA serão sagrados neste dia 21/4

Cerimônia-concerto virtual será transmitida “ao vivo”, sem ônus

Luiz Orlando Carneiro | Jazz

Crédito: Pixabay

Liberdade de expressão

Desinformação e moderação de conteúdo em redes sociais

Medidas contribuem para um ano eleitoral justo e com uma população consciente e verdadeiramente informada?

Isabela Maria Rosal Santos | Artigos

Crédito: Divulgação/Ancine

Direitos autorais

Ancine como Procon dos direitos autorais?

Agência propôs Instrução Normativa para ser intermediária na persecução de infrações de direito autoral. Fez bem?

Lukas Ruthes Gonçalves, Pedro de Perdigão Lana | Artigos

(Crédito: @NappyStock)

Regulação e novas tecnologias

A ética e o desenvolvimento social devem andar de mãos dadas

Possível derrubada de veto presidencial em relação a certificados digitais pode custar R$ 88 milhões ao erário

Daniel Marques | Regulação e Novas Tecnologias

LGPD

Privacidade

E se Truman tivesse escolhido continuar no show?

Perolla Santos Rodrigues Gualter

Cade

Proteção de dados e defesa da concorrência

Alexandre Barreto de Souza, Ana Luiza Lima Mahon

Casa JOTA

Webinar

Casa JOTA: A agenda dos municípios para o pós-pandemia

Redação JOTA

webinar

Marina Silva: Brasil vai à cúpula do clima pedir dinheiro para cumprir obrigações

Letícia Paiva

Aprovômetro

JOTA Labs

Prorrogação da declaração do IR: Aprovômetro acertou aprovação de PL

Fernando Mello

Previsibilidade

Aprovômetro do JOTA previu corretamente 71% das propostas que viraram lei em 2020

Daniel Marcelino, Fernando Mello

TJSP

Responsabilidade civil

Danilo Gentili e SBT são condenados a indenizar fã de Avril Lavigne em R$ 30 mil

Kalleo Coura

TJSP

Douglas Garcia acumula 6 condenações por danos morais por dossiê antifascista

Mariana Ribas

Reforma tributária

Direito Tributário

Sete mitos sobre a Reforma Tributária

Marcos Lisboa, Marcos José Mendes, Sérgio Wulff Gobetti, Breno Ferreira Martins Vasconcelos

Reforma Tributária

Pela reforma, um combustível para a simplificação tributária

Fabio Silva Alves

reforma administrativa

ORÇAMENTO

Presidente da CMO diz que votação do Orçamento se encerra nesta semana

Érico Oyama

REFORMA ADMINISTRATIVA

Parecer da reforma administrativa na CCJ deve ser apresentado na próxima semana

Érico Oyama

Regulação

Tecnologia

Os desafios jurídicos dos eSports no Brasil

Matheus Sprenger Neubauer da Costa

Covid-19

STF, Anvisa e Sputnik: a pandemia é grave, a falta de cautela regulatória também

Daniel Wei Liang Wang

Liberdade de Expressão

Direito autoral

Unilever deve indenizar autor de plantão da Globo por falta de créditos

Emylly Alves

Liberdade de expressão

Abraji lança Programa de Proteção Legal para Jornalistas

Redação JOTA


  • EDITORIAS
    • STF
    • Tributário
    • Saúde
    • Trabalho
    • Regulação
    • Legislativo
    • Carreira
    • Colunas
    • Artigos
  • Temas
    • Congresso
    • LGPD
    • Anvisa
    • Reforma tributária
    • Carf
    • Liberdade de Expressão
    • TCU
    • Covid-19
    • PIS/Cofins
  • Siga o JOTA
    • YouTube
    • Spotify
    • Twitter
    • LinkedIn
    • Instagram
    • Facebook
  • Sobre
    • Quem Somos
    • About Us
    • Blog
    • Ética JOTA
    • Política de diversidade
    • Termos de uso
    • Política de privacidade
    • Seus dados
    • FAQ
  • Assine
    • Cadastre-se
    • PRO
    • PRO Tributos
    • PRO Poder
    • PRO Saúde
    • Aprovômetro
    • Atendimento
    • Contato
    • Trabalhe Conosco
Sair da versão mobile