Bruno R. Bioni

Pedro Martins

O julgamento da Ação Direta de Inconstitucionalidade 6.389, também conhecida como caso IBGE, pelo Supremo Tribunal Federal já se tornou um marco para a tutela da proteção de dados no Brasil. Para além do do reconhecimento da proteção de dados enquanto um direito fundamental autônomo, a fundamentação de parte dos votos abre espaço para uma outra discussão de talvez ainda maior importância: a releitura da cláusula do devido processo em meio a um cenário crescente de automatização de processos de tomadas de decisão que afetam as liberdades dos indivíduos, que já tem sido chamado devido processo informacional. O Ministro Gilmar Mendes, em seu voto afirma:
“É possível identificar como corolário da dimensão subjetiva do direito à proteção de dados pessoais, a preservação de verdadeiro “devido processo informacional” (informational due process privacy right), voltado a conferir ao indivíduo o direito de evitar exposições de seus dados sem possibilidades mínimas de controle, sobretudo em relação a práticas de tratamento de dados capazes de sujeitar o indivíduo a julgamentos preditivos e peremptórios."
Nesse texto, iremos apresentar algumas discussões ligadas à regulação e imposição de salvaguardas em processos de tomada de decisão automatizados.. O tópico de discriminação e vieses em algoritmos não é novo. Contudo, queremos chamar atenção para a (falta) de aderência da cláusula do devido processo, especialmente quando se trata de uma situação em que o poder público está avaliando seus cidadãos para a tomada de uma decisão a seu respeito.
Em primeiro lugar, é importante deixar claro sobre o que estamos falando. Diversas atividades de tratamento de dados buscam classificar-perfilhar (profiling) um indivíduo ou um grupo de indivíduos (grouping) de acordo com alguma finalidade. Um conhecido exemplo é a elaboração de scores de crédito, indicando o grau de risco que de determinada pessoa quitar ou não uma dívida.
<a href="https://conteudo.jota.info/risco-politico" target="_blank" rel="noopener noreferrer"><img class="aligncenter wp-image-244336 size-full" src="https://www.jota.info/wp-content/uploads/2020/04/cta-risco-politico.png" alt="" width="1080" height="1080" /></a>
Contudo, diversos outros exemplos podem ser encontrados. Recentemente, o sistema de <a href="https://www1.folha.uol.com.br/mercado/2020/06/entregadores-organizam-paralisacao-e-movimento-chega-a-capitais-latinas.shtml?">avaliação de entregadores e motoristas de aplicativos de entrega, que pode levar aos trabalhadores serem bloqueados no aplicativo, vem sendo questionado.</a>
Outro exemplo conhecido é o emprego de algoritmos de análise de risco em processos criminais, avaliando a chance de reincidência de um réu, servindo de base para juízes concederem ou não a liberdade condicional. Em um dos casos mais famosos, o COMPAS, <a href="https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing">investigações encontraram evidências que réus negros eram sistematicamente discriminados, recebendo avaliações que indicavam um risco maior de </a><a href="https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing">reincidência</a><a href="https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing">.</a>
<blockquote class="jota-article__eye">Além dos danos individuais advindos de processos discriminatórios, há de se ter também uma preocupação a respeito de como o uso de soluções guiadas pelo tratamento de dados, quando não abertas ao escrutínio público, podem intensificar a exclusão de grupos vulneráveis.</blockquote>
<a href="https://digital.hbs.edu/platform-digit/submission/street-bump-crowdsourcing-better-streets-but-many-roadblocks-remain/">A cidade de Boston decidiu lançar, em 2012, um aplicativo de celular que cidadãos utilizariam enquanto dirigem seus carros para detectar buracos e falhas no asfaltamento das ruas</a>. A partir dessas informações, a prefeitura da cidade iria determinar os pontos prioritários para recapeamento das ruas. Contudo, a produção desses dados só era feita por cidadãos que possuíam algum smartphone, áreas mais pobres se tornaram invisíveis pela métrica adotada.
Como argumenta a autora Julie Cohen, a garantia do direito à privacidade (e porque não, também a proteção de dados), tem como propósito não a reclusão do indivíduo perante à sociedade, mas justamente o oposto, propiciando a capacidade de navegar por múltiplos ambientes sociais e culturais com liberdade para experimentar diferentes vivências sem que seja estigmatizado por isso.
“Além disso, a privacidade não protege apenas os indivíduos. A privacidade promove objetivos fundamentais de políticas públicas relacionadas à cidadania liberal democrática, à inovação e ao florescimento humano, e esses propósitos também devem ser levados em consideração na elaboração de políticas de privacidade.”<a href="#_ftn1" name="_ftnref1">[1]</a>
Por consequência, com uma privacidade diminuída ou ameaçada a possibilidade de exercício de uma subjetividade crítica também é afetada. Isso também implica diretamente na possibilidade de concretização e manutenção de um sistema de democracia liberal, visto que nesse cenário os cidadãos terão cada vez menos a capacidade ou disposição de contestar práticas que consideram abusiva e buscar agendas de mudança<a href="#_ftn2" name="_ftnref2">[2]</a>.
Uma das alternativas a aplicação de sistemas totalmente automatizados é a inserção de humanos no processo de tomada de decisão (também conhecido como Human-in-the-loop). Contudo, essa solução, embora possa mitigar alguns dos problemas, também deve ser analisada com cuidado.
Alguns autores argumentam que, mesmo quando uma decisão automatizada serve apenas como recomendação para a decisão final (a ser tomada por um humano), ela poderá ser o elemento decisivo, transformando a própria noção do que entendemos como processo de tomada de decisão. Isso porque, para desconsiderar uma recomendação o operador humano terá que usar argumentos que seriam aferíveis quantitativamente tanto quanto as previsões algorítmicas. Nesse caso, todo espaço para alguma concepção pessoal de justiça ou mesmo de incerteza é eliminado em favor de uma mensuração preditiva avessa a riscos<a href="#_ftn3" name="_ftnref3">[3]</a>.
Portanto, alguns dos principais problemas encontrados com sistemas de tomada de decisão automatizada incluem: falta de transparência, dificuldade de identificação e correção de erros, dificuldade de contestar decisões e reforço de desigualdades já existentes.
No sistema democrático de direito (rule of law), decisões que afetam o interesse de uma pessoa (por exemplo, a revogação de uma assistência social) devem ser informadas previamente para que ela possa contestar a decisão, se defender, ou apresentar informações adicionais que podem resultar na reversão da decisão. Como colocam os autores Danielle Citron e Frank Pasquale:
<blockquote class="jota-article__eye">“Novos tomadores de decisão algorítmicos são soberanos sobre aspectos importantes da vida individual. Se a lei e o devido processo estão ausentes nesse campo, estamos essencialmente abrindo caminho para uma nova ordem feudal de intermediários reputacionais que não são chamados a prestar contas.” <a href="#_ftn4" name="_ftnref4">[4]</a></blockquote>
É exatamente para evitar o crescimento da assimetria informacional e colocar em xeque relações de poder que o devido processo informacional se mostra como uma garantia cada vez mais necessária. Aliás, a própria autonomia do direito à proteção de dados pessoais frente ao direito à privacidade está enraizada nessa racionalidade de devido processo. Essa foi afirmação pioneira do advogado Arthur Miller durante o processo de elaboração das chamadas fair information practice principles no Departamento de Estado e bem estar social dos Estados Unidos da América:
“Existe uma certa combinação entre temas de privacidade e os demais temas constitucionais. Minha visão pessoal é que provavelmente um dos maiores bastiões constitucionais da privacidade ainda não explorado pelas cortes ou pelos defensores ativistas é o conceito de devido processo legal, a noção de que governos não podem privá-lo de sua vida, liberdade, propriedade, sem o devido processo legal, uma restrição que recai tanto sobre o governo nacional quanto, claro, sobre os estados e governos locais.​ Me parece que está por ser escrito o capítulo sobre devido processo informacional.
E certos tipos de levantamentos, usos e disseminação de informação governamental podem ser desafiados quando violarem o devido processo (...) E é também interessante notar que o direito original à privacidade, concebido por Warren e Brandeis, em seu doutrinário e significante artigo em 1890, era simplesmente o direito que um indivíduo teria contra a mídia de massa. Não foi concebido para ser um direito geral. Não foi concebido para ser um direito individual contra o Estado. Era simplesmente, como colocou Brandeis, o direito de ser deixado a sós pela grande mídia.”<a href="#_ftn5" name="_ftnref5">[5]</a>
Assim, o devido processo legal, para além de sua dimensão de ser um instrumento de garantias processuais em sede judicial (servindo de base para princípios como do juiz natural, inafastabilidade da jurisdição e todas demais garantias previstas pelo sistema processual), deve também ser entendido como uma ferramenta de assegurar a simetria e proporcionalidade de uma forma mais ampla. Tanto as relações indivíduo-estado, quanto as relações privadas em que há uma assimetria de poder devem ser permeadas pela garantia do devido processo, evitando que ações arbitrárias e intrusivas sejam tomadas sem que o sujeito tenha a capacidade de se defender.
Essa capacidade vem sendo ameaçada com a adoção de sistemas de tomada de decisão automatizada, que, seja por razões técnicas (dificuldade de auditar uma decisão algorítmica que emprega técnicas de machine-learning, por exemplo), seja por razões jurídicas (proteção do segredo comercial ou industrial), levam a decisões que são determinantes para a vida do sujeito, sem que este possa ao menos saber os fatores que levaram àquela decisão, sendo mais difícil ainda uma eventual contestação do resultado.
A Lei Geral de Proteção de Dados (Lei 13.709) inaugura esse regime com o direito de revisão de decisões automatizadas, previsto em seu art. 20, caput. Além disso, o art. 20 §1º vem sendo entendido por alguns autores como uma garantia de direito à explicação<a href="#_ftn6" name="_ftnref6">[6]</a>. Ambas são importantes salvaguardas que permitem uma permeabilidade do Direito nos processos algoritmos. Contudo, mais mecanismos de transparência, auditoria e especialmente quando se tratar de decisões tomadas pelo Estado, devem continuar a ser elaborados.
Para além da imposição de obrigações legais sob atividades de tratamento de dados, a participação pública e popular na elaboração de soluções digitais e tecnológicas pode também ser um caminho ainda mais proveitoso. Um dos melhores exemplos a serem citados é o da cidade de Barcelona, que sob a coordenação da pesquisadora Francesca Bria iniciou o “Programa de digitalização aberto e ágil da Prefeitura de Barcelona [<a href="https://ajuntament.barcelona.cat/digital/en/blog/barcelona-digital-government-open-agile-and-participatory">Barcelona City Council’s Open and Agile Digitalisation Programme</a>].”
A partir de software livre; código, padrões, formatos abertos os cidadãos poderão colaborar na elaboração de políticas públicas e o uso de blockchain para registro do que o Estado faz com os dados pessoais dos cidadãos, há uma espécie de contravigilância cujo objetivo é redução da assimetria de informação e, sobretudo, de <a href="https://brunobioni.com.br/wp-content/uploads/2019/05/TIC_eGOV_2017_livro_eletronico-55-62.pdf">co-deliberação</a> na formatação desses circuitos decisórios automatizados.
Iniciativas como essa demonstram que é possível conjugar avanços tecnológicos e digitalização de serviços à observância direitos fundamentais, sem recair nas armadilhas dos exemplos citados no texto. A garantia do devido processo lhes dá densidade jurídica, garantindo uma espécie de contraditório e ampla defesa a ser exercido de forma coletiva em contraponto à ação em tempo real e opaca dos algoritmos.
-------------------------------
<a href="#_ftnref1" name="_ftn1">[1]</a> COHEN, Julie. What is Privacy For. Harvard Law Review, vol. 126, 2013, p. 19-20.
<a href="#_ftnref2" name="_ftn2">[2]</a> COHEN, Julie. What is Privacy For. Harvard Law Review, vol. 126, 2013.
<a href="#_ftnref3" name="_ftn3">[3]</a> ROUVROY, Antoinette. The end(s) of critique: data behaviourism versus due process. In: HILDEBRANDT, Mireille; DE VRIES, Katja (eds.). Privacy, Due Process and the Computational Turn: the philosophy of law meets the philosophy of technology. New York: Routledge, pp. 143-167, 2013.
<a href="#_ftnref4" name="_ftn4">[4]</a> CITRON, Danielle, PASQUALE, Frank. The Scored Society: Due Process for Automated Predictions. Washington Law Review, Vol. 89, 2014, p. 19.
<a href="#_ftnref5" name="_ftn5">[5]</a> MILLER, Arthur. Transcription of the 1st Meeting Part I of the Secretary’s Advisory Committee on Automated Personal Data Systems of the U.S. Department of Health, Education and Welfare, p. 267. [Destaques não constam no original].
<a href="#_ftnref6" name="_ftn6">[6]</a> MONTEIRO, Renato Leite. Existe um direito à explicação na Lei Geral de Proteção de Dados Pessoais?, Instituto Igarapé, Artigo Estratégico nº 39, Dezembro de 2018.
&nbsp;

earth-2254769_1920

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Iniciativa demonstra que é possível conjugar avanços tecnológicos e digitalização de serviços à observância direitos fundamentais

Devido processo informacional: um salto teórico-dogmático necessário?

Iniciativa demonstra que é possível conjugar avanços tecnológicos e digitalização de serviços à observância direitos fundamentais