Diogo R. Coutinho

Beatriz Kira

Algoritmos são cada vez mais comuns e hoje quase onipresentes nas mais diversas esferas do mundo moderno. Sua ampla utilização para a tomada de decisões públicas e privadas, que afetam direta e indiretamente a vida de milhões de pessoas, suscita a importância da discussão técnica e democrática sobre sua regulação.
<ul class="jota-article__internal-links">
<li lang="pt-PT">+JOTA: <a href="https://www.jota.info/assine">Assine o JOTA e não deixe de ler nenhum destaque!</a></li>
</ul>
<h3 lang="pt-PT" align="justify">O que são algoritmos?</h3>
Um algoritmo pode ser definido de forma simples como uma sequência de etapas para resolver um problema ou realizar uma tarefa. Ele serve não apenas como registro do processo que leva à determinada solução, mas também para apontar o “caminho das pedras” e dar instruções a outros indivíduos ou a máquinas sobre como enfrentar e resolver dado problema.
Algoritmos existem há muito tempo, mas com o desenvolvimento de equipamentos e softwares complexos para coleta, armazenamento e processamento de dados em grandes quantidades e muita velocidade (também chamado de Big Data), eles ganharam muita importância e <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/dados-estatisticas-e-algoritmos-28062017" target="_blank" rel="noopener">passaram a estar por toda parte</a>. Algoritmos são também as unidades constitutivas de sistemas de inteligência artificial e machine learning, tecnologias cada vez mais presentes nos debates públicos.
Tais características fazem de algoritmos poderosos guias de tomada de decisão: eles são usados para influenciar ou mesmo determinar comportamentos humanos e empresariais e também órgãos e agentes públicos. Exemplos disso são a influência dos algoritmos na indústria, na bolsa de valores, na agricultura, na medicina, e até mesmo no <a href="https://www.jota.info/opiniao-e-analise/artigos/algoritmo-supremo-transparencia-e-justica-07022017" target="_blank" rel="noopener">Judiciário</a>, entre muitos outros. Com frequência, algoritmos viabilizam ferramentas que trazem comodidade e segurança, como, por exemplo, mecanismos automáticos de detecção de fraudes em cartões de crédito.
No entanto, são também cada vez mais comuns relatos de <a href="https://www.wired.com/story/ideas-joi-ito-insurance-algorithms/">algoritmos discriminatórios</a>, que contribuem para reforçar e perenizar desigualdades e injustiça social.
<h3 lang="pt-PT" align="justify">Por que é necessário regular algoritmos?</h3>
Tornou-se difícil negar que algoritmos precisam de alguma disciplina e regulação por parte do Estado, principalmente nos casos em que as linhas de código e as decisões resultantes dão substrato a políticas públicas e a regimes regulatórios. O desafio, no entanto, está em como desenhar e implementar uma regulação equilibrada – nem muito leniente, nem muito intrusiva -, que estabeleça balizas para que os algoritmos sejam usados de forma transparente e não discriminatória, mas ao mesmo tempo preserve incentivos ao desenvolvimento tecnológico, isto é, uma regulação que não sufoque ou retarde a inovação.
Diferentes jurisdições têm enfrentado questões similares. Nos Estados Unidos, legisladores apresentaram recentemente um <a href="https://www.wyden.senate.gov/imo/media/doc/Algorithmic%25252520Accountability%25252520Act%25252520of%252525202019%25252520Bill%25252520Text.pdf">projeto de lei</a> para lidar com problemas algorítmicos e de privacidade, propondo a criação de mecanismos de avaliação de impacto de sistemas de decisão automatizada.<a href="#sdfootnote1sym" name="sdfootnote1anc">1</a> Na França, a <a href="https://www.legifrance.gouv.fr/affichLoiPubliee.do?idDocument=JORFDOLE000031589829&amp;type=general&amp;legislature=14">legislação nacional</a> que regula o uso de dados pelo Estado inclui o <a href="http://umdadoamais.com/algoritmos-publicos-como-a-franca-esta-fazendo-e-por-que-deveriamos-fazer-tambem/">princípio da transparência dos algoritmos</a> desde 2016.<a href="#sdfootnote2sym" name="sdfootnote2anc">2</a> A ACCC, autoridade de defesa da concorrência e do consumidor da Austrália, recomendou, em <a href="https://www.accc.gov.au/speech/insights-and-impacts-of-the-accc-digital-platforms-inquiry">relatório recente</a>, a adoção da regulação algorítmica de plataformas de internet como Google e Facebook. No Reino Unido, o parlamento britânico instaurou uma <a href="https://www.parliament.uk/business/committees/committees-a-z/commons-select/science-and-technology-committee/inquiries/parliament-2017/algorithms-in-decision-making-17-19/">comissão</a> para examinar a necessidade de decisões tomadas por algoritmos serem desafiadas, compreendidas e reguladas, além de recomendar medidas regulatórias.<a href="#sdfootnote3sym" name="sdfootnote3anc">3</a> Tampouco no Brasil faltam motivos para que os algoritmos sejam submetidos a alguma forma de supervisão ou disciplina estatal.
De forma mais específica, a regulação pode corrigir assimetrias de informações decorrentes do fato de algoritmos serem ativos ou produtos de consumo muito pouco transparentes. Ademais, as decisões tomadas por algoritmos, dentro de uma “caixa preta”, são com frequência desconhecidas pelas pessoas afetadas por seus comandos. Já as linhas de código que as guiam são em muitos casos protegidas por direito autoral e regras de segredo de negócios. Mesmo quando não são mantidos em sigilo, algoritmos são extremamente complexos, indecifráveis para a maior parte das pessoas comuns que deles se valem ou que são submetidas às suas decisões e escolhas.
Em segundo lugar, a regulação é necessária para assegurar que algoritmos não violem direitos por meio de preferências e descartes que traduzam vieses e formas explícitas ou sutis de discriminação. Algoritmos não são neutros, uma vez que incorporam visões, idiossincrasias e valores das pessoas e empresas que os desenvolveram, assim como podem ser incompletos ou tendenciosos os dados utilizados para informar a tomada de decisão.
Por isso, algoritmos muitas vezes criam ou acentuam assimetrias de poder e oportunidades, afetam a meritocracia e induzem resultados, de modo que a regulamentação deve garantir que seu uso não seja traduzido em decisões ou diretrizes de política pública injustas e ilegais. Nesse sentido, a regulação deveria almejar que se possa obter informações sobre como o algoritmo toma decisões e faz certas escolhas que, como dito acima, inevitavelmente afetam pessoas. Além disso, um regime regulatório poderia também definir responsabilidades pelos sistemas de decisão algorítmica, isto é, identificar quem é juridicamente responsável por esses sistemas e pelo que eles causam, induzem ou determinam. Por trás dos algoritmos sempre há pessoas e interesses, é bom lembrar.
Por fim, é importante mencionar que mesmo na ausência de regulação específica, algoritmos não operam em um vácuo normativo. Um novo modelo regulatório deve levar em conta, por isso, a intersecção entre algoritmos e outras áreas já tuteladas pelo direito de alguma forma. Por exemplo, algoritmos são abastecidos por dados, em muitos casos dados pessoais.
Quanto a isso, o direito fundamental à privacidade e a recém-aprovada <a href="http://www.planalto.gov.br/ccivil_03/_Ato2015-2018/2018/Lei/L13709.htm">Lei Geral de Dados Pessoais</a> (que entrará em vigor em 2020) já estabelecem uma série de salvaguardas, que devem ser consideradas – com as devidas referências normativas, para garantir coerência interpretativa e sistematicidade ao arcabouço jurídico - no desenho regulatório.
Além disso, como se sabe, algoritmos foram amplamente usados na campanha eleitoral de 2018 no Brasil, com o emprego de tecnologias de perfil segmentadas para propaganda política e <a href="http://www.internetlab.org.br/pt/informacao-e-politica/campanha-digital-e-o-impulsionamento-de-conteudo-pelas-candidaturas-camara-dos-deputados/">microdirecionamento de conteúdo</a>, temas que a Justiça eleitoral tem acompanhado de perto e em relação aos quais população mostrou preocupação. Por fim, algoritmos não deixam de ser produtos ou mercadorias privadas dotados de valor econômico, que podem propiciar não apenas lucros, mas também gerar vantagens competitivas ou mesmo levar a <a href="https://www.law.ox.ac.uk/business-law-blog/blog/2017/02/how-online-competition-affects-offline-democracy">abusos de poder econômico</a>.
Ou seja, a regulação algorítmica deve ser combinada, no mínimo, com a proteção de dados, a legislação eleitoral, a defesa da concorrência, a defesa do consumidor e normas setoriais nos campos da saúde, educação, meio ambiente e urbanismo.
<h3 lang="pt-PT" align="justify">Como regular?</h3>
Em face de toda a complexidade dos algoritmos e de suas múltiplas interações com outros campos do direito, regular algoritmos significa não apenas regular a forma pela qual algoritmos são usados, mas também regular seus elementos constitutivos, as linhas de código que os compõem. Ou sejam como são criados. No primeiro caso, há outros instrumentos jurídicos e outras legislações que podem ser aplicadas para garantir que algoritmos respeitem os direitos dos indivíduos direta ou indiretamente afetados por sua utilização, como os mencionado acima. No segundo caso, há boas razões para defender a implementação de regras de transparência e prestação de contas (accountability, no termo em inglês), de preferência com alguma forma de certificação ou auditoria que valide a qualidade e a integridade da informação dos dados com base nos quais as decisões algorítmicas são tomadas.
A regulação deve ainda assegurar que o algoritmo seja capaz de vir acompanhado por uma ‘bula" (descrição que não viole segredos de negócio, mas informe o consumidor ou destinatário) de sua função e intenção, bem como de uma lista primária que sirva como fonte da origem dos dados, para que se possa saber de que é composto o sistema. Por exemplo, pesquisadores da Universidade de Oxford defendem a implementação de um ‘<a href="https://www.law.ox.ac.uk/business-law-blog/blog/2018/10/right-reasonable-inferences-re-thinking-data-protection-law-age-big">direito a inferências razoáveis</a>’, que garantiria aos titulares de dados algumas proteções contra decisões algorítmicas consideradas problemáticas ou injustas.
Como lembra <a href="http://umdadoamais.com/algoritmos-publicos-como-a-franca-esta-fazendo-e-por-que-deveriamos-fazer-tambem/">Fernanda Campgnucci</a>, no Brasil, a Lei Geral de Dados Pessoais garante em seu art. 20 o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais, obrigando o controlador a fornecer, mediante solicitação, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada, observados os segredos comercial e industrial. Resta saber, no entanto, como tal direito será operacionalizado, principalmente na ausência de uma autoridade nacional independente responsável pelo monitoramento e aplicação da lei.
Vale lembrar, por fim, que a regulação não deve ser um fim em si mesmo, mas sim servir à proteção de direitos e interesses. Encontrar o ajuste fino acerca do tipo e abordagem adequada para o modelo regulatório é sem dúvidas um desafio, principalmente quando se tratam de tecnologias em constante evolução.
Nesse sentido, o emprego de regulações experimentais, algo similar aos chamados sandboxes regulatórios, já discutidos em <a href="https://www.jota.info/coberturas-especiais/inova-e-acao/legislacao-experimental-e-inovacao-nas-politicas-publicas-26022019" target="_blank" rel="noopener">outro texto</a>, pode ser alternativa também para a regulação de algoritmos. Em suma, a regulação algorítmica é algo que tornou inevitável e ao mesmo tempo desafiador que, por isso mesmo, requererá esforços conjuntos de diferentes setores da sociedade, evidências empíricas que a guie, expertise técnica e alguma flexibilidade e espaço para adaptação ao longo do caminho. Sem dúvida um imenso desafio em um país em que a regulação ainda luta para ser reconhecida como importante ferramenta de eficiência e justiça social que é.
----------------------------------------
<div id="sdfootnote1">
<a href="#sdfootnote1anc" name="sdfootnote1sym">1</a> Algorithmic Accountability Act de 2019, proposto pelos senadores Cory Booker e Ron Wyden, e pela deputada Yvette Clarke.
</div>
<div id="sdfootnote2">
<a href="#sdfootnote2anc" name="sdfootnote2sym">2</a> LOI n° 2016-1321 du 7 octobre 2016 pour une République numérique
</div>
<div id="sdfootnote3">
<a href="#sdfootnote3anc" name="sdfootnote3sym">3</a> Veja-se, por exemplo, a coletânea de artigos “Algorithmic Regulation”. CARR – Centre for Analysis of Risk and Regulation at the London School of Economics (2017), disponível em <a href="https://www.kcl.ac.uk/law/research/centres/telos/assets/DP85-Algorithmic-Regulation-Sep-2017.pdf">https://www.kcl.ac.uk/law/research/centres/telos/assets/DP85-Algorithmic-Regulation-Sep-2017.pdf</a>
</div>

programming-1857236_1280

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Algoritmos não são neutros, uma vez que incorporam visões, idiossincrasias e valores das pessoas e empresas que os desenvolveram

Por que (e como) regular algoritmos?

Algoritmos não são neutros, uma vez que incorporam visões, idiossincrasias e valores das pessoas e empresas que os desenvolveram