Luís Manoel Borges do Vale

No dia 16/09/2019, no Senado Federal, foi apresentado o Projeto de Lei nº 5.051/2019, de autoria do senador Styvenson Valentim, cujos termos objetivam estabelecer princípios para o uso da inteligência artificial - IA, no Brasil. 
A despeito de louvável, em face dos cenários que se desenham com as novas tecnologias, a proposta é por demais simplória e se alija de iniciativas mais robustas, tais como a do Institute of Electrical and Electronics Engineers (IEEE)<a class="sdfootnoteanc" href="#sdfootnote1sym" name="sdfootnote1anc">1</a> e da Declaração de Montreal para uma Inteligência Artificial Responsável<a class="sdfootnoteanc" href="#sdfootnote2sym" name="sdfootnote2anc">2</a>. 
Não há, por exemplo, detalhamento específico sobre a forma de operacionalização da transparência algorítmica (Data laundry), mormente quando em jogo algoritmos não supervisionados utilizados em machine learning (aprendizado de máquina) para a tomada de decisões<a class="sdfootnoteanc" href="#sdfootnote3sym" name="sdfootnote3anc">3</a>.
<ul class="jota-article__internal-links">
<li>+JOTA: <a href="https://www.jota.info/assine">Assine o JOTA e não deixe de ler nenhum destaque! 
</a></li>
</ul>
Sem embargo do disposto, há uma sugestão de enunciado normativo que pode impactar as iniciativas de uso da inteligência artificial arquitetadas pelos tribunais, tais como o projeto RADAR, do Tribunal de Justiça do Estado de Minas Gerais, e o projeto VICTOR, do Supremo Tribunal Federal. Ocorre que, nos termos do art. 4º, do PLS nº 5.051/2019, os sistemas de inteligência artificial apenas poderão ser utilizados como instrumentos auxiliares à tomada de decisão, ou seja, não será possível que deliberações sejam proferidas, exclusivamente, por máquinas:
Art. 4º Os sistemas decisórios baseados em Inteligência Artificial serão, sempre, auxiliares à tomada de decisão humana.
§ 1º A forma de supervisão humana exigida será compatível com o tipo, a gravidade e as implicações da decisão submetida aos sistemas de Inteligência Artificial. 
§ 2º A responsabilidade civil por danos decorrentes da utilização de sistemas de Inteligência Artificial será de seu supervisor. (Grifos nossos)
O enunciado normativo acima transcrito impede, assim, que seja desenvolvida uma ferramenta de inteligência artificial que se proponha, de modo exclusivo, a confeccionar uma determinada decisão judicial. Ainda que o pronunciamento jurisdicional seja simplório ou com nítido viés repetitivo, a automatização não poderá substituir, por completo, o juízo de apreciação humano.
<ul class="jota-article__internal-links">
<li>+JOTA: <a href="https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/quais-devem-ser-os-parametros-eticos-e-juridicos-para-a-utilizacao-da-ia-24042019">Quais devem ser os parâmetros éticos e jurídicos para a utilização da IA?</a></li>
</ul>
Da forma como esquadrinhada a proposta, poder-se-á afastar benéficos instrumentos de racionalização da atividade jurisdicional. O Projeto ELIS do Tribunal de Justiça do Estado de Pernambuco, originalmente formatado para catalisar atuações dos órgãos jurisdicionais, no âmbito da execução fiscal, não se coaduna com a minuta legislativa, na medida em que se propõe a automatizar, na integralidade, certas e determinadas manifestações do Poder Judiciário:
Durante o projeto piloto, a equipe da Setic programou o sistema “ELIS” para que aprendesse a realizar a triagem inicial de processos ajuizados eletronicamente pela Prefeitura do Recife a partir de ações judiciais selecionadas pelos servidores da Vara de Executivos Fiscais da Capital. A partir da base de conhecimento apresentada, o sistema de inteligência artificial aprendeu a classificar os processos de Executivos Fiscais ajuizados no PJe em relação a divergências cadastrais, competências diversas e eventuais prescrições. Numa etapa posterior, valendo-se de técnicas de automação, "ELIS" ainda é capaz de inserir as minutas no sistema e até mesmo assinar os despachos, acaso opte o magistrado. <a class="sdfootnoteanc" href="#sdfootnote4sym" name="sdfootnote4anc">4</a>
Não se está a defender aqui a possibilidade ampla de tomada de decisões por máquinas, no âmbito do processo jurisdicional. Sabe-se que a construção dos pronunciamentos do Poder Judiciário deve estar supedaneada no devido processo legal, cujo conteúdo impõe, dentre outros deveres constitucionais, a necessidade de fundamentação adequada e de transparência/publicidade inequívoca. Nessa ordem de ideias, é difícil conceber que uma sentença seja prolatada por uma ferramenta de inteligência artificial, sem que os critérios para a adoção do posicionamento sejam esclarecidos em motivação exauriente. 
No contexto atual, há um crônico problema no uso de aplicações de IA, que está relacionado com a opacidade algorítmica, ou seja, inexiste adequada publicização dos critérios adotados pelas máquinas para se chegar a determinada conclusão. Frente ao exposto, admitir decisões judiciais desprovidas de critérios explícitos de motivação é violar a Constituição Federal, mais especificamente em seu art. 93, IX.
A despeito disso, como mencionado outrora, existem situações que envolvem questões repetitivas e procedimentais, que podem ser facilmente operacionalizáveis por máquinas. Um dos terrenos mais férteis é exatamente o da execução fiscal, cujos atos padronizáveis podem ser automatizados sem qualquer problema de ordem técnico-jurídica. Sobre o ponto, manifesta-se o Jordi Nieva Fenoll:<a class="sdfootnoteanc" href="#sdfootnote5sym" name="sdfootnote5anc">5</a>
Otro campo en el que la inteligencia artificial debería entrar decididamente es en la fase de ejecución de las condenas pecuniarias sobre todo. Se trata de un periodo bastante previsible cuyo cometido, como es sabido, es la localización y realización del patrimônio del ejecutado. Es decir, una atividad eminentemente administrativa o de gestión, sin descartar los puntuales pronunciamentos jurisdiccionales que debe contener en ocasiones. 
Subtrair, por completo, como fez o projeto legislativo, a possibilidade de tomada de decisões por máquinas é ignorar a realidade que já se desenha nos tribunais, as quais, em sua maioria, dirigem-se exatamente para as situações que não envolvem labor intelectivo aprimorado (questões repetitivas ou meramente burocráticas). 
<blockquote class="jota-article__eye">Além disso, com o avanço cada vez mais célere das novas tecnologias, é possível que a tomada de decisões por máquinas seja rotineira. </blockquote>
A afirmativa é embasada, principalmente, na evolução do aprendizado de máquina, cujos efeitos práticos já podem ser observados em ferramentas como o IBM Watson e a Lex Machina. Portanto, em um momento disruptivo, fechar as portas para as possibilidades de reestruturação dos modelos tradicionais é obstaculizar o inevitável. 
A Suprema Corte de Wisconsin, por exemplo, foi pioneira na adoção de decisões automatizadas. No caso, adotou-se uma ferramenta de inteligência artificial para formatar decisões alusivas a pedidos de liberdade condicional, com base na probabilidade de reincidência. 
Inobstante o exposto, é salutar deixar claro que a supervisão e monitoramento contínuo das ferramentas de inteligência artificial é medida que se impõe, pois as aplicações podem apresentar falhas, cujos efeitos repercutirão, de logo, nos processos analisados. Nessa linha de intelecção, a depender da forma como sejam tratados os dados e estabelecidos os parâmetros decisórios, para o desenvolvimento de certas ferramentas de IA, é possível vislumbrar a ocorrência de enviesamentos algorítmicos, que podem gerar situações discriminatórias. 
Lado outro, nos moldes do que fora afirmado em linhas pretéritas, toda decisão automatizada deve, necessariamente, respeitar o princípio da publicidade processual, cuja essência deve sofrer uma releitura para abranger a transparência do algoritmo. 
Por fim, é imperioso registrar que a proposta legislativa contraria o art. 20, da Lei Geral de Proteção de Dados (Lei 13.709/2018), pois o referido dispositivo reconhece a possibilidade de tomada de decisões exclusivamente por máquinas:
Art. 20. O titular dos dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade.              <a href="http://www.planalto.gov.br/ccivil_03/_Ato2019-2022/2019/Lei/L13853.htm#art2">(Redação dada pela Lei nº 13.853, de 2019)</a>
<a name="art20§1"></a> § 1º O controlador deverá fornecer, sempre que solicitadas, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada, observados os segredos comercial e industrial.
<a name="art20§2"></a> § 2º Em caso de não oferecimento de informações de que trata o § 1º deste artigo baseado na observância de segredo comercial e industrial, a autoridade nacional poderá realizar auditoria para verificação de aspectos discriminatórios em tratamento automatizado de dados pessoais. (Grifos nossos)
O retrocesso do PLS 5.051/2019, nesse ponto, é evidente, de tal sorte que é necessário que se aprofundem as discussões no Congresso Nacional, a fim de que não seja aprovado um prospecto legislativo que, diante da realidade fática subjacente, deixará de subsistir em um curto espaço de tempo. 
Espera-se, diante do arrazoado ora proposto, que os parâmetros regulatórios do uso da inteligência artificial não constituam obstáculo intransponível ao amadurecimento e aperfeiçoamento das instituições.
------------------------------------
<div id="sdfootnote1">
<a class="sdfootnotesym" href="#sdfootnote1anc" name="sdfootnote1sym">1</a> <a href="https://standards.ieee.org/content/dam/ieee-standards/standards/web/documents/other/ead_executive_summary_portuguese_v1.pdf">https://standards.ieee.org/content/dam/ieee-standards/standards/web/documents/other/ead_executive_summary_portuguese_v1.pdf</a>
</div>
<div id="sdfootnote2">
<a class="sdfootnotesym" href="#sdfootnote2anc" name="sdfootnote2sym">2</a> <a href="https://www.montrealdeclaration-responsibleai.com/the-declaration">https://www.montrealdeclaration-responsibleai.com/the-declaration</a>
</div>
<div id="sdfootnote3">
<a class="sdfootnotesym" href="#sdfootnote3anc" name="sdfootnote3sym">3</a> Em termos simplórios, pode-se definir o algoritmo como o conjunto de instruções repassadas à máquina, para a obtenção de determinado resultado automatizado.
</div>
<div id="sdfootnote4">
<a class="sdfootnotesym" href="#sdfootnote4anc" name="sdfootnote4sym">4</a> <a href="http://www.tjpe.jus.br/noticias/-/asset_publisher/ubhL04hQXv5n/content/id/2079372">http://www.tjpe.jus.br/noticias/-/asset_publisher/ubhL04hQXv5n/content/id/2079372</a>
</div>
<div id="sdfootnote5">
<a class="sdfootnotesym" href="#sdfootnote5anc" name="sdfootnote5sym">5</a> FENOLL, Jordi Nieva. Inteligencia artificial e proceso judicial. Marcial Pons. Madrid, 2018, p. 39. 
</div>

technology-2062712_1280

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Análise do PL nº 5.051/2019, que estabelece princípios para o uso da IA no Brasil

A tomada de decisão por máquinas

Análise do PL nº 5.051/2019, que estabelece princípios para o uso da IA no Brasil