Pedro Arthur Capelari de Lucena

Um bom número de atividades decisórias são tomadas no mundo - e no Brasil não seria diferente - a partir de modelos de análises e riscos preditivos, utilizando sistemas automatizados, com algum uso de engenharia em inteligência artificial.
Na última década inúmeras Startups e empresas de tecnologia inovaram de forma exponencial, utilizando “algoritmos inteligentes” nas suas atividades, promovendo processos muitas vezes disruptivos, que facilitaram a nossa vida, transformando práticas anteriormente desgastantes e inefetivas, em atividades rápidas, factuais e, principalmente, menos maçantes.
<ul class="jota-article__internal-links">
<li>+JOTA: <a href="https://www.jota.info/assine" target="_blank" rel="noopener" data-saferedirecturl="https://www.google.com/url?q=https://www.jota.info/assine&amp;source=gmail&amp;ust=1571926311855000&amp;usg=AFQjCNEDEoooJAaSTjpv8ki-OcPwknAwzw">Assine o JOTA e não deixe de ler nenhum destaque!</a></li>
</ul>
Seja para sistemas anti-fraudes, concessões de crédito, valores e taxas de juros, diagnósticos clínicos, exames curriculares, direcionamento de rondas policiais, previsibilidade de catástrofes naturais as aplicações de “algoritmos inteligentes” auxiliam, e às vezes até decidem, nas configurações das respostas.
E o êxito dos resultados entregues algoritmicamente é, felizmente, cada vez mais alto.
<blockquote class="jota-article__eye">Contudo, assim como nas avaliações humanas, não é perfeito, comportando falhas que podem e tendem em alguns momentos a gerar resultados descontextualizados, incertos e falsos.</blockquote>
A ideia de neutralidade em sistemas de Inteligência Artificial é por toda sorte, um tanto aparente. Por mais que existam avanços significativos e exponenciais, ainda nos encontramos em ambientes de debilidades tecnológicas - algumas empresas e Governos mais que outros - que põe em cheque o índices de confiabilidade das conclusões. Ademais existe a questão do <a href="https://arstechnica.com/tech-policy/2019/01/yes-algorithms-can-be-biased-heres-why/">vieses</a>, que não tem de ser descartado nas análises de aplicação da Inteligência Artificial.
Como coibir os carregamentos de aprendizagens, a partir de interações humanas ou heranças de conteúdos prévios, quando estes são preconceituosos, por exemplo?
Por mais que os exames oriundos de programas de Inteligência Artificial estejam cada vez mais precisos e complexos, e exista todo um amplo debate sobre o conteúdo filosófico das aplicações das Inteligências Artificiais, parece-nos que não é adequado colocarmos nas mãos destes sistemas, em todos os casos, as revisões das decisões automatizadas.
<blockquote class="jota-article__eye">Afinal, qual é a força e validade de uma decisão de revisão decidida pelo próprio sistema que a decidiu anteriormente?</blockquote>
Este foi um dos centros dos debates que se estabeleceram durante as constantes alterações da Lei Geral de Proteção de Dados, que entrará em vigor em menos de 10 meses, e que tomou assento nas discussões, a partir da manutenção do veto pelo Senado Federal, de trecho do artigo 20 da referida lei, que tratava sobre a revisão das decisões tomadas unicamente com base no tratamento automatizado dos dados pessoais.
Um primeiro ponto de análise prática às experiências das Startups a partir da manutenção do veto, instaura-se a partir da diferenciação de texto em um <a href="https://www.jota.info/opiniao-e-analise/artigos/revisao-de-decisoes-automatizadas-29092019">aspecto tão sensível </a><a href="https://www.jota.info/opiniao-e-analise/artigos/revisao-de-decisoes-automatizadas-29092019">como o da revisão de dados automatizados</a>. Ao contrário do estabelecido no <a href="https://gdpr-info.eu/art-22-gdpr/">artigo 22 da General Data Protection Regulation</a> , que é a maior fonte de inspiração da nossa lei de proteção de dados, não há no nosso texto o expresso referenciamento ao direito de revisão humana.
A diferenciação entre os diplomas legais dificulta integrações comerciais e gerações de oportunidades, trazendo a alguns players que atuam apenas em mercado interno vantagens competitivas, em oposição a empresas que buscam inovar globalmente ou que realizam transferências internacionais de dados pessoais, e que tem de, invariavelmente, se adequar às práticas diversas, em cada um dos ordenamentos específicos.
Há todo um amplo debate na União Européia acerca da existência ou não do direito de explicação<a href="#_ftn1" name="_ftnref1">[1]</a> das decisões automatizadas (que não confunde-se com o direito de revisão) provindo da redação da GDPR provocado principalmente a partir do Considerando 71<a href="#_ftn2" name="_ftnref2">[2]</a> , mas de todo modo, na leitura do texto contido no artigo 22 do referido diploma, verifica-se que, com certeza, existe o direito de revisão, que tem de ser, em regra, humana.
O segundo ponto de exploração concerne-se a compreensão do parágrafo primeiro do artigo 20 da LGPD que informa que “O controlador deverá fornecer, sempre que solicitadas, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada, observados os segredos comercial e industrial.”
<blockquote class="jota-article__eye">Mas afinal, qual é o conceito aceito na legislação brasileira para segredo comercial e industrial?</blockquote>
Tendo que a sua proteção não advém de forma natural, o segredo comercial e industrial é tema de debates contínuos e será assim a partir da vigência da LGPD.
Existem, principalmente pelas Startups, receios quanto a sua má aplicabilidade nas realidades práticas perante às decisões da Autoridade Nacional de Proteção de Dados, de forma personalíssima, com potencialidades de arbitrariedades, sem corretas compreensões acerca do procedimento utilizado nas decisões automatizadas.
Ao nosso ver a Autoridade Nacional de Proteção de Dados tem de definir um mínimo positivado do que entende ser Segredo Comercial e Industrial, com definições que entram no escopo de aplicação, como, licenças de uso de patente e marca, fornecimento de tecnologia, cooperação técnico-industrial e contratos de transferência de tecnologia.
Ao contrário, a revisão da decisão automatizada pode tender a ficar esvaziada, ou pior, ser arbitrária o que é extremamente prejudicial às startups, que por sua natureza já coexistem em um ambiente de riscos e incertezas.
O terceiro  ponto de ponderação e preocupação, que de algum modo relaciona-se a todo o escopo da nossa Lei de Proteção de Dados e sua aplicabilidade, é referente às dificuldades de adequação das Startups frente ao exíguo tempo e as constantes alterações, como esta da manutenção do veto, que ainda poderá ser objetos de ADIN, tendo em vista que que a ausência de interferência humana de revisão pode ser vislumbrada como <a href="https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2210757" target="_blank" rel="noopener">violadora de direito fundamental</a>.
Enquanto não estiver bem delimitado a estrutura, os processos internos de publicidade e de transparência, a articulação institucional, a fiscalização e as formas de supervisão, haverá uma enorme insegurança a certas empresas, que não terão corpo técnico-operacional e nem contarão com assessoria jurídica qualificada, para se adequarem rapidamente.
Para as empresas de tecnologia, principalmente Startups e aquelas em níveis de escalabilidade, seria preferível que a lei de proteção de dados brasileira, à luz da européia, tivesse sido escrita de forma mais objetiva, disciplinando as hipóteses que podem não ter um tratamento automatizado, daquelas que podem, e das que podem apenas ter um olhar supervisionado  HOTL (human-on-the-loop), trazendo assim as exceções à revisão humana.
Um modelo assim, estrutura a promoção dos ambientes e dos ecossistemas, harmonizando relações, aumentando graus de transparência e fomentando por si só, a livre economia digital, que é peça fundamental as empresas em níveis de maturidade distintos.
Neste momento deveríamos estar discutindo importantes questões, como a garantia do direito de revisão humanizado, a técnica de revisão, os prazos de adequação e os casos que podem ser aceitos modelos de HOTL (human-on-the-loop) ao invés de HITL<a href="#_ftn3" name="_ftnref3">[3]</a> (human-in-the-loop) , ao contrário de debater se a revisão humanizada é algo necessário das decisões automatizadas. É lógico que é.
Do modo que está, infelizmente a lei já nasce com graus de omissão e insegurança. O que é ruim para as Startups.
Que a Autoridade Nacional de Proteção de Dados, adeque, e logo, estas questões.
---------------------------------------------------------------------------------------------------
<a href="#_ftnref1" name="_ftn1">[1]</a> Direito a explicação pode ser compreendido como as informações pessoais sobre os dados, que serviram de base para alimentar o algoritmo, ou às lógica por trás de decisões, ou o uso de dados inferidos anonimizados e o modo que foram dispostos.
<a href="#_ftnref2" name="_ftn2">[2]</a> Considerando é, no Direito da União Europeia, um texto, não vinculante, que estabelece razões interpretativas para as disposições de um ato.
<a href="#_ftnref3" name="_ftn3">[3]</a> HITL é definido como um modelo que necessita de interação humana para a criação de modelos de machine learning. Os humanos neste caso estão diretamente envolvidos no treinamento, no tuning e nos testes.

work-731198_960_720

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Do modo que está, infelizmente a lei já nasce com graus de omissão e insegurança

As startups e a manutenção do veto da revisão humana das decisões automatizadas

Do modo que está, infelizmente a lei já nasce com graus de omissão e insegurança