Experimente o JOTA PRO por 10 dias e decida com mais segurança.

Luca Belli

Depois de ter prestado depoimento no Senado estadunidense, exortando os legisladores a <a href="https://www.sciencedirect.com/science/article/abs/pii/S0267364922001108?dgcid=author">regular a inteligência artificial</a>, o CEO da OpenAI chegou ao Rio de Janeiro para debater o futuro da tecnologia.
Apesar de todos os cenários apocalípticos, recentemente aventados em cartas abertas por vários pesquisadores e estrelas como Elon Musk, confesso que minha maior preocupação não é o futuro da IA, mas o presente.
O atual cenário parece nos demonstrar não somente a clara necessidade de se <a href="https://www.jota.info/opiniao-e-analise/artigos/inteligencia-artificial-protecao-dados-governanca-internet-05112021">regular a IA</a>, mas sobretudo um total descumprimento das normativas existentes, particularmente no que diz respeito à LGPD.
Tal desrespeito é, em larga medida, justificado por dois fatores. Primeiramente, o enorme incentivo de mercado que estimula empresas e startups a divulgar novos sistemas de IA generativa o mais rapidamente possível, com avaliações de impacto muito questionáveis ou simplesmente inexistentes, para serem as primeiras a receber suculentas rodadas de investimentos e capturar a tenção de usuários.
Em segundo lugar, uma certa letargia das autoridades reguladoras da enorme maioria dos 162 países que atualmente dispõem de leis gerais de proteção de dados em reconhecer que muitos sistemas se encontram em total descumprimento de tais leis.
A seguir, tentarei ilustrar o ponto exposto acima partindo de uma experiência pessoal, analisando por que serviços <a href="https://www1.folha.uol.com.br/tec/2023/01/chatgpt-o-que-anima-e-o-que-assusta-na-nova-inteligencia-artificial.shtml">como o ChatGPT</a>, desenvolvido pela empresa OpenAI, descumprem em múltiplas formas a LGPD e por que tomei a iniciativa de peticionar à ANPD para que tais descumprimentos sejam devidamente apurados.
No dia 10 de abril, enviei um pedido ao único canal de atendimento disponível no site da empresa OpenAI, desenvolvedora do ChatGPT, com intuito de receber informações sobre os seguintes pontos:
<ol>
<li>Identidade do controlador de dados do serviço ChatGPT</li>
<li>Acesso à integralidade de meus dados pessoais, bem como às informações claras e precisas sobre a origem de ditos dados, a forma e a duração do tratamento dos ditos dados pela OpenAI, conforme os artigos 9, 11, 18 e 19 da LGPD</li>
<li>Informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados pelo serviço ChatGPT para elaborar respostas quando questionado sobre “quem é Luca Belli” ou “onde mora Luca Belli”, considerando que as respostas a tais questionamentos, claramente elaboradas com base unicamente no tratamento automatizado de dados pessoais, incluem ampla gama de dados pessoais de Luca Belli juntos com ampla gama de informações factualmente erradas, porém apresentadas como verdadeiras, portanto afetando diretamente o titular, conforme o artigo 20 da LGPD.</li>
</ol>
Após ter recebido uma simples resposta automática em língua inglesa, enviei um ulterior email para solicitar uma resposta ou a definição de um prazo para resposta. Somente um mês depois, recebi uma outra resposta automática em língua inglesa sem oferecer nenhum elemento útil para responder aos questionamentos levantados em 10 de abril, explicando meramente a introdução de algumas novas funcionalidades pela OpenAI para facilitar a portabilidade de dados.
Foi nesse dia que comecei seriamente a suspeitar que o serviço ChatGPT pudesse estar em total descumprimento dos artigos 9, 11, 18, 19, 20, 37, 39, 41 da LGPD.
Cabe frisar que o verdadeiro nó górdio não é a coleta pelo serviço ChatGPT dos dados de seus usuários, mas quais dados pessoais são tratados e como para criar os sistemas que permitem o funcionamento do ChatGPT e outras IA generativas, as chamadas LLMs (large language models). O primeiro ponto está sendo resolvido e já foi <a href="https://www1.folha.uol.com.br/tec/2023/04/o-chatgpt-foi-bloqueado-ou-nao-pela-italia.shtml">levantado de maneira muito pertinente</a> pela autoridade italiana de proteção de dados, o Garante, o que levou ao bloqueio do acesso do ChatGPT na Itália pela OpenIA, erroneamente relatado pela mídia como uma decisão do Garante.
Para entender o segundo ponto, é importante lembrar dois elementos essenciais. De um lado, sobre o ChatGPT e os LLMs nos quais baseia-se seu funcionamento e, de outro lado, sobre as obrigações definidas pela enorme maioria das leis de proteção de dados.
Os LLMs que permitem o funcionamento de sistemas de IA generativa como o ChatGPT foram treinados a partir de enormes bases de dados. No caso do ChatGPT tais dados foram coletados na internet, processando gigantescas quantidades de informações acessíveis online, incluindo dados pessoais.
Tais informações – pense-se em qualquer página da web, entradas de Wikipedia etc. – foram utilizadas como um recurso livremente disponível. Porém, dados pessoais não são um recurso livremente disponível. Essa é a razão pela qual existem marcos de proteção de dados nos 162 países supramencionados, inclusive no Brasil.
Primeiramente, é essencial processar dados de forma transparente, inclusive no que diz respeito ao treinamento de LLMs, para dar suporte a serviços de IA especificando quais dados são processados e por qual finalidade, qual é a base jurídica para o tratamento, quem é a pessoa responsável pelo tratamento etc. Todos estes elementos básicos não são sequer mencionados no serviço ChatGPT.
Além disso, como destacado acima, quando qualquer pessoa pede ao chatbot “me fala tudo o que você sabe sobre Luca Belli”, o serviço responde de maneira tanto detalhada quanto fantasiosa, mesclando dados pessoais verdadeiros e informações verossímeis, porém falsas. Na verdade, as respostas são realmente convincentes, apesar de sua inexatidão.
Essa é na verdade uma das principais peculiaridade dos sistemas de IA generativa baseados em LLMs: são estruturados para elaborar resposta que <a href="https://www1.folha.uol.com.br/tec/2023/01/chatgpt-o-que-anima-e-o-que-assusta-na-nova-inteligencia-artificial.shtml">parecem sintaticamente perfeitas</a>, mas não cuidam de averiguar se tais resultados sejam fidedignos.
Neste sentido, o sistema não é absolutamente um exemplo de “inteligência”. Ao contrário, é simplesmente incapaz de diferenciar entre informação verdadeira e falsa. O sistema opera como um chamado “papagaio estatístico”, ou seja, graças ao treinamento em bilhões de elementos linguísticos, consegue identificar qual palavra, estatisticamente, deveria seguir as precedentes para oferecer o resultado mais parecido com a linguagem humana.
Mas se não for programado para oferecer resultados baseados em informações reais, pura e simplesmente não considera a verdade como um elemento necessário ao seu funcionamento.
Da mesma forma, seu funcionamento é incompatível com a proteção de dados, quando for treinado com qualquer dado (inclusive pessoal) disponível online sem consentimento do titular ou qualquer outra base legal e sem garantir o pleno gozo dos direitos dos titulares de dados.
Significa que a IA generativa é necessariamente incompatível com a proteção de dados ou com a verdade? Absolutamente não. Significa simplesmente que é necessário dedicar mais tempo e mais cuidado ao treinamento dos sistemas para ter certeza que respeitem as normativas em vigor.
As empresas de tecnologia têm um enorme incentivo de mercado em serem as primeiras a disponibilizar novos sistemas de IA para capitalizar tal inovação (para a <a href="https://www.infomoney.com.br/negocios/microsoft-investe-bilhoes-de-dolares-na-openai-do-chatgpt-e-acirra-corrida-tecnologica/">OpenAI foram US$ 10 bilhões</a>). Porém, o interesse da sociedade não é ter a IA o mais rapidamente possível, mas ter a tecnologia segura possível, conforme a lei.
A vida de literalmente ninguém teria mudado negativamente se o ChatGPT tivesse disponibilizado seu sistema de IA um ano depois, ou talvez dois, testando-o e corrigindo e mitigando os riscos que claramente foram ignorados apesar da existência de obrigações legislativas neste sentido.
É uma falácia argumentar que a IA não pode ser desenvolvida conforme a lei. Não é apenas possível, mas é obrigatório desenvolver sistemas de IA em conformidade à lei.
No Brasil, como nos outros 161 países, a sociedade já escolheu ter um marco sólido de proteção de dados. Porém, o que devemos entender é que é pura e simplesmente inútil consagrar a proteção de dados pessoais na Constituição, na lei e criar uma autoridade, se depois, na prática, o arcabouço normativo continua sendo ignorado não somente sem nenhuma consequência, mas até sendo premiado pelo mercado.
Todo mundo deve poder se beneficiar da inovação e a IA tem enorme potencial de ajudar a humanidade. Porém as empresas que estão na frente de seu desenvolvimento estão claramente nos demonstrando que o maior risco que temos não é que a IA se torne consciente para assujeitar a humanidade. É que as empresas implantem sistemas de IA de maneira totalmente irresponsável, somente para serem as primeiras a levá-los ao mercado.
Cabe frisar que, ao invés de viajar pela América Latina para nos prestigiar com sua sabedoria sobre o futuro e pontificar sobre a necessidade de regulação de IA no Senado dos EUA, o executivo da OpenAI deveria ter considerado as regulações que já existem.
Nosso maior problema não é evitar um futuro em que a IA sujeita os humanos, mas lidar seriamente com um presente no qual certos humanos não se acham sujeitos à lei, e tal crença é premiada com bilhões pelo mercado.

chatGPT

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Precisamos regular a inteligência artificial, mas sobretudo aplicar as leis que já temos

Por que o ChatGPT descumpre a LGPD e por que peticionei à ANPD

Precisamos regular a inteligência artificial, como o ChatGPT, mas sobretudo aplicar as leis que já temos, como a LGPD