Daniel Becker

Beatriz Haikal

Ludmilla Campos

A engenharia por trás do <a href="https://www.jota.info/tudo-sobre/chatgpt">ChatGPT</a> é refinada, eficiente e caiu nas graças do público por sua capacidade de gerar respostas contextualmente precisas, alçando-se, assim, à posição paradigmática de ferramenta divisora de águas. A popularização da ferramenta trouxe o holofote para as inteligências artificiais generativas como um todo, contudo, o saldo não é apenas positivo. A aplicação desperta diversos pontos de atenção sob a perspectiva da segurança da informação e da proteção de dados, especialmente em razão de sua capacidade hiperbólica de absorver informações e dos baixos níveis de transparência quanto à forma de tratá-los.
O ChatGPT, que é executado por meio de <a href="https://www.sbc.org.br/images/flippingbook/computacaobrasil/computa_39/pdf/CompBrasil_39_180.pdf">machine learning</a><a href="#_ftn1" name="_ftnref1">[1]</a>, depende do big data para o seu treinamento e funcionamento. O modelo foi treinado por meio de bases de dados textuais extraídos da internet que incluem quase <a href="https://www.sciencefocus.com/future-technology/gpt-3/">600 GB</a> de informações obtidas a partir de obras disponíveis na rede mundial de computadores. <a href="https://escoladedados.org/tutoriais/raspagem-e-jornalismo-de-dados/">Em termos exatos, após um web scraping (ou raspagem de dados), o sistema foi alimentado</a> com cerca de <a href="https://www.sciencefocus.com/future-technology/gpt-3/">300 bilhões de palavras</a>, dos mais diversos temas, e em mais de um idioma.
Isso quer dizer que, se no ambiente virtual, você, leitor, já redigiu uma crítica ou publicou um artigo até o mês de setembro de 2021, provavelmente o ChatGPT coletou seus dados para formação do big data de treinamento. Do mesmo modo, caso inadvertida ou irregularmente, algum dado pessoal tenha sido compartilhado online, certamente foi consumido, sem ciência ou anuência dos titulares, para treinamento do robô.
E a coleta de dados pelo ChatGPT não cessa na fase de treinamento. De acordo com a <a href="https://openai.com/policies/privacy-policy">Política de Privacidade da OpenAI</a>, aplicável ao site principal e aos sites afiliados, a plataforma coleta dados pessoais de seus usuários no momento de login e utilização, sendo facultado à empresa o compartilhamento dessas informações com terceiros para os fins do negócio.
O que se sabe, contudo, sobre machine learning, web scraping, big data e treinamento de sistemas de inteligência artificial socorre pouco ou em nada àqueles que se debruçaram sobre o ChatGPT a fim de apurar seu funcionamento sob a lente da segurança da informação e da proteção de dados. Acerca do tema, Norbert Wiener<a href="#_ftn2" name="_ftnref2">[2]</a> disse: “[s]e usarmos, para atingir nossos objetivos, um órgão mecânico em cujo funcionamento não podemos interferir de forma eficaz... é melhor estarmos bem certos de que o propósito colocado na máquina é aquele que realmente desejamos”.
O trecho trata sobre o que se apelidou como a “caixa preta” da inteligência artificial, ou seja, a incapacidade de entender como um sistema de IA chega às suas conclusões. A opacidade entre o input e o output desses sistemas levanta preocupações éticas e pode trazer impactos negativos para áreas como saúde, justiça e finanças, onde a transparência e a explicabilidade são cruciais para confiança e responsabilização.
A opacidade do chatbot, a capacidade massiva de absorção informacional, a larga base de usuários e a inexistência de políticas – privadas ou públicas – capazes de garantir transparência em relação às plataformas de IA generativas motivaram Autoridades de Proteção de Dados de diversos países a deflagar procedimentos investigatórios sobre seu funcionamento, as diretrizes das operações de tratamento de dados, suas finalidades e as medidas de segurança adotadas.
Como em efeito dominó, entre março e maio desse ano, França, Espanha, Itália, Canadá, China e o Conselho Europeu de Proteção de Dados (EDPB) puseram em ação práticas e medidas de apuração. Em março, a Autoridade Italiana suspendeu temporariamente o ChatGPT no país devido a preocupações com a falta de filtros de idade, de bases legais para processamento em massa de dados e de transparência em seu funcionamento. Em abril, foi a vez do <a href="https://www.reuters.com/technology/french-privacy-watchdog-investigating-complaints-about-chatgpt-2023-04-11/">CNIL (França)</a>, da <a href="https://www.reuters.com/article/eu-chatgpt-spain-idUKL8N36F4GL">AEPD (Espanha)</a>, da <a href="https://www.priv.gc.ca/en/opc-news/news-and-announcements/2023/an_230404/">Autoridade Canadense</a> e do <a href="https://www.cnbc.com/2023/04/11/china-releases-rules-for-generative-ai-like-chatgpt-after-alibaba-launch.html">Órgão Regulador da Internet na China</a> conduzirem investigações sobre o tratamento sem consentimento, tendo o último estabelecido diretrizes para empresas de inteligência artificial generativa, a fim de promover plataformas igualitárias. Paralelamente, o <a href="https://edpb.europa.eu/news/news/2023/edpb-resolves-dispute-transfers-meta-and-creates-task-force-chat-gpt_en">Conselho Europeu de Proteção de Dados</a> lançou uma task force para discutir o funcionamento do ChatGPT e desenvolver um plano de ação.
Não há como negar que a conversa sobre proteção de dados ganha contornos desafiadores quando o objeto de estudo é um sistema de inteligência artificial generativo, que a partir dos dados base de treinamento é capaz de produzir conteúdo. Pela frente, o longo caminho a ser percorrido traz indagações sobre como documentar o processo cognitivo de uma ferramenta com esse nível de autonomia ou como implementar medidas de minimização do tratamento de dados quando o aperfeiçoamento de um sistema machine learning está diretamente ligado à quantidade e à qualidade dos dados que o alimentam.
Proteção de dados, segurança da informação e sistemas de inteligência artificial, entretanto, não são elementos inconciliáveis. Os próximos passos precisam ser dados em direção a uma transformação da caixa preta das inteligências artificiais generativas em uma caixa de vidro, com a promoção de um sistema de inteligência artificial sustentável, calcado sob o tripé proposto por Virginia Dignum de accountability, responsability e transparency<a href="#_ftn3" name="_ftnref3">[3]</a>.
À regulamentação cabe normatizar a inovação tecnológica sem tolher sua evolução. A própria LGPD, aliás, reconhece a importância do desenvolvimento econômico, tecnológico e inovação, juntamente com o respeito à privacidade. No entanto, a lei não é suficiente para regular totalmente a tecnologia, levando o Brasil e o mundo a discutirem formas de regular especificamente as aplicações de inteligência artificial.
Aos desenvolvedores, é preciso adequar os sistemas de machine learning à abordagem de <a href="https://www.darpa.mil/program/explainable-artificial-intelligence">inteligências artificiais explicáveis (XAI)</a>, que detalha os dados e o formato de treinamento do modelo sem comprometer sua performance.
Aos provedores da tecnologia, cabe disponibilizar uma ferramenta em compliance com o framework regulatório atual por meio da implementação de limitações etárias, da garantia de controle de dados aos titulares, e da elaboração de políticas que expliquem os métodos de predição e de decisões das ferramentas.
Ainda, enquanto não encontramos um modelo de inteligência artificial que resolva o problema da "caixa preta" e forneça transparência e interpretabilidade no tratamento de dados e tomada de decisões, a responsabilidade de conhecer e cumprir os deveres contratuais de confidencialidade recai, inevitavelmente, sobre os usuários.
A submissão de documentos pessoais ou corporativos deve ser limitada e supervisionada, já que os dados pessoais dispostos serão absorvidos pela aplicação e poderão ser compartilhados com outros usuários da plataforma. Assim, aos advogados é imprescindível o cuidado ao remeter ao chatbot trechos de documentos jurídicos que integrarão autos que tramitam em segredo de justiça ou de minutas de acordo que podem identificar as partes envolvidas – com o uso da ferramenta, nasce para o usuário o dever de cuidado com o material que direciona.
É claro que mudanças estruturais e culturais como as aqui abordadas são graduais, mas uma coisa é certa: o caminho imediato não pode ser o banimento destes sistemas verdadeiramente revolucionários, mas sim o seu uso consciente e a sua promoção parametrizada. Não há que se ter medo do ChatGPT e seus “primos”, mas explorá-los com a cautela que a autopreservação exige, extraindo o que se pode da legislação existente e contribuindo para a construção da regulamentação específica da matéria.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> <a href="https://www.jota.info/opiniao-e-analise/colunas/regulacao-e-novas-tecnologias/ad-astra-per-aspera-postergacao-da-lgpd-e-revisitacao-do-art-20-%C2%A7-1o-09052020">Machine learning ou, em tradução livre, aprendizado de máquina, é uma das vertentes da inteligência artificial.</a> e abarca as ferramentas que aprendem de forma autônoma, a partir de uma vastíssima quantidade de dados (big data) e da interação com o usuário.
<a href="#_ftnref2" name="_ftn2">[2]</a> WIENER, Norbert. Some Moral and Technical Consequences of Automation. Science, New Series, Vol. 131, No. 3410 (May 6, 1960), pp. 1355-1358
<a href="#_ftnref3" name="_ftn3">[3]</a> A prestação de contas (accountability) com uma minuciosa explicação e justificação de suas ações e decisões; a responsabilidade (responsability) com a vinculação dos processos de tomada de decisão ao uso justo de dados e à atuação das partes envolvidas e; a transparência (transparency), finalmente, com a imposição às empresas do ramo do dever de descrever os protocolos de tomada de decisões, cumulado à implementação, mandatória, de métodos de inspeção e medidas de governança para os dados tratados em suas operações. DIGNUM, V. Responsible Artificial Intelligence - How to Develop and Use AI in a Responsible Way. Artificial Intelligence: Foundations, Theory, and Algorithms. Springer, 2019

chatGPT

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Caminho imediato não pode ser o banimento, mas sim uso consciente e promoção parametrizada

ChatGPT e dados pessoais: como regular o que não conseguimos entender?

Caminho imediato não pode ser o banimento de sistemas como o ChatGPT, mas sim uso consciente e promoção parametrizada