Opinião e Análise

Flávia Jorge

A inovação e a <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> (IA) têm se tornado temas recorrentes em diversos cenários, desde conversas informais até ambientes educacionais e corporativos. A crescente repercussão da IA generativa (GenAI) é observada em diversos contextos, como na preparação de estudantes para provas de concursos públicos e colaboradores inserindo dados empresariais em ambientes gratuitos para otimizar suas atividades.
Surge então uma questão crucial: sua empresa está preparada para lidar de forma eficaz e responsável com os dados pessoais dos clientes? Dada a possibilidade de tratamento dos dados pessoais coletados a partir da interação com o ChatGPT, Copilot e Gemini, entre outros, levanta preocupações sobre a falta de clareza no tratamento desses dados pessoais e dados pessoais sensíveis em aplicações gratuitas de IA generativa, sem a ciência das organizações ou dos titulares de dados pessoais.
Com efeito, as aplicações de IA generativas podem aumentar os riscos relacionados à privacidade e proteção de dados pessoais, uma vez que a utilização de grandes modelos de linguagem, que se baseiam em uma enorme quantidade de dados, geram ainda mais informações e apresentam vulnerabilidades como vieses, baixa qualidade, acesso não autorizado e perda.
O problema se agrava quando funcionários inserem dados confidenciais em modelos públicos de IA generativa, constituindo um desafio significativo para algumas empresas. A capacidade da IA generativa de armazenar informações de entrada indefinidamente e utilizá-las para treinar outros modelos pode violar regulamentos de privacidade que restringem o uso secundário de dados pessoais.
A ausência de governança e supervisão adequadas pode resultar em riscos legais significativos, impactando na segurança dos dados pessoais. Dados sensíveis, inclusive, podem expor segredos comerciais, informações proprietárias e dados pessoais de clientes, o que pode ocasionar imprecisões, violações de conformidade, quebras de contrato, violações de direitos autorais, investigações internas inadequadas e danos à reputação da companhia.
Diante desse cenário, cabe às organizações desenvolverem uma estratégia eficaz de governança da inteligência artificial, pautada em atividades que incorporem as implicações éticas do uso de dados pessoais, dados sensíveis e IA nos valores da organização, antecipando e compreendendo as principais políticas públicas e tendências regulatórias, alinhando-as aos processos de compliance, além da supervisão dos sistemas em três linhas de defesa: gestão operacional, gerenciamento de risco, conformidade e controles internos e auditoria interna.
O cumprimento de regulamentos, políticas organizacionais e normas do setor é uma prioridade, assim como a expansão das práticas para detectar e mitigar riscos específicos de IA, destacando, ainda, a importância de se adotar um modelo transparente de tomada de decisão, sistemas confiáveis e de alto desempenho, além da definição e medição da imparcialidade.
Testar os sistemas em conformidade com padrões aceitáveis pela sociedade, aprimorar a segurança cibernética, desenvolver sistemas que preservem a privacidade dos dados e proteger contra danos físicos são medidas fundamentais.
Acima de tudo, o programa visa capacitar as pessoas para aplicarem o seu conhecimento e experiência na avaliação crítica dos resultados dos modelos de IA generativa, ao estabelecer mecanismos de controle de riscos corporativos, tornando seus colaboradores verdadeiros aliados nesta jornada do uso responsável, ético e sustentável da GenAI.
E como conscientizar os colaboradores? Para isso, é possível utilizar métodos como quizzes informativos, cartilhas e políticas específicas para o uso de ferramentas de IA. Investir em IA paga, com segurança da informação aplicada, proporciona métodos rápidos para otimizar e auxiliar nas atividades profissionais de forma assertiva e segura.
Além de otimizar o trabalho, é crucial cuidar do tratamento seguro dos dados pessoais na organização. Atenção especial aos inputs de dados pessoais, dados pessoais sensíveis e de crianças e adolescentes são fundamentais para evitar o vazamento de informações.
Mediante o exposto, concluímos que manter a empresa constantemente em atualização e atenta às melhores práticas de proteção de dados e segurança da informação é essencial. Ademais, investir em treinamentos específicos para os colaboradores e estabelecer diretrizes claras para o uso responsável da IA são medidas fundamentais para garantir a confidencialidade, integridade e disponibilidade dos dados pessoais dos clientes e colaboradores.
<hr />
BRASIL. Lei nº 10.406, de 10 de janeiro de 2002. Institui o Código Civil. Brasília, DF: Presidência da República, [2002]. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/2002/l10406compilada.htm. Acesso em: 07 jan. 2022.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados. Brasília, DF: Presidência da República; 2018. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm. Acesso em: 12 jan. 2023.
Aprovado em cinco concursos de cartório usou ChatGPT para estudar. Disponível em: <a href="https://g1.globo.com/trabalho-e-carreira/concursos/noticia/2024/03/10/aprovado-em-cinco-concursos-de-cartorio-usou-chatgpt-para-estudar-eu-o-ensinava.ghtml">https://g1.globo.com/trabalho-e-carreira/concursos/noticia/2024/03/10/aprovado-em-cinco-concursos-de-cartorio-usou-chatgpt-para-estudar-eu-o-ensinava.ghtml</a> Acesso em 10.03.2024.
GERENCIAMENTO DE RISCOS DA IA GENERATIVA. Disponível em: <a href="https://explore.pwc.com/generativeai?_pfses=McNNbLuZzTuBp3GoqZGoQ5wr">https://explore.pwc.com/generativeai?_pfses=McNNbLuZzTuBp3GoqZGoQ5wr</a>. Acesso em 10.03.2024.

IA generativa dados 11 03

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Cabe às organizações desenvolverem uma estratégia eficaz de governança da inteligência artificial

Ferramentas gratuitas de IA generativa e o risco de exposição de dados

Cabe às organizações desenvolverem uma estratégia eficaz de governança da inteligência artificial generativa