Experimente o JOTA PRO por 10 dias e decida com mais segurança.

Gustavo Artese

A governança da <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> ainda parece desorganizada. Por enquanto, isso não é culpa de ninguém. O que talvez passe despercebido é que estamos diante de uma situação inédita. Pela primeira vez, organizações, reguladores, técnicos e especialistas tentam compreender uma tecnologia ao mesmo tempo em que a implementam, a regulam e procuram construir os mecanismos que permitirão governá-la.
Esse movimento simultâneo produz um efeito inevitável: cada disciplina avança a partir do seu próprio ponto de vista.
<a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a>
TI e engenharia ainda buscam consolidar arquiteturas técnicas, padrões de desenvolvimento e mecanismos confiáveis de supervisão de sistemas baseados em IA (o que não deixa de ser boa parte da governança). Em paralelo, procuram aplicar frameworks técnicos e de certificação, muitas vezes antes mesmo de existir consenso sobre qual deverá ser a arquitetura de governança das organizações.
Reguladores caminham na definição de categorias de risco, proibições e princípios gerais, sem que possam ainda estabelecer formas mais concretas de implementação dessas exigências, as quais seguem em construção.
Enquanto isso, o jurídico, como regra, ainda não se deu conta de que seu papel no processo já se iniciou, independentemente da promulgação de eventual lei. Casos de uso isolados já demandam escrutínio jurídico relevante. Além disso, é preciso estar alerta: contratos de IA merecem cuidados muito distintos dos contratos de software tradicionais.
Na área de segurança, ferramentas automatizadas prometem identificar e auxiliar no controle da chamada Shadow AI, reduzindo o uso não autorizado de modelos generativos. O risco, no caso, tende a diminuir com tempo: a Shadow AI decorre da disparidade de conveniência entre as ferramentas oficiais e as que o colaborador encontra por conta própria. À medida que alternativas oficiais se estabelecem, a disparidade tende a se reduzir.
Por outro lado, o CISO verá seu mandato se ampliar: a IA não é apenas mais um ativo a proteger, mas uma nova superfície de ataque, de prompt injection a agentes autônomos operando com credenciais da organização.
Especialistas em governança de dados, por sua vez, lembram que dificilmente haverá uma boa governança de IA sem uma governança consistente dos dados que alimentam esses sistemas.
Compliance e riscos já se deram conta de que terão de atuar na governança. Onde existe regulamentação setorial (sistema financeiro, saúde, seguros), os supervisores já cobram controles sobre modelos e decisões automatizadas, e a área começa a trabalhar com exigências concretas. Na maioria das organizações, porém, ainda se opera com normas genéricas: políticas de uso aceitável que orientam o colaborador, mas não constituem, de fato, um sistema de controles. A distância entre a política escrita e o controle operacional é, hoje, um vazio importante em governança de IA.
Enquanto isso, conselhos de administração e alta gestão começam a perceber que o problema deixou de ser apenas tecnológico. A inteligência artificial passou a afetar processos decisórios, estruturas organizacionais, distribuição de responsabilidades e modelos de gestão de riscos.
E nesse caldo todo, ainda existe, em alguns casos, a figura do Chief AI Officer, cujo papel não é governar, mas garantir que a IA gere valor: identificar aplicações, priorizar iniciativas, medir resultados e escalar o que funciona. É figura nova, com papel claro de atuar na primeira linha. Tem agenda de resultado.
A consequência é previsível: cada área enxerga apenas uma parte do problema e tende a otimizá-lo segundo seus próprios objetivos. A tecnologia busca desempenho e integração; a segurança, a proteção dos ativos; o jurídico, menor exposição; compliance, aderência normativa e redução de riscos. As áreas de negócio e o próprio CAIO pressionam por velocidade, inovação e retorno econômico. Nenhuma dessas perspectivas está errada. O problema é que nenhuma delas, isoladamente, é suficiente para governar uma tecnologia que atravessa praticamente toda a organização.
A resposta inicial de muitas empresas tem sido a criação de Comitês de IA. É um movimento natural e, em grande medida, necessário. Também é natural que esses primeiros esforços sejam liderados pelas áreas de tecnologia da informação. Afinal, são elas que normalmente conduzem a implementação das plataformas, definem arquiteturas e acompanham a evolução tecnológica.
O problema é que a governança da inteligência artificial não se esgota na tecnologia. Ela envolve decisões jurídicas, regulatórias, operacionais, organizacionais e estratégicas. Exige a definição de responsabilidades, processos, critérios para aprovação de casos de uso, mecanismos de supervisão, gestão de riscos, treinamento de pessoas e integração entre diferentes funções da empresa.
Talvez a forma mais útil de organizar esse debate seja distinguir três papéis que hoje aparecem misturados: quem implementa, quem opera e quem governa. Cada organização tenderá a ter estruturas diferentes, mas os papéis não mudam. O Comitê de IA, quando existente, deve partir do reconhecimento desses papéis e plantar a semente para que a governança atribua a cada área as funções correspondentes às suas vocações naturais, ficando certo que governar o uso não exige dominar a técnica: cabe à segunda linha definir o que deve ser evidenciado (avaliações, testes, monitoramento), enquanto a produção dessas evidências permanece com quem implementa.
Não é a primeira vez que as empresas percorrem essa trajetória. Em temas como privacidade, anticorrupção e ESG, também surgiram comitês que responderam ao chamado de áreas específicas e, à medida que amadureceram, migraram para a segunda linha. A diferença, talvez, seja a velocidade (simultaneidade) e a relevância estratégica do tema. No caso da IA, o espaço entre implementar, operar e governar é quase inexistente e as implicações para a organização são mais relevantes.
É por tudo isso que a governança de IA não pode ser confundida com uma simples coordenação entre especialistas. Em algum momento, as decisões deixam de ser técnicas e passam a ser escolhas de negócio. Qual grau de autonomia será permitido aos agentes? Em quais processos a supervisão humana continuará obrigatória? Quais riscos a organização está disposta a aceitar? Quanto vale investir para reduzir determinados riscos?
Essas decisões não pertencem à tecnologia, ao jurídico ou ao compliance. Elas dizem respeito ao apetite a risco da organização e à sua estratégia. São, portanto, decisões típicas da alta administração.
Além da correta delimitação de papéis macro, a boa prática recomenda partir do pressuposto de que a governança da inteligência artificial é composta por diversas camadas que precisam funcionar de forma integrada. Entre elas destacam-se a camada técnica, a governança de dados, a definição dos casos de uso de negócio, a camada de segurança, os processos organizacionais, a capacitação das pessoas, os frameworks e certificações, a gestão jurídica e de riscos e a conformidade regulatória.
Somente depois que essas camadas são identificadas torna-se possível responder às perguntas realmente importantes. Quais riscos exigem tratamento imediato? Quais áreas devem liderar cada frente? Quais decisões pertencem ao Comitê de IA? Quais devem permanecer com a alta administração?
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
A atual sensação de que a governança ainda não engrenou tende a diminuir à medida que essas estruturas amadurecem.
O mercado ainda procura o "dono da IA". Talvez esteja fazendo a pergunta errada. Uma tecnologia horizontal dificilmente possuirá um único dono. O verdadeiro desafio não é centralizar decisões, mas construir uma arquitetura de governança capaz de distribuir responsabilidades, sem perder a coordenação.
A vantagem competitiva dificilmente estará apenas na adoção mais rápida da inteligência artificial. Ela estará na capacidade de governá-la como parte do funcionamento da organização. E essa talvez seja uma das competências organizacionais e operacionais mais importantes da próxima década.

inteligência artificial – dados e emergência climática

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

É preciso separar corretamente quem implementa, quem opera e quem governa

A governança de IA ainda está desgovernada

É preciso separar corretamente quem implementa, quem opera e quem governa