Francisco Forbes

A maioria das instituições públicas que adota <a href="https://www.jota.info/tudo-sobre/intelig%C3%AAncia%20artificial">inteligência artificial</a> está fazendo a pergunta errada. Em vez de perguntar "estamos em conformidade?", deveriam perguntar: "somos capazes de continuar jogando bem conforme o jogo muda?".
A diferença entre as duas perguntas não é semântica. É estratégica.
O filósofo James Carse dividiu os jogos em duas categorias: finitos e infinitos. Jogos finitos têm regras fixas, jogadores conhecidos e um vencedor ao final. Jogos infinitos não têm fim definido: o objetivo não é vencer, mas continuar jogando. A adoção de IA no setor público é, inequivocamente, um jogo infinito. A tecnologia evolui. As ameaças evoluem. A sociedade evolui. Não há checklist que resolva isso de uma vez.
<a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a>
O problema é que a maioria dos administradores públicos trata esse jogo com mentalidade finita. Contrata um sistema, assina um contrato, aprova uma política interna de governança e considera o problema resolvido. Não está.
<h2>O risco não é pontual. É contínuo</h2>
Os desafios jurídicos do uso de IA na administração pública, proteção de dados, viés algorítmico, transparência, responsabilidade por decisões automatizadas, não são obstáculos a superar uma vez. São tensões permanentes, inerentes à natureza da tecnologia. Um algoritmo treinado com dados de hoje pode reproduzir as desigualdades de hoje. Uma política de privacidade adequada em 2025 pode ser insuficiente em 2027. Um contrato bem redigido com um fornecedor não antecipa o que esse fornecedor fará com os dados daqui a três anos.
A <a href="https://www.jota.info/tudo-sobre/Lei%20Geral%20de%20Prote%C3%A7%C3%A3o%20de%20Dados">Lei Geral de Proteção de Dados</a>, o PL 2338/2023 e a <a href="https://www.planalto.gov.br/ccivil_03/_ato2019-2022/2021/lei/l14129.htm">Lei do Governo Digital</a> são marcos importantes. No entanto, são fotografias de um momento. O jogo segue depois deles.
Viés algorítmico é talvez o exemplo mais eloquente dessa dinâmica. Algoritmos não são neutros: reproduzem e frequentemente amplificam as desigualdades presentes nos dados com que foram treinados. Na concessão de benefícios, na priorização de atendimentos, na fiscalização.
Em qualquer dessas aplicações, um sistema enviesado viola o princípio constitucional da isonomia. E o pior: faz isso silenciosamente, em escala, sem que nenhum agente público tenha tomado uma decisão discriminatória consciente. Auditar esse risco uma vez não basta. É preciso auditá-lo continuamente, à medida que os dados mudam, os modelos evoluem e novos padrões emergem.
O mesmo vale para a transparência. A Constituição impõe à administração o dever de motivar suas decisões. Quando sistemas de IA operam como caixas-pretas, esse dever é violado — não por má-fé, mas por design. A ausência de explicabilidade pode caracterizar vício de motivação e levar à nulidade do ato administrativo. Mas explicabilidade não é um feature que se liga uma vez: é uma exigência que precisa ser revalidada a cada atualização de modelo, a cada novo caso de uso, a cada novo contexto de aplicação.
<h2>A mentalidade que o momento exige</h2>
Simon Sinek, ao desenvolver o conceito do jogo infinito aplicado à liderança, identificou cinco características do líder que joga por longo tempo: causa justa, times de confiança, rival digno, flexibilidade existencial e coragem de liderar. Todas elas têm tradução direta para o administrador público que quer usar IA de forma responsável e duradoura.
A causa justa, aqui, é clara: tecnologia a serviço do cidadão, sem abrir mão dos pilares do Estado de Direito. Não é entusiasmo tecnológico pelo entusiasmo; é transformação com propósito. Em São Paulo, iniciativas como o Simplifica AI, voltado à simplificação de documentos e rotinas administrativas, partem dessa premissa: IA como instrumento de acessibilidade e redução de burocracia, não como fim em si mesmo. É tecnologia viabilizando a entrega ao cidadão.
Times de confiança significam, na prática, supervisão humana contínua. Não como burocracia, mas como salvaguarda genuína. O agente público precisa permanecer no circuito decisório, especialmente nas atividades finalísticas, em que a delegação de juízo de conveniência e oportunidade a sistemas algorítmicos, sem respaldo legal, pode configurar usurpação de função pública. Manter o humano no loop não é limitação tecnológica: é escolha institucional consciente.
Flexibilidade existencial é a capacidade de mudar de estratégia sem abandonar a causa. No contexto de IA pública, isso se traduz em contratos responsáveis com fornecedores (que contemplem cláusulas de responsabilidade, titularidade de resultados gerados por IA e mecanismos de revisão), e em governança viva, capaz de se adaptar à medida que a tecnologia e o marco regulatório evoluem. O TCU, a CGU e o Judiciário já reforçam essa exigência: auditoria, governança e supervisão humana não são opcionais.
E coragem de liderar significa investir em capacitação de servidores, qualidade de dados e colaboração com academia, setor privado e sociedade civil. Mesmo quando o retorno não é imediato nem visível na próxima gestão.
<h2>Conformidade é o piso, não o teto</h2>
O erro mais comum na adoção de IA pelo poder público é tratar a conformidade jurídica como destino. Ela é o piso mínimo. O teto é construir instituições capazes de aprender mais rápido do que a tecnologia muda.
Isso exige avaliações prévias de impacto em direitos fundamentais, não como mera formalidade, mas como prática institucional incorporada ao ciclo de desenvolvimento. Exige auditorias independentes em sistemas de alto risco, com periodicidade e escopo definidos. Exige investimento consistente em governança e qualidade de dados, porque dado ruim produz decisão ruim, com ou sem IA.
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
A cidade que vai liderar em govtech responsável não é necessariamente a que tem a melhor lei ou o contrato mais sofisticado. É a que constrói a maior capacidade institucional de se adaptar, aprender e corrigir — continuamente, ao longo do tempo, independentemente de qual gestor esteja no cargo.
Tecnologia e conformidade jurídica não são opostas. Mas conformidade sem visão de longo prazo é apenas burocracia bem-intencionada. O desafio verdadeiro é outro: regular com inteligência, proporcionalidade e com a consciência de que esse jogo não tem fim. E que é exatamente por isso que vale a pena jogar bem.

close-up-shot-worker-server-room-using-tablet

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Poder público erra ao tratar conformidade jurídica como destino e não como ponto de partida

No jogo infinito da IA, conformidade é o piso e não o teto

Poder público erra ao tratar conformidade jurídica como destino e não como ponto de partida