Experimente o JOTA PRO por 10 dias e decida com mais segurança.

Barbara Pialarissi

A<a href="https://www.jota.info/tudo-sobre/inteligencia-artificial"> inteligência artificial</a> está se tornando uma peça-chave nos esforços de modernização do Estado brasileiro. Com investimentos bilionários previstos até 2028 e um plano nacional estruturado, o governo federal, detentor de um dos maiores repositórios de dados sensíveis, busca consolidar a IA como aliada na entrega de serviços mais eficientes. 
Prontuários eletrônicos com transcrição por voz no SUS, uso de inteligência artificial e big data para otimizar o diagnóstico e tratamento do câncer, disponibilização de dados climáticos para prevenção de desastres, projetos de cidades inteligentes, automatização de processos judiciais e modernização das licitações públicas são apenas alguns dos campos em que o governo brasileiro tem investido na aplicação de sistemas baseados em inteligência artificial.
Mas à medida que algoritmos ganham espaço na administração, cresce a urgência por regras claras, transparência e mecanismos de controle. Afinal, quem vigia as máquinas que nos julgam?
<h3><a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a></h3>
A regulamentação da inteligência artificial no Brasil ainda está em fase de construção. O principal avanço recente é o <a href="https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2487262">PL 2338/2023</a>, atualmente em tramitação na <a href="https://www.jota.info/tudo-sobre/camara-dos-deputados">Câmara dos Deputados</a>, que propõe um marco legal inspirado no modelo europeu, com foco em riscos, transparência e proteção de direitos. 
O texto prevê avaliações de impacto algorítmico, critérios de explicabilidade e mecanismos de governança, sendo especialmente relevante para o uso da IA em decisões públicas automatizadas.
Experiências internacionais evidenciam a relevância de mecanismos institucionais de governança algorítmica como condição para assegurar a utilização ética e transparente da inteligência artificial no setor público. Em termos simples, governança algorítmica refere-se ao conjunto de regras, processos e instituições destinados a garantir que os sistemas de inteligência artificial sejam utilizados de forma ética, transparente e sob controle humano contínuo.
O Plano Brasileiro de Inteligência Artificial (PBIA) propõe medidas relevantes em infraestrutura, capacitação e desenvolvimento de soluções tecnológicas. Projetos como o Núcleo de IA do governo federal e o Programa de Soluções de IA para Serviços Públicos prometem reposicionar o Estado brasileiro no mapa da inovação. Porém, o plano avança timidamente em termos de governança. A criação de comitês de supervisão ainda não saiu do papel.
A ausência de estruturas efetivas de governança aumenta significativamente o risco de falhas, abusos e violações, como evidenciado por episódios envolvendo sistemas automatizados no INSS, que comprometeram direitos de segurados por decisões automatizadas não auditadas adequadamente. A vulnerabilidade não está apenas na tecnologia, mas na falta de controle sobre sua aplicação.
Outro exemplo relevante é o do Canadá, que adotou o Algorithmic Impact Assessment (AIA) — um instrumento estruturado de avaliação prévia que permite identificar os riscos associados a sistemas algorítmicos antes de sua implementação. A ferramenta contempla mecanismos de mitigação, classificação por níveis de impacto e diretrizes de governança, contribuindo para reforçar a transparência e a responsabilização no uso de IA no setor público.
A resposta institucional brasileira exige uma abordagem integrada baseada em três pilares: assegurar a transparência algorítmica — inclusive nos contratos com empresas fornecedoras de tecnologia —, garantir o devido processo tecnológico, com direito à explicação e contestação de decisões automatizadas, e instituir mecanismos permanentes de governança com composição multidisciplinar, a exemplo do AI Governance Working Group criado na Nova Zelândia. 
O objetivo não é restringir a inovação, mas sim assegurar que seu avanço ocorra de forma legítima, ética e compatível com os princípios democráticos.
É importante reconhecer que os sistemas de IA baseados em aprendizado de máquina operam com base em dados e decisões passadas. Essa característica, embora útil para a eficiência, pode comprometer a capacidade de inovar juridicamente e reproduzir injustiças históricas. Algoritmos não captam contextos humanos, nem interpretam intenções. Em processos que exigem avaliação subjetiva, como o reconhecimento da boa-fé, confiar exclusivamente em sistemas estatísticos é uma limitação grave. 
Apesar do nome, a chamada inteligência artificial ainda está longe de ser verdadeiramente inteligente ou autônoma. Ela opera com base em instruções e dados definidos por seres humanos, e exige acompanhamento constante em todas as fases de seu uso — da concepção à supervisão. Tratar a IA como uma entidade neutra e autossuficiente é ignorar os fatores humanos, técnicos e institucionais que determinam seus resultados.
Nesse sentido, a governança da IA deve ser guiada por princípios estruturantes, entre eles o da inteligência artificial centrada no ser humano, como preconizado pela OCDE, Unesco e União Europeia. Tal princípio estabelece que o desenvolvimento tecnológico deve sempre respeitar a dignidade, os direitos fundamentais e a autonomia dos indivíduos.
Diversos órgãos públicos já editaram normativos prevendo auditorias de sistemas de inteligência artificial e a atuação de comitês de governança. No entanto, poucas dessas iniciativas se materializaram de forma efetiva na prática institucional. A governança algorítmica exige mais do que dispositivos formais em portarias publicadas no Diário Oficial — trata-se de um compromisso contínuo com a transparência, o controle social e a supervisão técnica no uso de tecnologias automatizadas.
Se o Brasil almeja incorporar a inteligência artificial como ferramenta de aprimoramento institucional e garantia de direitos — e não como fator de assimetria e opacidade — é imprescindível que essa discussão seja efetivamente institucionalizada.
Para que a IA alcance seu pleno potencial, é necessário enfrentar concretamente os desafios associados à sua adoção. Isso começa com um gesto simples, mas simbólico: incluir a sociedade civil, os órgãos de controle e o conhecimento técnico no espaço onde os algoritmos são concebidos e aplicados. 
O avanço tecnológico só cumprirá sua promessa democrática se for acompanhado de estruturas permanentes de supervisão e participação, como comitês de governança algorítmica, mecanismos de proteção de dados e auditorias aleatórias e periódicas.

nepotismo administracao publica

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Desafios da governança algorítmica no setor público brasileiro

Desafios da Governança Algorítmica no Setor Público Brasileiro

Desafios da governança algorítmica no setor público brasileiro

Quem vigia os algoritmos?