Opinião e Análise

André Castro Carvalho

Murilo Ruiz Ferro

No artigo anterior, <a href="https://www.jota.info/opiniao-e-analise/colunas/coluna-fiscal/ia-e-direito-financeiro-o-estado-que-resiste-a-eficiencia">“IA e direito financeiro: o Estado que resiste à eficiência”</a>, sustentamos que a inteligência artificial já alcançou um estágio de maturidade tecnológica capaz de transformar a governança no setor público, automatizando fluxos administrativos, ampliando a capacidade de fiscalização e reduzindo desperdícios orçamentários.
Ponderamos, contudo, que a resistência à sua adoção não decorre apenas de limitações técnicas ou financeiras, mas de um modelo de poder que, muitas vezes, depende pragmaticamente da ineficiência para sobreviver.
De forma franca e direta: em contextos de contaminação política, sim, a ineficiência do Estado pode ser proposital!
<a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a>
Há, porém, um segundo fenômeno digno de atenção. Se, de um lado, parte do Estado resiste deliberadamente à incorporação da IA por receio da transparência e da racionalização administrativa, de outro, observa-se um movimento inverso igualmente problemático, qual seja, a utilização grosseira, desestruturada e intelectualmente despreparada da IA generativa e agêntica dentro da administração pública. Ainda que motivado por boas intenções, esse uso com baixo letramento também pode gerar riscos à sociedade.
O problema começa quando gestores públicos passam a acreditar que ferramentas de IA podem substituir, de forma simplificada, o conhecimento técnico acumulado durante anos por servidores especializados. A falsa sensação de autonomia produzida por modelos de linguagem cria a ilusão de que bastaria “conversar com a máquina” para resolver questões complexas da Administração Pública, como o planejamento e a execução orçamentária ou a conformidade na gestão fiscal.
Ocorre que, quando o usuário não domina minimamente a matéria que está sendo tratada, perde a capacidade de distinguir uma resposta tecnicamente correta de outra apenas linguisticamente plausível, mas sem base factual ou legal precisa.
Essa situação é agravada porque os modelos de linguagem produzem textos estruturalmente convincentes, uma vez que reproduzem padrões presentes em textos humanos. A IA frequentemente redige relatórios ou manifestações técnicas com aparência formal de legitimidade, mas cujo conteúdo pode conter distorções graves, referências inexistentes, dados imprecisos ou incompatibilidades com regras específicas do setor público.
Veja-se, por exemplo, que, no âmbito da Constituição Federal e da Lei de Responsabilidade Fiscal, a elaboração de relatórios de gestão fiscal, a classificação adequada de despesas, a interpretação dos limites constitucionais de aplicação em saúde e educação, o enquadramento de despesas de pessoal ou mesmo o correto entendimento das exigências da Secretaria do Tesouro Nacional dependem de conhecimento altamente especializado.
Um comando genérico dirigido a uma ferramenta de IA pode gerar respostas aparentemente sofisticadas, mas incompatíveis com normas fiscais específicas, com manuais técnicos ou com a jurisprudência dos Tribunais de Contas.
Tome-se um caso hipotético como exemplo. Pede-se a um modelo a minuta de uma manifestação sobre se determinado contrato de terceirização de vigilância do edifício de uma Secretaria integra a despesa total com pessoal, para fins do limite do art. 19 da LRF. O texto retorna bem estruturado, com forma de parecer, citando dispositivos e um suposto precedente de Tribunal de Contas.
Quem não domina a matéria lê um documento convincente. Quem a domina percebe que o dispositivo invocado trata de outra hipótese; que a conclusão não verifica se a mão de obra terceirizada efetivamente substitui servidores ou empregados públicos, como exige o art. 18, § 1º, da LC nº 101/2000; que desconsidera as orientações da Secretaria do Tesouro Nacional<a href="#_ftn1" name="_ftnref1">[1]</a> quanto à classificação da despesa; e que o precedente atribuído ao Tribunal não existe. A diferença entre os dois leitores é o domínio técnico que cada um traz para a leitura.
O usuário despreparado não dispõe de meios para identificar o erro quando ele ocorre, e essa é a falha central. Não há, em seu funcionamento, mecanismo intrínseco que assegure  a correção factual ou a aderência da resposta às normas de direito financeiro. Ausentes critérios metodológicos, validação técnica e supervisão qualificada, o resultado pode parecer impecável e estar errado, sem que o operador tenha como perceber a diferença.
Na IA agêntica, o problema assume dimensão adicional. Sistemas dessa natureza podem receber objetivos mais amplos, decompor tarefas, consultar diferentes bases, utilizar ferramentas digitais e executar etapas sucessivas com menor intervenção humana. No setor público, um erro inicial pode se propagar ao longo de todo o fluxo com cascata de erros, afetando classificações, cálculos, relatórios, comunicações ou atos administrativos. Por essa razão, agentes de IA exigem controles específicos para evitar o uso inadequado, como restrição de permissões, segregação de funções, registros de auditoria, validação humana em etapas críticas, ambientes controlados de execução e mecanismos de interrupção.
Destarte, quanto mais a IA for utilizada de forma grosseira, mais falhas produzirá, maior será a resistência cultural à sua adoção e maior será o atraso tecnológico da administração pública brasileira em relação aos países que já entenderam a relevância da inteligência artificial como recurso de ampliação qualificada da capacidade institucional.
Daí a necessidade de se investir no letramento em IA no setor público, medida esta que não significa transformar gestores públicos em programadores ou cientistas de dados, mas capacitá-los a compreender limitações, riscos, vieses e possibilidades da tecnologia<a href="#_ftn2" name="_ftnref2">[2]</a>.
Cediço que o uso improvisado e intuitivo de ferramentas não substitui a governança no uso da tecnologia. O Estado não pode depender da utilização informal de plataformas comerciais por servidores públicos, por iniciativa individual e sem coordenação institucional. O caminho mais adequado é a adoção progressiva de soluções desenvolvidas ou contratadas para finalidades específicas, aderentes ao ordenamento jurídico brasileiro e dotadas de mecanismos de segurança, supervisão humana, rastreabilidade e auditoria.
Entre esses mecanismos está a geração aumentada por recuperação (retrieval-augmented generation - RAG), que permite fundamentar as respostas do sistema em repositórios institucionais previamente selecionados e atualizados, contribuindo para reduzir alucinações, inconsistências normativas e desvios metodológicos. O mecanismo, entretanto, não elimina a necessidade de validação técnica, pois seus resultados dependem da qualidade, da atualidade, da completude e da adequada curadoria das fontes utilizadas.
A urgência, portanto, recai sobre a capacidade de o Estado brasileiro aprender a utilizar a IA de forma institucional, superando o debate preliminar sobre adotar ou não a tecnologia. Tanto mais porque a diferença entre os países que desenvolverem capacidade institucional séria em inteligência artificial e os que permanecerem presos à improvisação burocrática poderá produzir, em poucos anos, um abismo econômico, administrativo e tecnológico de proporções históricas<a href="#_ftn3" name="_ftnref3">[3]</a>.
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
Nesse sentido, ao contrário do que muitos parecem sustentar, a inteligência artificial, longe de eliminar a necessidade de bons profissionais, em verdade, valorizará aqueles que possuem preparo para operá-la e supervisionar seus resultados, tornando os profissionais verdadeiramente qualificados ainda mais essenciais.
O risco, contudo, reside no fato de que a utilização grosseira da IA tem produzido, conforme já assinalado, a falsa percepção de que o conhecimento técnico especializado se tornou dispensável. Assim, caso tal ilusão prevaleça na administração pública e a classe política venha a precarizar seus quadros técnicos justamente quando eles se tornarem mais necessários, talvez este seja um dos erros mais impactantes que o Estado brasileiro possa cometer nas próximas décadas.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> Disponível em: <a href="https://conteudo.tesouro.gov.br/manuais/index.php?Itemid=675&amp;catid=683&amp;id=1358%3A04-01-02-01-despesa-com-pessoal&amp;option=com_content&amp;view=article&amp;utm_source=chatgpt.com">https://conteudo.tesouro.gov.br/manuais/index.php?Itemid=675&amp;catid=683&amp;id=1358%3A04-01-02-01-despesa-com-pessoal&amp;option=com_content&amp;view=article&amp;utm_source=chatgpt.com</a>
<a href="#_ftnref2" name="_ftn2">[2]</a> À semelhança do letramento digital que ocorreu nos anos 90/00, cumpre formar agentes capazes de estruturar comandos adequados, interpretar criticamente respostas produzidas pela IA e exercer supervisão técnica minimamente qualificada sobre os resultados obtidos.
<a href="#_ftnref3" name="_ftn3">[3]</a> Não se olvida, pois, que a tecnologia continuará avançando independentemente das hesitações brasileiras. Isto posto, se os bons gestores não utilizarem a IA de maneira qualificada, os ruins a utilizarão de forma irresponsável; se instituições democráticas não desenvolverem capacidade tecnológica, grupos oportunistas o farão; e, se determinados países optarem por permanecer presos à resistência cultural e ao improviso administrativo, países outros avançarão em produtividade, governança e crescimento econômico numa velocidade dificilmente recuperável a posteriori.

Inteligência Artificial e Direito Financeiro: o Estado que resiste à eficiência

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Uso grosseiro da IA tem produzido falsa percepção de que conhecimento técnico especializado se tornou dispensável

IA e direito financeiro: a ineficiência do Estado pelo despreparo

Uso grosseiro da IA tem produzido falsa percepção de que conhecimento técnico especializado se tornou dispensável