A crescente implementação de sistemas de Inteligência Artificial (IA) na Administração pública brasileira representa um ponto de inflexão com impactos inclusive sobre os Tribunais de Contas.
Enquanto o Poder Judiciário avança na regulamentação dessas tecnologias através da atualização da Resolução n° 332/2020 pelo Conselho Nacional de Justiça , os órgãos de controle externo encontram-se em posição peculiar que merece análise específica.
Os Tribunais de Contas, diferentemente dos órgãos do Poder Judiciário, exercem função fiscalizatória administrativa com prerrogativas constitucionais próprias. Suas decisões, embora possuam caráter técnico-administrativo e não jurisdicional, impactam diretamente a gestão de recursos públicos e devem invariavelmente estar alinhadas aos princípios constitucionais da Administração Pública, notadamente a legalidade, impessoalidade, moralidade, publicidade e eficiência.
A incorporação de ferramentas de IA nestes entes pode trazer benefícios consideráveis para o controle das contas públicas. O volume expressivo de dados fiscais, orçamentários e contábeis analisados pelos Tribunais de Contas constitui terreno fértil para aplicações de machine learning e análise preditiva.
Sistemas inteligentes podem identificar padrões de irregularidades em licitações, contratos e execuções orçamentárias com eficiência incomparável à capacidade humana, antecipando possíveis desvios a contribuir para a prevenção de danos ao erário.
Contudo, as particularidades institucionais dos Tribunais de Contas exigem cautela redobrada.
Ao analisar os avanços regulatórios do CNJ, é possível extrair parâmetros pertinentes, mas insuficientes para a realidade específica das Cortes de Contas. A supervisão humana, ponto central da atualização normativa do Judiciário, ganha contornos relevantes quando consideramos que as decisões dos Tribunais de Contas podem resultar em responsabilização de gestores, aplicação de multas e determinação de ressarcimentos.
A proibição de sistemas que classificam perfis para prever condutas, estabelecida pelo CNJ, também merece atenção no âmbito dos Tribunais de Contas. Seria eticamente aceitável um algoritmo que classifique gestores públicos ou jurisdicionados por grau de "risco de irregularidade"? Tal abordagem poderia gerar estigmatização prévia incompatível com os princípios constitucionais da presunção de inocência e da impessoalidade.
Quanto a transparência algorítmica, os Tribunais de Contas enfrentam desafio ainda maior que o Judiciário.
Como órgãos constitucionalmente responsáveis pela fiscalização da aplicação dos recursos públicos, devem ser exemplares na transparência de seus próprios processos decisórios. Atender a critérios de interpretabilidade e explicabilidade concorreriam para minimizar a opacidade da "black-box" algorítmica a afastar a contradição fundamental com sua missão institucional de promover a accountability na administração pública.
Outro aspecto importante para os Tribunais de Contas refere-se à expertise técnica necessária para o desenvolvimento e supervisão de sistemas de IA.
Diferentemente do Judiciário, que julga com base predominantemente em normas jurídicas, os Tribunais de Contas operam em domínio multidisciplinar que engloba saúde, segurança pública, educação, infraestrutura, tecnologia, contabilidade, economia, engenharia, administração e direito. Essa complexidade e interdisciplinariedade técnica multiplica os desafios para garantir que algoritmos não reproduzam vieses ou simplifiquem indevidamente análises que exigem conhecimento especializado.
A questão da soberania digital, citada como preocupação no contexto Judiciário, adquire dimensão estratégica ainda mais crítica nos Tribunais de Contas. Confiar a análise de dados críticos/estratégicos da administração pública nacional a sistemas desenvolvidos por corporações estrangeiras representaria vulnerabilidade significativa. A dependência tecnológica poderia comprometer a autonomia desses órgãos em sua função constitucional de controle externo.
Um modelo regulatório adequado para a IA nos Tribunais de Contas precisaria equilibrar a busca por eficiência com o respeito aos princípios constitucionais que regem a administração pública.
Inspirando-se na iniciativa do CNJ, mas adaptando-a às suas particularidades, os Tribunais de Contas poderiam desenvolver diretrizes que contemplem a vedação expressa à automatização completa de decisões que impliquem responsabilização de gestores ou aplicação de sanções; exigência de auditabilidade integral dos sistemas, com documentação detalhada dos dados utilizados no treinamento dos algoritmos; estabelecimento de comitês técnicos multidisciplinares para avaliar e monitorar continuamente o funcionamento dos sistemas; criação de mecanismos institucionais que garantam o contraditório em relação às análises produzidas por sistemas automatizados e desenvolvimento de indicadores de desempenho que não se limitem à eficiência quantitativa, mas incluam métricas de justiça, equidade e conformidade constitucional.
É importante destacar que os Tribunais de Contas, embora não integrem o Poder Judiciário, compartilham com este a responsabilidade de garantir a efetividade dos direitos fundamentais. Suas decisões, ainda que administrativas, impactam diretamente a concretização de políticas públicas essenciais. A implementação irrefletida de sistemas automatizados poderia reforçar desigualdades existentes na distribuição de recursos públicos ou perpetuar vieses históricos na fiscalização de diferentes órgãos e regiões.
Em última análise, a IA nos Tribunais de Contas deve ser compreendida como ferramenta a serviço dos princípios constitucionais que orientam o controle externo, nunca como substituta do juízo técnico-político inerente à sua função. Os sistemas podem auxiliar na identificação de indícios e padrões, mas a avaliação contextualizada das circunstâncias e a ponderação dos valores em jogo permanece tarefa eminentemente humana.
Enfim, a modernização tecnológica dos Tribunais de Contas é imperativo para sua efetividade no complexo cenário da administração pública contemporânea. Contudo, essa inovação digital deve ser orientada por reflexão crítica constante sobre os limites éticos e constitucionais da automação decisória. Acaso a tecnologia ganhe dimensões erráticas haverá não só o comprometimento de casos individuais, mas também desvirtuará a própria missão institucional desses órgãos fundamentais para o Estado Democrático de Direito.
Valteir Teobaldo S. de Assis - Advogado, consultor, vice-presidente da Comissão de Proteção de Dados e Privacidade da OAB-MT, DPO Serpro/Datashield e Encarregado de Dados do Tribunal de Contas de Mato Grosso (TCE-MT)
