A Inteligência Artificial deixou de ser promessa na Administração Pública e já apoia desde análises de dados até a fiscalização de infraestruturas. O problema é que muitas instituições tentam governar esses sistemas usando apenas regras tradicionais de Segurança da Informação — focadas em redes, senhas e perímetros. Quando o assunto é IA, os riscos mudam de natureza: modelos probabilísticos sofrem degradação ao longo do tempo, podem reproduzir vieses discriminatórios, dependem de fornecedores externos e abrem brechas inéditas, como envenenamento de dados, injeção de prompts e o uso silencioso de ferramentas não homologadas, o chamado Shadow AI.

Para investigar como estruturar essa proteção na prática, foi realizada uma análise comparativa aprofundada da proposta de Framework Institucional de Governança, Segurança e Monitoramento de IA do DNIT frente à norma internacional ISO/IEC 42001:2023.

Os resultados trouxeram lições valiosas para qualquer organização pública ou privada. Dos 32 requisitos e controles avaliados, o índice de correspondência documental chegou a 87,5%, mas todas as evidências ainda estavam restritas ao nível documental, sem registros de execução ou efetividade comprovada na operação. A pesquisa mostra que políticas clássicas precisam evoluir para exigir avaliação preliminar de riscos antes da adoção de casos de uso, supervisão humana significativa e cláusulas contratuais com rastreabilidade dos componentes de IA. Além disso, apenas proibir o uso de ferramentas externas não funciona – o combate ao Shadow AI exige integrar monitoramento de rede, prevenção de perda de dados e oferta de soluções institucionais seguras. Por fim, ficou evidente uma lacuna crítica de continuidade de negócios: fazer backup tradicional não basta, pois sem políticas para versionar e recuperar pesos, hiperparâmetros e conjuntos de treinamento, um incidente pode paralisar serviços essenciais.

O grande recado para líderes e tomadores de decisão é direto: governança de IA exige orçamento dedicado, inventário vivo e evidências auditáveis de operação. Sem isso, até o framework mais bem escrito corre o risco de virar apenas conformidade de gaveta.

Ficha técnica:

  • Título: Framework Institucional de Governança, Segurança e Monitoramento de Inteligência Artificial no DNIT: Avaliação comparativa à luz de referenciais normativos e técnicos
  • Pesquisador: André Luís Albernaz Martinez
  • Orientador: Prof. Dr. Rafael Rabelo Nunes
  • Banca examinadora: Prof. Dr. Daniel Café e Prof. Dr. Laerte Peotta
  • Programa: Programa de Pós-Graduação Profissional em Engenharia Elétrica (PPEE) – Universidade de Brasília (UnB)
  • Laboratório: LabRisk (Risk. Privacy. Security.)

Na sua organização, a governança de Inteligência Artificial já saiu do papel com controles técnicos e orçamento próprio — ou ainda está na fase de diretrizes e comitês?

#InteligênciaArtificial #GovernançaDeIA #SegurançaDaInformação #Cibersegurança #GestãoPública #ISO42001 #GestãoDeRiscos #InovaçãoNoSetorPúblico #ShadowAI #ProteçãoDeDados

Publicado originalmente no site do LabRisk.