A adoção acelerada da IA generativa nas empresas e órgãos públicos trouxe ganhos gigantescos de produtividade. Contudo, essa praticidade criou um ponto cego silencioso: para resumir atas, analisar relatórios restritos ou redigir pareceres, colaboradores inserem conteúdos confidenciais em plataformas digitais sem qualquer controle de governança. Quando informações estratégicas são processadas por Modelos de Linguagem (LLMs), surgem riscos graves como a retenção indevida pelo provedor, a exfiltração de dados por meio dos prompts, falhas em assistentes de busca interna (RAG) e a quebra de sigilo legal ou empresarial.

Pesquisas recentes revelam uma lacuna crítica nos principais marcos globais de regulação, como o AI Act da União Europeia, as diretrizes norte-americanas e a própria LGPD. Todas essas normas focam na IA enquanto produto ou serviço de mercado, ignorando as salvaguardas necessárias para o processamento interno diário de documentos de circulação restrita. Na prática, ao colar um texto confidencial na ferramenta, o documento perde sua proteção formal e passa a ser tratado apenas como dado bruto de entrada.

Para evitar vazamentos e permitir a inovação com segurança, a solução passa pela criação de um modelo claro de governança operacional. Isso envolve classificar os prompts conforme o grau de sigilo do documento original, priorizar o uso de modelos em nuvens privadas ou locais sem retenção de dados, manter registros auditáveis do histórico de uso e alinhar os processos a frameworks internacionais como o NIST AI RMF e a ISO/IEC 42001. A verdadeira segurança não está em proibir a tecnologia, mas em criar caminhos estruturados para que a eficiência caminhos lado a lado com a proteção da informação.

Ficha Técnica:
• Pesquisador: Paulo Florêncio de Barros
• Orientador: Prof. Dr. William Ferreira Giozza
• Programa: Pós-Graduação Profissional em Engenharia Elétrica (PPEE / UnB)
• Laboratório: LabRisk (Risk, Privacy, Security)
• Banca Examinadora: Alexandre Veronese (UnB) e Welandro Damasceno Ramalho (CAPES)

Sua organização já possui regras claras sobre o que pode e o que não pode ser colado nos prompts de IA generativa, ou a produtividade ainda atropela a governança no dia a dia?

#InteligenciaArtificial #SegurancaDaInformacao #PrivacidadeDeDados #LGPD #AIAct #GovernancaDeIA #NISTAIRMF #Ciberseguranca #LabRisk #GestaoDeRisco

Publicado originalmente no site do LabRisk.