Com a transformação digital acelerando a análise de processos administrativos e concessões de direitos no Brasil, a delegação de julgamentos para algoritmos deixou de ser uma promessa para virar realidade cotidiana. Ferramentas de automação podem contribuir para a redução das filas de espera em larga escala. No entanto, sobretudo quando associadas à Inteligência Artificial, podem operar sob o chamado efeito “caixa-preta” e reproduzir falhas de forma sistêmica, afetando milhares de cidadãos por meio de decisões padronizadas e pouco transparentes.
Para compreender as vulnerabilidades e os impactos dessa automação, realizamos uma análise aprofundada sobre o uso de Sistemas de Decisão Automatizada em órgãos públicos brasileiros. A pesquisa, baseada em revisão bibliográfica crítica e estudo de casos nacionais e internacionais, evidenciou que a ausência de mecanismos adequados de governança e a fragilidade da supervisão humana podem comprometer a transparência, ampliar riscos de fraude e contribuir para a produção de indeferimentos automáticos potencialmente indevidos.
O estudo resultou na proposição de um conjunto de diretrizes práticas de governança para o setor público. Estruturado em cinco eixos, o modelo contempla a institucionalização da supervisão humana significativa; a implementação de auditorias algorítmicas e testes de integridade; o fortalecimento da transparência e do direito à explicação; a governança dos dados de entrada e o saneamento das bases legadas; e a gestão de responsabilidade e accountability. Essas diretrizes oferecem subsídios para que gestores públicos conciliem eficiência, controle institucional e proteção de direitos fundamentais.
A transformação digital no Estado não depende apenas da adoção de algoritmos avançados, mas também de processos de governança capazes de integrar eficiência, transparência, responsabilização e proteção de direitos. A adoção responsável de sistemas automatizados, acompanhada de salvaguardas institucionais adequadas, pode reduzir os riscos de erros em escala e fortalecer a legitimidade das decisões e das instituições públicas.
Como a sua organização lida atualmente com o equilíbrio entre a busca por eficiência por meio da automação e as exigências de governança, transparência e supervisão humana significativa?
Ficha Técnica:
- Pesquisador: Anderson Sousa Batista Machado
- Orientador: Prof. Demétrio Antônio da Silva Filho
- Programa: Programa de Pós-Graduação Profissional em Engenharia Elétrica (PPEE UnB)
- Instituição/Laboratório: Universidade de Brasília / LabRisk
- Banca Examinadora: Profa. Edna Dias Canedo e Profa. Virgínia de Melo Dantas Trinks
#GovernancaAlgoritmica #InteligenciaArtificial #SegurancaDaInformacao #SetorPublico #TransformacaoDigital #LGPD #DireitoDigital #LabRisk
Publicado originalmente no site do LabRisk.
