Questão
ID 2974672Disciplina: Criminologia
Assunto: Racismo Algorítmico
Ano: 2026 Banca: FCC - Fundação Carlos Chagas Órgão: Secretaria da Fazenda do Estado de São Paulo
Determinada Secretaria da Fazenda implementou um sistema de IA para classificar automaticamente declarações fiscais quanto ão risco de irregularidade. Após seis meses de operação, auditores identificaram que o modelo estava atribuindo pontuações de risco sistemalicamente mais altas para empresas de selores específicos, mesmo quando os indicadores financeiros eram similares aos de outros setores com pontuações menores. A análise técnica revelou que a base de dados histórica utilizada no treinamento continha proporcionalmente mais autuações em determinados setores devido a fiscalizações direcionadas realizadas no passado, e não necessariamente por maior incidência real de irregularidades. O modelo aprendeu e perpetuou esse padrão desproporcional. O problema de governança e ética em IA que estã caracterizado nessa siluação é: