Questão 66164

Durante uma aula de Ética, Computador e Sociedade para o Ensino Médio, o professor Tiago propõe uma discussão sobre o viés algorítmico. Para contextualizar, ele apresenta um caso hipotético, mas plausível: "Uma startup desenvolveu um aplicativo de IA, chamado 'Contrata.AI', para auxiliar empresas no processo de seleção de candidatos. O sistema analisa currículos e vídeos de entrevistas, atribuindo uma 'pontuação de compatibilidade' para cada candidato. A startup alega que o sistema é objetivo e elimina preconceitos humanos. No entanto, após um ano de uso, uma auditoria independente revela que o sistema tende a dar pontuações significativamente mais baixas para mulheres em candidaturas para cargos de liderança e para pessoas com mais de 50 anos para vagas de tecnologia. A startup argumenta que não programou nenhum preconceito; o sistema 'apenas aprendeu' com os dados históricos de contratação das empresas clientes nos últimos 10 anos." O professor Tiago cita um trecho da obra "Weapons of Math Destruction" de Cathy O'Neil: "Os algoritmos são opiniões embutidas em código... eles não são objetivos. Eles são otimizados para algum critério de sucesso. Mas se os dados históricos refletem nossos preconceitos, e se o critério de sucesso é definido de forma restrita (como 'contratar pessoas parecidas com as que foram bem-sucedidas no passado'), os modelos de IA irão inevitavelmente herdar, codificar e até mesmo ampliar esses preconceitos em larga escala." A partir dessa exposição, Tiago pede aos alunos que analisem a raiz do problema no caso 'Contrata.AI'.

Com base no cenário e no referencial teórico, qual é a explicação mais precisa para o comportamento discriminatório do sistema 'Contrata.AI'?