Questão 67073

Em um curso de Licenciatura em Computação, uma disciplina aborda as implicações éticas da Inteligência Artificial. O professor, Dr. Morais, quer que seus alunos, futuros educadores, desenvolvam uma compreensão crítica sobre os vieses (biases) em sistemas de IA e como eles podem perpetuar e amplificar desigualdades sociais. Ele apresenta o caso de um sistema de IA usado para análise de crédito, que foi treinado com dados históricos de um banco. O sistema, após o treinamento, passou a negar crédito com mais frequência a certos grupos minoritários, mesmo quando seus perfis financeiros eram similares aos de outros grupos que recebiam aprovação. Ele cita um trecho da obra 'Algoritmos de Opressão' de Safiya Noble: "Os algoritmos não são neutros. Eles refletem os valores, as crenças e os preconceitos de seus criadores e, mais importante, dos dados com os quais são treinados. Se uma sociedade tem um histórico de discriminação, os dados gerados por essa sociedade irão refletir essa discriminação. Um sistema de IA treinado com esses dados aprenderá a replicar e, pior, a automatizar e justificar essa discriminação sob um verniz de objetividade técnica." Dr. Morais então pede aos licenciandos que analisem as causas do comportamento do sistema de análise de crédito.

Avaliando o cenário à luz do referencial teórico, analise as seguintes afirmações sobre o viés algorítmico.

I. O viés do sistema provavelmente não se origina de uma intenção maliciosa dos programadores, mas sim do fato de que os dados históricos de concessão de crédito já continham vieses sociais e econômicos contra os grupos minoritários.

II. O algoritmo, ao otimizar a predição de 'inadimplência' com base nos dados históricos, aprendeu a usar proxies (como CEP, por exemplo) que estavam correlacionados tanto com a inadimplência quanto com a raça ou etnia, efetivamente 'redescobrindo' e codificando o preconceito presente nos dados.

III. A solução para este problema é puramente técnica: basta coletar mais dados, pois um volume maior de dados automaticamente elimina quaisquer vieses existentes.

É correto o que se afirma em: