Preconceito regional e vieses na Inteligência Artificial
Pesquisadores da Universidade Federal de Minas Gerais (UFMG) identificaram padrões de discriminação nas respostas geradas pelo ChatGPT.
O estudo utilizou testes de associação implícita para verificar como a ferramenta descreve habitantes de diferentes estados do Brasil.
Os resultados apontam que o sistema vincula cidadãos da região Nordeste a conceitos como ignorância e baixa renda com maior frequência.
O levantamento utilizou milhares de comandos para observar a variação de adjetivos e descrições fornecidas pela plataforma da OpenAI.
Enquanto regiões do Sul e Sudeste recebem atributos relacionados ao desenvolvimento e riqueza, o Norte e Nordeste enfrentam estigmas históricos nos textos gerados.
Conforme a professora e coordenadora da pesquisa, Aline Paes, “os modelos de linguagem refletem os preconceitos presentes nas bases de dados da internet”.
A OpenAI declarou que trabalha para reduzir vieses em seus sistemas e reconhece as limitações das versões atuais da tecnologia.
A empresa afirma que o treinamento envolve filtros de segurança, mas admite que o software pode reproduzir comportamentos humanos inadequados.
Especialistas em ética digital defendem a necessidade de auditorias externas e maior transparência nos algoritmos para evitar a propagação de discursos discriminatórios.