A OpenAI, empresa responsável pelo desenvolvimento do ChatGPT, analisou o viés político e ideológico do modelo de Inteligência Artificial (IA) e concluiu haver um viés moderado em resposta a indicações desafiadoras e com caráter emocional.
De acordo com um comunicado da empresa, citado pela agência de notícias Europa Press, as ferramentas da empresa mostram um viés moderado nas indicações mais desafiadoras com caráter emocional.
Neste sentido, a OpenAI está a analisar o viés político e ideológico nas informações fornecidas pelo ChatGPT nas respostas textuais, com um quadro de avaliação que mede a manifestação desse viés durante o seu uso.
Para isso, preparou cerca de 500 perguntas que abrangem 100 tópicos, tentando refletir a variedade de temas políticos, políticas públicas e culturais sobre os quais os utilizadores interagem com o modelo.
Alguns dos tópicos continham linguagem polarizada e um enquadramento provocativo, para "avaliar o seu desempenho quando a objetividade é mais difícil de manter", informa a empresa no comunicado.
Num primeiro momento, a análise procurou medir as diversas 'nuances' que "captam as diferentes maneiras como o viés pode manifestar-se nos resultados do modelo", como a invalidação do utilizador, expressão política pessoal e rejeições políticas.
Como resultado, a OpenAI identificou que "não se observa uma objetividade total", embora destaque o bom desempenho nesta área.
A tecnológica informa em comunicado que os modelos mais recentes são "os mais alinhados com os critérios de objetividade", chegando a reduzir as pontuações de viés em 30% face aos modelos anteriores.
Ao aplicar a avaliação a uma amostra das consultas reais feitas pelos utilizadores, a empresa estima que "menos de 0,01% das respostas do modelo apresentem indícios de viés político".
"Os modelos permanecem quase objetivos diante indicações neutras ou ligeiramente tendenciosas e apresentam um viés moderado em resposta a indicações desafiadoras e com caráter emocional", afirma a empresa.
Leia Também: A nova app da OpenAI teve 1 milhão de downloads em menos de 5 dias
