Com o declínio gradual da verificação de factos por parte dos jornalistas em plataformas como o Facebook, cada vez mais utilizadores da internet recorrem a ferramentas de IA como a Grok para encontrar informações fidedignas, mas as respostas que recebem por vezes expõem-nos a informações incorretas.
De acordo com o estudo publicado na terça-feira pelo Digital Forensic Research Laboratory (DFRLab) do Atlantic Council, um 'think tank' norte-americano, o desempenho da Grok durante os primeiros dias do conflito entre Israel e o Irão "revelou falhas significativas e demonstrou as limitações do chatbot em fornecer informações precisas, fiáveis e consistentes em tempos de crise".
A análise envolveu 130 mil mensagens em várias línguas na plataforma X, que integra o chatbot Grok, e determinou que este último "teve dificuldade em autenticar conteúdo gerado por IA".
Por exemplo, após os ataques de retaliação iranianos em Israel, o Grok ofereceu respostas muito diferentes a instruções semelhantes sobre imagens geradas por IA de um aeroporto destruído, que acumularam milhões de visualizações no X.
As respostas oscilavam, por vezes no mesmo minuto, entre negar a destruição do aeroporto e confirmar que tinha sido atingido por ataques.
E em algumas respostas, o Grok alegou que um míssil disparado do Iémen foi a causa dos danos, enquanto noutras, identificou falsamente o aeroporto em questão como sendo em Beirute, Gaza ou Teerão.
De acordo com os especialistas, o Grok já foi 'apanhado' nas suas respostas de verificação de factos durante o recente conflito entre a Índia e o Paquistão e durante os protestos em Los Angeles contra as políticas anti-imigração de Donald Trump.
No mês passado, o serviço de IA do empresário sul-africano Elon Musk também causou polémica ao referir-se erradamente ao "genocídio branco" na África do Sul, um erro posteriormente atribuído pela xAI a uma "modificação não autorizada".
Leia Também: UE debate conflitos na Ucrânia e Médio Oriente após cimeira da NATO
