Em causa está uma nova campanha maliciosa que tem a capacidade de contornar as restrições publicitárias do X, concebidas para impedir anúncios fraudulentos.
A violação é feita através da publicação de vídeos com conteúdo 'clickbait' cuja informação de origem inclui, em vez do nome de um meio de comunicação, uma ligação fraudulenta que redireciona para páginas de 'phishing' e burlas.
As campanhas de 'phishing' são um tipo de crime cibernético que envolve o envio de mensagens fraudulentas de uma suposta fonte segura, com o objetivo de roubar informações pessoais e sensíveis.
No caso da rede social X, esta campanha caracteriza-se por manipular o Grok para que divulgue o 'link' em grande escala, sendo que para isso, os cibercriminosos podem ao 'chatbot' que identifique a origem do vídeo.
Ao analisar a publicação, o modelo de IA deteta o 'link' incorporado e repete-o automaticamente, ampliando o alcance da informação maliciosa.
Trata-se de uma forma de ataque por 'injeção de instruções', em que os cibercriminosos introduzem instruções ocultas no conteúdo processado por sistemas de Inteligência Artificial (IA) para realizar ações que estão bloqueadas.
Esta campanha de anúncios maliciosos foi denominada "Grokking", devido ao papel que a IA desempenha na promoção da divulgação de informação e por ser precisamente o Grok o "chatbot" escolhido para tal.
Embora já se soubesse que a IA é utilizada em campanhas maliciosas, os criminosos aproveitam a reputação do Grok como fonte de informação, com potencial para atingir milhões de visualizações.
No entanto, como esclarece a ESET, o seu impacto não se limita à rede social X, podendo atingir qualquer plataforma que integre modelos de linguagem ou assistentes baseados em IA.
A ESET é uma plataforma de segurança 'online' que pretende construir um ambiente digital resiliente, através da combinação entre IA e o conhecimento humano.
Leia Também: Desinformação com IA sobre assassinato de Charlie Kirk chegou a Portugal
