De acordo com o documento, a maior parte destes vídeos de ódio gerado por IA é direcionada a pessoas negras, retratando-as como suspeitas em crimes, pais ausentes e macacos com afinidade por melancia (símbolo histórico de racismo nos EUA, utilizado para ridicularizar e desumanizar pessoas negras).
"Desde que IA generativa existe, as pessoas usam-na para criar conteúdo inflamatório e racista (...), o realismo do Veo 3 torna-o especialmente atraente para aqueles que desejam espalhar estereótipos odiosos", garante o relatório.
Apesar da proliferação do conteúdo 'online', os termos de serviço do TikTok procuram proibir este tipo de conteúdo.
"Não permitimos qualquer discurso de ódio, comportamento de ódio ou promoção de ideologias odiosas. Isso incluiu conteúdo explícito ou implícito que ataques grupos protegidos", referem as diretrizes da comunidade da rede social.
Além disso, o TikTok afirma que utiliza tecnologia e moderação feita por humanos para identificar quem viola as regras, embora o volume de informação dificulte uma moderação rápida e adequada.
Também a Google possui uma política que veta o uso dos seus serviços para promover discurso de ódio, assédio, intimidação e abuso, contudo segundo o documento, falta clareza em matéria de IA. "O TikTok aparentemente não consegue acompanhar a enxurrada de publicações de vídeos, e as proteções do Google parecem insuficientes para bloquear a criação desse conteúdo", refere.
O relatório concluiu ainda que as conversas sobre IA e desinformação frequentemente concentram-se na credibilidade do conteúdo gerado por IA, enquanto das mensagens de ódio não precisam de parecer reais para que enraízem ainda mais crenças racistas nas mentes dos espetadores.
O Veo 3, o modelo de IA generativa de texto para vídeo do Google, foi lançado em 20 de maio e está disponível publicamente, tendo um limite de vídeos de oito segundos, sendo que a Google planeia integrar o gerador de vídeo ao YouTube Shorts.
A MediaMatters é uma organização sem fins lucrativos que se dedica à pesquisa de informação 'online', de forma a analisar e corrigir a desinformação.
Leia Também: Estudo aponta principal obstáculo na eliminação de desinformação
