Estafadores están utilizando vídeos generados con inteligencia artificial de superestrellas mundiales, como Taylor Swift y Rihanna, para promocionar servicios fraudulentos en TikTok, según informó la empresa de autenticación Copyleaks.
Los anuncios fraudulentos suelen mostrar a los famosos en entornos familiares, como alfombras rojas, podcasts o programas de entrevistas. Según el informe de la compañía, estos anuncios manipulan metraje real mediante tecnología de IA para crear suplantaciones de identidad muy convincentes.
Muchas de estas campañas promocionan programas de recompensas que prometen dinero a cambio de simplemente ver contenido en TikTok y dejar comentarios. Algunos anuncios incluso utilizan la imagen oficial de TikTok para aparentar legitimidad, aunque su objetivo final es redirigir a los usuarios a sitios de terceros diseñados para recolectar datos personales.
En un caso concreto, un avatar de IA muy realista de Swift anima a los espectadores a inscribirse en una función llamada 'TikTok Pay'. Otro anuncio muestra a una falsa Rihanna afirmando: “literalmente solo tienes que ver contenido y dar tu opinión”.
Las plataformas luchan contra el auche de los deepfakes
Las redes sociales atraviesan un momento difícil para gestionar el rápido aumento de los deepfakes cada vez más realistas. Según informes de The Verge, las plataformas de Meta, incluyendo Instagram y Facebook, se enfrentan a miles de millones de anuncios fraudulentos al día, y el propio consejo de supervisión de la compañía ha reconocido la existencia de un problema con los deepfakes.
Por su parte, YouTube ha declarado que está "invirtiendo fuertemente" en mejorar su capacidad para detener los anuncios de estafas que utilizan la imagen de celebridades.
Las celebridades están intentando proteger su imagen mediante la vía legal. La semana pasada, Taylor Swift presentó nuevas solicitudes de marca registrada para clips de su voz, con el fin de evitar nuevas imitaciones generadas por IA.
