亚利桑ся州三名女性已对凤凰城的三名男子提起诉讼，指控被告利用她们在 Instagram 上发布的照片训练 AI 模型，从而制造色情“网红”。
据 Ars Technica 报道，这起于今年 1 月提交的诉讼明确指出了被告 Jackson Webb、Lucas Webb 和 Beau Sc，称他们应对未经授权使用原告图像的行为负责。
原告之一在诉状中化名为 MG（为保护个人隐私）。她描述称，自己是通过一名粉丝发送的私信发现这些深度伪造（deepfake）内容的。该私信提醒她，有一些 Reels 短视频中出现了她的面孔，但被叠加到了色情内容的身体上。
“如果你不认识我，完全会以为那些照片就是我，”MG 在描述这段经历时说道，并称这次事件让她“清醒地意识到”自己已经无法掌控自己的形象。
诉状显示，这几名男子利用 CreatorCore 软件来生成这些虚拟人格。据报道，该技术被用于推广一个名为 AI ModelForge 的平台，该平台向男性提供如何创建属于自己的 AI 网红的教程。
针对受害者的“操作手册”
诉讼指控称，被告不仅制作了这些图像，还为他人提供了系统性的操作指南。原告声称，该计划中甚至包含了如何挑选“不容易反抗”的目标对象的指令。
“他们提供了一整套操作手册，甚至教人如何挑选合适的‘目标’，以确保对方不会站出来维权，”MG 在诉状中控诉道，并称整个过程“在每一个层面上都令人感到恶心”。
据称，被告还教会了订阅者如何从 Instagram 和 TikTok 上抓取照片来训练 AI 模型。随后，这些利用不知情女性面孔制作的内容在社交媒体平台上广泛传播，以此来积累这些虚假网红的粉丝量。
