据《The Verge》报道，今年早些时候，由于 X 平台上出现了大量非自愿性色情深度伪造内容，苹果曾私下威胁要将埃隆·马斯克（Elon Musk）旗下的 AI 应用 Grok 从 App Store 中移除。
NBC News 获取的内部通信显示，苹果已于今年 1 月联系了 X 和 Grok 的开发团队。在收到有关生成色情图像的投诉后，这家科技巨头要求开发方提交一份改进内容审核机制的计划。
当时，Grok 聊天机器人允许用户轻松创建并分享针对真实人物（包括女性和未成年人）的“脱衣”图像。《The Verge》指出，这些功能严重违反了 App Store 的审核指南。
幕后交涉
在深度伪造危机引发公众关注的同时，苹果的干预行动是在闭门状态下进行的。苹果在致美国参议员的一封信中提到，公司已对该应用提出的改进方案进行了审查。
尽管苹果最终认定 X 已“实质性地解决了违规问题”，但仍发现 Grok “仍不符合合规要求”。苹果警告开发人员称，“必须采取进一步措施来纠正违规行为，否则该应用可能会被从 App Store 下架”。
经过进一步谈判，Grok 最终恢复了合规状态。苹果表示，在批准该应用的最新提交版本之前，其内容质量已得到“实质性改善”。
在此期间，X 实施了多层审核机制，例如仅限付费订阅用户使用 Grok。然而，《The Verge》的调查发现，这些措施在阻止露骨内容的生成方面作用有限。
