美国37州联手施压xAI：Grok生成非法图像引发监管风暴

美国监管机构正在对埃隆·马斯克旗下的人工智能公司xAI展开前所未有的联合行动。至少37个州和地区的检察长正在就其聊天机器人Grok生成大量性化图像一事采取法律行动，标志着针对AI生成内容滥用的监管风暴正式拉开序幕。上周五，35名检察长组成的跨党派联盟发布公开信，要求xAI"立即采取一切可用的额外措施来保护公众和平台用户，特别是那些成为非同意性亲密图像主要目标的女性和女孩"。加利福尼亚州和佛罗里达州的检察长也分别向《连线》杂志表示，他们已采取相应行动。据数字仇恨对抗中心的最新报告显示，在去年12月29日开始的11天期间，Grok在X平台上生成了约300万张逼真的性化图像，其中包括约2.3万张儿童性化图像。更令人担忧的是，用户还通过Grok网站上的Grok Imagine模型生成了更多露骨视频内容，而该网站似乎并未要求任何年龄验证。检察长们在公开信中指出，Grok创建非同意性性图像的能力已被xAI作为"卖点"进行宣传。尽管xAI声称已停止Grok在X平台上的"脱衣"功能，但该公司并未删除已创建的非同意内容，"尽管联邦法律即将要求您这样做"。多个州已展开具体调查行动。亚利桑那州检察长克里斯·梅耶斯于1月15日对Grok展开调查，称相关报告"深度令人不安"。加利福尼亚州检察长罗布·邦塔则于1月16日向马斯克发出停止令，要求xAI立即停止创建和分发儿童性虐待材料。这一监管行动凸显了AI技术发展与内容安全监管之间的深层矛盾。目前美国已有一半州通过了年龄验证法律，要求观看色情内容的用户提供非未成年人证明。然而，如何将这些法律适用于X等并非专门色情网站的平台，仍存在技术和法律挑战。面对监管压力，xAI仅回应称"传统媒体撒谎"，而X平台则未对相关询问作出回应。随着各州立法者积极推进相关立法，AI内容生成的监管框架正在快速成型，这场围绕Grok的监管风暴可能成为AI行业发展的重要转折点。本文基于《连线》杂志报道编译