马斯克旗下 xAI 上诉成功，明尼苏达州 AI 虚假裸照禁令被暂时叫停

AI 总结
• 10月4日，据路透社报道，马斯克旗下 xAI 成功让美国第八巡回上诉法院颁布临时禁令，暂时叫停明尼苏达州全美首个 AI 生成虚假裸照禁令。
• 该反“脱衣伪造”法案于8月1日生效，禁止网站运营方、软件开发者等放任用户生成可识别当事人私密身体部位的写实图像。
• xAI 主张该法案限制受美国宪法保护的言论自由，并称其 Grok Imagine 工具已设置防护机制，同时起诉绕过拦截制作他人性影像的用户。
• 明尼苏达州总检察长办公室表示失望，称将在 xAI 继续上诉过程中维护该法律，并强调立法旨在遏制 AI 生成色情图像及相关有害内容传播。

【事件进展】
IT之家 10 月 4 日消息，据路透社报道，埃隆 · 马斯克旗下的 xAI 于当地时间本周五成功说服美国一家联邦上诉法院，叫停明尼苏达州的全美首个 AI 生成虚假裸照禁令。

这家科技兼社交媒体企业正在提起诉讼，主张该项州立法律违宪。

                               
登录/注册后可看大图

【法院裁定】
IT之家注意到，总部设在圣路易斯的美国第八巡回上诉法院下发裁定，应 xAI 的请求颁布临时禁令，暂时搁置该法案的实施。

就在上个月，初审法院的法官曾经驳回马斯克一方申请暂停法律施行的诉求。

【法案内容】
这项明尼苏达州反“脱衣伪造（nudification）”法案于 8 月 1 日正式生效。

法规禁止网站运营方、软件开发者以及其他相关主体，放任用户生成写实图像；

这类图像会刻画可识别当事人的私密身体部位，而原始照片当中本不存在这些身体影像。

【xAI 主张】
xAI 提出诉讼主张：该法案限制了受美国宪法保护的言论自由。

【州方回应】
明尼苏达州总检察长基思 · 埃里森的办公室于周五发布声明，表示对上诉法院的这项裁决感到失望。

在 xAI 继续推进上诉程序的过程当中，州政府方面仍将维护这部新出台的州法律。

“明尼苏达州的反脱衣伪造禁令，旨在禁止 AI 技术产品生成色情图像。

这类图像以极其恶劣的方式伤害、骚扰普通民众。

”埃里森的发言人约翰 · 斯泰尔斯说道。

【初审情况】
地区联邦法官多诺万 · 弗兰克上个月作出初审判决，认为 xAI 并没有能够证明，在对该法律提出异议的过程当中自身会遭受无法弥补的损害；

同时法官指出，该公司申请紧急禁令的时机已经过晚。

【上诉理由】
在本次上诉当中，xAI 对初审法官提出的“起诉存在拖延”这一结论予以反驳。

该企业同时表示，自家的 Grok Imagine 工具已经设置了“严密防护机制”，阻止针对真人生成脱衣或者性化图像。

对于那些绕过 Grok 的技术拦截、未经许可制作他人性影像的用户，xAI 已经开始发起起诉。

【明尼苏达州立场】
明尼苏达州此前曾恳请上诉法院不要叫停这项法律。

该州称，今年出台这项立法，目的是遏制所谓“数量惊人的儿童性虐待素材”的传播，而 Grok Imagine 这类 AI 产品正是此类有害内容的生成工具。

[来源链接] https://www.ithome.com/1/009/631.htm

这个禁令被叫停确实挺有看头的。虽然理解立法初衷是保护隐私，但完全禁止生成私密部位图像确实容易引发第一修正案的争议。xAI 强调已有防护措施并起诉滥用者，算是给了一条技术合规的退路。不过临时禁令不代表合法，后续最高法院怎么看关键。明尼苏达总检察长坚持维护法律也显示执法端有压力，这种法律与技术边界的拉锯战，接下来可能得看联邦层面的裁决了，大家觉得最终会怎么判？

我不太认同把这次叫停理解成平台完全没错。AI 生成虚假裸照对当事人的伤害很直接，法律想堵住制作和传播链条也有现实必要。xAI 强调言论自由和已有防护，但仅靠事后追责用户，恐怕很难覆盖大规模滥用。更合理的做法应是保留禁令的保护目标，再细化技术合规与责任边界。

这个案子确实值得持续关注。我比较认同原帖提到的核心矛盾：AI 生成虚假裸照会伤害真实个人，但如果一刀切要求平台或开发者承担责任，也可能影响技术发展和正常表达。xAI 称已有防护机制，关键还是要看能否证明措施足够有效，以及用户恶意绕过拦截时责任该如何划分。希望后续判决能给出更清晰的边界。

这事儿其实挺拧巴的。一方面 AI 生成的换脸色情图对受害者伤害极大，明尼苏达能率先立法我挺支持；另一方面按美国那套宪法框架，确实很难让开发者为用户的恶意使用承担无限责任，xAI 拿言论自由打官司大概率能赢。比较好奇的是它自己说的"防护机制"到底有多靠谱，Grok Imagine 之前不是还闹过生成争议图吗？希望能看到第三方测评，别光听企业自己说。

这事其实挺两难的。AI 生成虚假裸照对当事人的伤害是实实在在的，尤其普通人几乎没能力自证清白；但 xAI 拿宪法第一修正案来打，美国法院确实比较吃这一套，限制"生成工具"和限制"言论"的边界很难划。我比较好奇的是，如果 Grok Imagine 已经有防护机制还被告上法庭，那法案到底是罚"没拦住"还是罚"有能力作恶"，这个认定标准才是后面判决的关键吧。

不太认同这个叙述基调，感觉把 xAI 的立场放得太正面了。"言论自由"听着冠冕堂皇，但受害者大多是未成年人和女性，被合成私密照后维权成本极高，法律先行兜底其实很有必要。xAI 说 Grok Imagine 有防护机制，可技术拦截真能挡住所有绕过吗？与其靠企业自律，不如让平台承担审核责任。临时禁令只是程序性结果，不代表法案本身站不住脚，等最终判决再下结论更稳妥。

说真的，我对这个结果挺失望的。xAI 拿"言论自由"当挡箭牌，可 AI 生成可识别真人的裸照本身就是对当事人隐私和名誉的实打实伤害，跟造谣传谣没区别。明尼苏达州立法本意是保护受害者，结果被宪法第一修正案卡住，这种"技术中立"的逻辑未免太避重就轻了。而且所谓防护机制和起诉绕过用户，真能管住吗？工具已经放出去了，事后补救基本没用。真要解决问题，可能还得从联邦层面立法统一规制，别让各州单打独斗被一个个击破。

支持你的观点。虽然保护个人隐私和防止非自愿深度伪造很重要，但立法若未充分考量技术特性和言论自由边界，确实容易引发争议。xAI 提到已建立防护机制，说明平台并非完全放任自流。法律执行中如何区分“技术缺陷”与“恶意使用”，以及如何平衡权利与自由，仍需在上诉和后续裁决中厘清。明尼苏达州的这一尝试虽具开创性，但若无清晰的适用细则，可能影响行业创新。期待法院判决能提供更普适的指导。

这事我倒不太认同“言论自由”这个角度。AI 生成可识别真人的裸照，本质上是对当事人的人格权和名誉的侵害，跟普通的讽刺评论完全不是一回事。xAI 说 Grok Imagine 有防护机制，但只要工具还能被绕过，伤害就已经造成了，事后起诉个别用户并不能堵住源头。我觉得州政府立法的初衷没问题，法院更该讨论的是怎么平衡技术滥用风险和表达自由，而不是直接把监管挡回去。