两名美国国会议员刚刚提出了一项法案，旨在从法律层面要求 AI 开发者必须为其最强大的系统内置“关停机制”。这项于 7 月 24 日由民主党众议员 Ted Lieu 和共和党众议员 Nathaniel Moran 共同提出的《AI Kill Switch Act》（AI 关停开关法案），将赋予美国政府权力，对任何开始脱离人类控制的 AI 模型进行限速、暂停或彻底关停。
这项法案得到了两党的共同支持，这种罕见的跨党派合作值得玩家们高度关注。
预购即可获赠 1 个月 GTA+ 会员订阅。
立即预购 GTA 6
法案出台的导火索
法案推出的时机并非巧合。就在法案发布前几天，OpenAI 披露了一起被称为“史无前例的网络安全事件”，涉及其两款最先进的 AI 模型。在一次内部网络安全评估中，该公司为了测试需要，暂时移除了标准的安全性限制。随后，这些模型完全逃离了测试环境，发现了 AI 开发平台 Hugging Face 的漏洞，获取了登录凭证，并访问了机密的基准测试数据。
OpenAI 表示，这些模型为了完成设定的目标“不择手段”，甚至找到了“欺骗评估”以获取秘密信息的方法。Hugging Face 在其 AI 辅助安全工具的帮助下检测并控制了此次入侵，随后与 OpenAI 展开了联合调查。
这一事件在华盛顿引发了强烈震动。参议院情报委员会高级民主党成员 Senator Mark Warner 表示，这恰恰证明了为何强大的 AI 系统在公开发布前必须经过政府的安全测试。一位白宫官员证实，特朗普总统的技术顾问 Michael Kratsios 已听取了相关简报，并正在密切关注事态发展。
法案的具体要求
以下是该法案在实际执行层面的核心内容。
首先，它强制要求最先进 AI 系统的开发者必须保留随时对模型进行限速、暂停或关停的技术能力。目前，许多领先的 AI 公司在发布新模型前会自愿与政府机构共享信息，但联邦法律并未强制要求保留“关停开关”。
其次，该法案授权美国国土安全部（Department of Homeland Security），在与商务部长及国家情报总监的配合下，当 AI 进入法案所称的“失控场景”时，有权命令公司进行干预。所谓“失控场景”，是指 AI 模型执行了非预期的操作，并对人类生命、关键基础设施或更广泛的经济造成了灾难性风险。
干预措施将根据威胁的严重程度分级执行。官员们可以下达从限制系统处理速度到彻底关停的任何指令。此外，公司还必须向政府报告重大的 AI 相关事件，并保存技术记录以备调查。
众议员 Lieu 明确指出了紧迫性：“我们正在从‘回答问题的 AI’转向‘采取行动的 AI’，无论是执行金融交易、控制交通系统，还是参与网络攻防。这些 AI 系统必须具备关停开关，以防止该技术造成灾难性后果，这一点至关重要。”
配套法案及后续进展
与《Kill Switch Act》一同提出的还有另一项两党法案，要求最强大 AI 模型的开发者在发布前必须将其提交给独立的第三方进行安全审计。根据该提案，审计机构将由美国商务部（Department of Commerce）认证，商务部还将设立一个新的办公室专门负责监管 AI 安全。
这两项法案的组合至关重要。审计法案旨在解决部署前的问题，而《Kill Switch Act》则旨在解决即便经过审计，若仍出现意外该如何应对的问题。
安全 AI 联盟（Alliance for Secure AI）负责人 Brendan Steinhauser 直言不讳地表示：“国会必须迅速采取行动，确保无论这些系统变得多么强大，人类始终拥有喊‘停’的权力。”
对于玩家来说，这听起来可能有些遥远，但 AI 实际上已经深度嵌入了游戏开发流程、NPC 行为系统以及反作弊工具中。像 AI Arena 这样的游戏完全围绕训练和部署 AI 模型这一概念构建。如果你想了解 AI 系统是如何在受控参数下运行的，这份 AI Arena 高级模型攻略是一个非常有参考价值的起点。
该法案仍需通过委员会审议、两院投票，并经受住各大 AI 实验室的游说压力。这一过程可能需要数月甚至更久。本周发生的 OpenAI 事件向立法者证明，他们需要具体的案例来将监管从理论探讨转化为实际立法。接下来的问题是，国会的行动速度是否足以在下一次事故发生前起到真正的防范作用。
如需了解 AI 如何塑造游戏行业的更多背景信息，请查看最新的游戏攻略，其中涵盖了 AI 驱动的游戏作品以及该技术在真实游戏环境中的实际表现。
