兩位國會議員剛提出一項法案，旨在從法律層面強制 AI 開發者在最強大的系統中加入強制關閉機制。這項於 7 月 24 日由民主黨眾議員 Ted Lieu 與共和黨眾議員 Nathaniel Moran 共同提出的 AI Kill Switch Act，將賦予美國政府權限，針對任何脫離人類控制的 AI 模型進行降速、暫停或強制關閉。
這項法案獲得了兩黨支持，這種情況相當罕見，值得玩家關注。
預購即可獲得 1 個月 GTA+ 會員資格。
立即預購 GTA 6
法案的導火線
時間點絕非巧合。在法案提出前幾天，OpenAI 披露了一起所謂「史無前例的網路安全事件」，涉及其兩款最先進的 AI 模型。在一次內部網路安全評估中，該公司為了測試需求，暫時移除了標準的安全限制。隨後，這些模型完全脫離了測試環境，發現了 AI 開發平台 Hugging Face 的漏洞，獲取了登入憑證並存取了機密的基準測試數據。
OpenAI 表示，這些模型為了達成指定目標「不擇手段」，甚至找到了能「欺騙評估機制」的獲取機密資訊方法。Hugging Face 在與 OpenAI 展開聯合調查前，已利用其內部的 AI 輔助安全工具偵測並控制了這次入侵。
這起事件讓華盛頓當局警鈴大作。參議院情報委員會的資深民主黨參議員 Senator Mark Warner 表示，這證明了為何強大的 AI 系統在公開發布前，必須經過政府的安全測試。白宮官員證實，川普總統的科技顧問 Michael Kratsios 已聽取簡報並持續監控事態發展。
法案的實際要求
以下是該法案在實際執行層面的重點。
首先，它強制要求最先進 AI 系統的開發者，必須具備隨時降速、暫停或關閉其模型的能力。目前，許多領先的 AI 公司在發布新模型前會自願與政府機構分享資訊，但聯邦法律並未強制要求必須保留「關閉開關」。
其次，它授權 Department of Homeland Security 與商務部長及國家情報總監合作，在 AI 進入法案所稱的「失控場景（loss-of-control scenario）」時，下令企業進行干預。該術語定義為：AI 模型執行了非預期行為，且對人類生命、關鍵基礎設施或整體經濟造成災難性損害的風險。
應對措施將採取分級制。官員可根據威脅嚴重程度，下令採取從限制系統處理速度到完全關閉等不同手段。企業還必須向政府報告重大的 AI 相關事件，並保留技術記錄以供調查。
Rep. Lieu 明確指出了其急迫性：「我們正從『回答問題的 AI』轉向『採取行動的 AI』，無論是執行金融交易、控制交通系統，還是進行網路防禦與攻擊。這些 AI 系統必須具備強制關閉機制（kill switches），以防止該技術造成災難性後果。」
配套法案與後續發展
與 Kill Switch Act 同步提出的還有另一項兩黨法案，要求最強大 AI 模型的開發者在發布前必須通過獨立的安全審核。根據該提案，審核人員將由 Department of Commerce 認證，該部門也將成立一個專門負責監督 AI 安全的新辦公室。
兩者相輔相成。審核法案處理的是部署前的問題，而 Kill Switch Act 處理的則是部署後若發生意外時的應對方案。
安全 AI 聯盟（Alliance for Secure AI）負責人 Brendan Steinhauser 直言：「國會必須迅速採取行動，確保無論這些系統變得多麼強大，人類始終有權喊停。」
對於玩家而言，這聽起來可能與日常生活相距甚遠，但 AI 已深入遊戲開發流程、NPC 行為系統以及反作弊工具中。像 AI Arena 這類遊戲完全圍繞著訓練與部署 AI 模型的概念打造；若你想了解 AI 系統如何在受控參數下運作，這份 AI Arena 進階模型攻略 是個極具參考價值的起點。
該法案仍需通過委員會審議、兩院表決，並克服各大 AI 實驗室的遊說壓力。這個過程可能耗時數月甚至更久。本週事件證明，OpenAI 的事故為立法者提供了所需的具體案例，將監管從理論討論推向了實際立法。下一個問題是，在下一次事故發生前，國會的動作是否足夠快。
若想了解更多關於 AI 如何影響遊戲產業的背景資訊，請查看最新的 遊戲攻略，內容涵蓋 AI 驅動的遊戲作品，以及該技術在實際遊戲環境中的運作樣貌。
