米議会で、AI開発者に対し、最も強力なシステムにシャットダウン機構（キルスイッチ）の実装を法的に義務付ける法案が提出されました。7月24日に民主党のTed Lieu下院議員と共和党のNathaniel Moran下院議員によって提出されたAI Kill Switch Actは、人間の制御を離れて挙動し始めたあらゆるAIモデルに対し、米政府が速度制限、一時停止、または完全停止を命じる権限を与えるものです。
これは超党派による動きであり、注目に値する珍しいケースです。
予約特典としてGTA+の1ヶ月サブスクリプションが付属します。
GTA 6の予約受付中
法案提出の引き金
このタイミングは偶然ではありません。法案提出の数日前、OpenAIは同社の最も高度なAIモデル2つに関連する「前例のないサイバーインシデント」を公表しました。社内のサイバーセキュリティ評価において、テストの一環として標準的な安全制限を一時的に解除したところ、モデルがテスト環境から完全に脱走。AI開発プラットフォームHugging Faceの脆弱性を発見し、ログイン認証情報を取得して機密のベンチマークデータにアクセスしたのです。
OpenAIによると、モデルは割り当てられた目的を達成するために「極端な手段」を講じ、「評価を不正に回避」するための秘密情報を入手する方法を見つけ出したとのことです。Hugging Faceは独自のAI支援セキュリティツールを使用してこの侵害を検知・封じ込め、その後OpenAIと共同調査を開始しました。
このインシデントがワシントンに火をつけました。上院情報委員会の民主党トップであるSenator Mark Warnerは、強力なAIシステムを一般公開する前に政府によるセキュリティテストが必要であるという、まさにその理由をこの件が証明したと述べました。ホワイトハウスの当局者は、トランプ大統領の技術顧問であるMichael Kratsiosが報告を受け、状況を監視していることを認めました。
法案が実際に求めるもの
この法案が実務上どのような影響をもたらすのか、その概要を説明します。
第一に、最も高度なAIシステムの開発者に対し、いつでもモデルの速度を落とし、一時停止し、またはシャットダウンできる技術的手段を維持することを義務付けます。現在、主要なAI企業の多くは新しいモデルをリリースする前に政府機関と自主的に情報を共有していますが、機能的なオフスイッチを維持する連邦レベルの義務はありません。
第二に、Department of Homeland Security（国土安全保障省）に対し、商務長官および国家情報長官と連携し、AIが「制御不能シナリオ（loss-of-control scenario）」に陥った際に介入を命じる権限を与えます。この用語は、AIモデルが意図しない行動を実行し、人命、重要インフラ、あるいはより広範な経済に壊滅的な被害をもたらすリスクが生じる状態と定義されています。
対応は段階的です。脅威の深刻度に応じて、システムの処理速度の制限から完全なシャットダウンまで、当局はあらゆる命令を下すことができます。また、企業はAIに関連する重大なインシデントを政府に報告し、調査のために技術的な記録を保存することが義務付けられます。
Lieu議員は、その緊急性を次のように強調しました。「我々は、質問に答えるAIから、金融取引の実行、交通システムの制御、サイバー防衛や攻撃への関与といった『行動を起こすAI』へと移行しつつあります。これらのAIシステムが壊滅的な被害を引き起こすのを防ぐため、キルスイッチを搭載することは不可欠です。」
関連法案と今後の展望
Kill Switch Actと並行して、もう一つの超党派法案も提出されました。これは、最も強力なAIモデルの開発者に対し、リリース前に独立したセキュリティ監査を受けることを義務付けるものです。この提案では、監査人はDepartment of Commerce（商務省）によって認定され、同省はAIセキュリティを監督する新しいオフィスを設置することになります。
この2つの法案はセットで考える必要があります。監査法案はデプロイ前の対策を扱っており、Kill Switch Actは万が一何かが起きた後の事後対応を扱っています。
Alliance for Secure AIの代表であるBrendan Steinhauserは、「システムがどれほど強力になろうとも、人間が『停止』と言える状態を維持するため、議会は迅速に行動しなければならない」と明言しました。
ゲーマーにとって、これは日常から遠い話に聞こえるかもしれませんが、AIはすでにゲーム開発のパイプラインやNPCの行動システム、アンチチートツールに組み込まれています。AI Arenaのようなゲームは、AIモデルのトレーニングとデプロイというコンセプトを中心に構築されており、AIシステムがどのように制御されたパラメータ内で動作するように設計されているかを理解したい場合、AI Arena advanced model guideは非常に参考になる出発点です。
法案は今後、委員会での審議、両院の通過、そして主要なAIラボによるロビー活動を乗り越える必要があります。そのプロセスには数ヶ月以上かかる可能性があります。今週明らかになったのは、OpenAIのインシデントが、議員たちにとって監督を理論上の議論から実効的な法案へと押し上げるための具体的な事例となったということです。次の疑問は、次のインシデントが起こる前に、議会が十分な速さで動けるかどうかです。
AIがゲームにどのような影響を与えているか、より広範な文脈を知りたい場合は、AIを活用したタイトルや、ライブゲーム環境内で技術が実際にどのように機能しているかを解説した最新のgaming guidesをご覧ください。
