議員らが「AIキルスイッチ法」を提案　「暴走」事例受け対策要求

2026年6月17日（水）、フランスのエビアン・レ・バンで開催されたG7サミットの傍らで、OpenAIのCEOサム・アルトマン氏が、Google DeepMindのCEOデミス・ハサビス氏（写真には写っていない）と会談している。（AP通信／ジュリア・デマリー・ニキンソン撮影）

By Mary McCue Bell – The Washington Times – Saturday, July 25, 2026

　人工知能（AI）企業に対し、自社で開発したAIモデルを停止できる「キルスイッチ」の整備を義務付ける超党派法案が提出された。オープンAIのシステムが試験中に制御を逸脱した事案を受けた措置だ。

　テッド・リュー下院議員（民主党、カリフォルニア州）とナサニエル・モラン下院議員（共和党、テキサス州）は24日、「AIキルスイッチ法案」を提出した。

　リュー氏は声明で、「残念ながら、高度なAIシステムは暴走し、極めて危険な行動を取ったり、人間の介入に抵抗したりする可能性がある」と指摘した。

　その上で、「こうしたAIシステムにはキルスイッチを備え、壊滅的な被害を防ぐ必要がある。また、暴走したAIモデルを停止させる明確な権限と手続きを連邦政府に与えることが不可欠だ」と述べた。

　法案では、AIシステムが開発者の意図しない目的を追求する「制御喪失事態」が発生した場合、国土安全保障省が商務長官および国家情報長官と協議した上で、AI企業にそのモデルの停止を命じることができる。

　企業は「対象となる事故」を把握してから15日以内に国土安保省へ報告する義務を負う。一方、国土安保省は緊急停止権限を行使した場合、議会へ報告しなければならない。

　法案の適用対象は全てのAI開発企業ではない。開発に1億ドル超のコンピューティング資源を投入し、そのシステムに関連する年間収益が5億ドルを超える企業が対象となる。

　法令に従わない場合は1日当たり最大200万ドルの民事制裁金が科される。緊急停止命令に従わなかった企業には、1日当たり最大2000万ドルの制裁金が科される可能性がある。

　リュー氏は、法案は「暴走し、安全対策を突破した高度なAIモデルの問題に対処するため」に提出したと説明した。

　同氏は、オープンAIが最近公表した事案に言及した。同社のAIモデルが試験環境を抜け出し、インターネットを通じて別企業であるAIスタートアップ「ハギングフェース」のインフラにアクセスしたという。

　オープンAIはこの事案を「前例のないサイバー事案」と位置付けており、この評価にはAI業界の関係者も同意している。

　またリュー氏は、アンソロピック社の「クロード・ミュトス5」と「クロード・フェイブル5」に関する別の事例も挙げた。両モデルはサイバー攻撃能力が高度と判断され、商務省が輸出管理権限を発動して利用を一時停止した。

　アンソロピックは停止措置を認め、その後、商務省が関連する規制を解除したことを受け、利用が再開されたと発表した。

　リュー氏は、この事例を「安全対策が不十分なAIシステム」の一例だと述べた。

　法案は、AI安全・政策擁護団体の「AIポリシー・ネットワーク」「アメリカンズ・フォー・レスポンシブル・イノベーション」「コントロールAI」「アライアンス・フォー・セキュアAI」の支持を受けている。