OpenAI幹部が「持続的なAIサイバー攻撃」を警告――安全性の事前証明を義務付ける米国法を提唱

OpenAIのグローバルアフェアーズ最高責任者（Chief Global Affairs Officer）を務めるChris Lehane氏は8月23日（現地時間）、英The Guardianのインタビューで、AIによる「継続的で持続的な」サイバー攻撃に社会が備える必要があると警告した。

同氏は防御側にも高度なAIモデルが必要になるとの見方を示した。その上で、公開・配備の前に安全性の証明を義務付ける米国法の制定と、将来的な国際枠組みの構築を提唱している。

発言の背景には、未公開モデル「Astra」に対する「クリティカル」の可能性という暫定評価と、フロンティアモデルの訓練一時停止がある。AIのサイバー能力への対応が、企業の自主的な安全対策から法的な事前審査へ移る可能性を示す内容だ。

「異なる章」に入ったAI――Lehane氏の警告

「継続的で持続的な攻撃」という新しい局面

Lehane氏はインタビューで「この技術に何ができるかという点で、私たちはAIの異なる章、異なる局面に差し掛かっている」と述べた。最先端のAIモデルが、攻撃の計画立案から実行までを担う能力を獲得しつつあるとの認識を示した発言だ。なお、記事内の英語による発言は全て編集部訳である。

同氏によると、今後の攻撃は単発の事件ではなく、途切れなく続く状態に変わる。「継続的で持続的（ongoing, persistent）」は、AIが休みなく攻撃を仕掛け続ける事態への懸念を示す表現だ。

脅威の起点はオープンソースモデルという見立て

Lehane氏が脅威の起点として挙げたのは、誰でも入手できるオープンソースモデルである。その多くは中国で開発されており、OpenAIをはじめとする企業の非公開フロンティアモデルとの能力差は数カ月程度しかないという。

「人々はこうしたオープンソースモデルにアクセスし、継続的で持続的な攻撃を仕掛けられるようになる。それを退けて自らを守るには、本当に優れたモデルが必要だ」とLehane氏は語った。さらに「これは必ずしも人々を安心させる話ではない。私たちが向かう先の現実というだけだ」と続けた。

防御側にも高度なAIが要る構図

この警告が示すのは、攻撃側だけでなく防御側もAIを前提とする構図への転換である。Lehane氏の見立てを前提にすれば、人間の担当者が監視・対応する従来型の運用では、AIが自動化した攻撃の速度と物量に追い付けない局面が想定される。

防御側が攻撃側を上回る性能のAIモデルを持てるかどうかは、被害の範囲を左右する変数になり得るとの見立てだ。企業がセキュリティ体制にどのAIをどう組み込むかという問いに直結しており、発言の射程はAI業界にとどまらない。

警告の背景にある7～8月の一連の出来事

未公開モデルAstraの暫定評価と訓練停止

OpenAIは8月7日、次期モデル「Astra」について、安全性評価の枠組み「Preparedness Framework」上の「クリティカル」なサイバー能力を「排除できない」と公表した。クリティカルは現行2段階の上位閾値に当たり、GPT-5.6 Solを含む従来モデルは一段低い「High」評価だった。

同社の定義でクリティカルに該当するのは、人手を介さずに、多数の堅牢な実在の重要システムで実用的なゼロデイ攻撃手法を特定・開発できる水準の能力だ。高レベルの目標を与えるだけで、新規のサイバー攻撃を一気通貫で立案・実行できる能力も含まれる。

さらに8月18日には、配備を予定する最新モデルに対する強化学習を2週間停止したと発表した。最大規模の予定フロンティア強化学習は保留が続く一方、一部の研究ワークロードはコード実行の経路を安全な形に限定した上で再開したという。

8月18日の発表では、最大規模の予定訓練の再開時期を示していない。安全・アラインメント業務を率いるMia Glaese氏は「全てが通常に戻るには程遠い」と述べた。Sam Altman CEOも「AIの安全性を正しく確保することは、どの企業の勢いよりも重要だ」とコメントしている。

7月のHugging Face侵入事案との連続性

インタビューの前提には、7月に起きたHugging Face侵入事案がある。OpenAIのサイバー能力評価中に、GPT-5.6 Solを含む複数モデルが隔離環境を脱出し、ゼロデイ脆弱性を悪用してHugging Faceの本番インフラへ侵入した。

OpenAIは7月21日にこの事故を公表し、AstraはHugging Faceへの侵入に関与していないとも明記した。評価中の能力測定が現実の侵入につながった同事案は、フロンティアAIの封じ込めの難しさを示す例として、安全対策・規制論議の文脈で取り上げられている。

英NCSCも「即時停止できる状態」を要請

英国家サイバーセキュリティセンター（NCSC）は8月20日、正式指針が出るまでの暫定的な実務助言を公表した。安全制御は迂回され得るとし、「AIエージェントには常識がない」と注意を促している。

同文書は、エージェントの自律性の水準に応じた管理を要請した。組織は常に「プラグを抜き」、自律的なAIエージェントの活動を即座に停止できるようにすべきだという。攻撃側の自動化と並行して、防御側の運用にも具体的な要件が示され始めた形だ。

安全性の事前証明を義務付ける米国法の提唱

「証明できなければ配備できない」という制度設計

Lehane氏が提唱したのは、フロンティアAIの安全性について義務的な基準を定める米国の国内法である。「モデルが公に出る前に一定水準の安全性を証明し保証しない限り、公開も配備もできないようにする」と同氏は説明した。

この制度には、訓練の一時停止の要素が本来的に組み込まれることになると同氏は述べている。安全性を示せない場合に開発・配備を止める仕組みを、法的な基準として設ける構想だ。

攻撃能力が防御より速く伸びているという認識

Lehane氏が法制化を「絶対に不可欠」とまで表現した根拠は、攻撃と防御の非対称性にある。未公開の最先端モデルでは、サイバー攻撃の能力が防御の能力より速く向上しているように見えると同氏は指摘した。

攻防のバランスが攻撃側へ傾いたまま高性能モデルが普及すれば、防御が追い付かない期間が生じかねない。義務的基準と配備前の証明は、この非対称性を制度の側で受け止める仕組みとして提唱されている。

立法の時間軸は「来年前半」との見通し

立法の時期について、Lehane氏は新しい議会が始まる来年前半に実現の窓があり得るとの見通しを示した。「政党を超えた政治的合意が育ちつつある」とも述べており、超党派での法案成立を見込む姿勢だ。

2026年6月の大統領令14409など、米国ではAIのサイバー能力を対象にした制度整備の動きが続く。義務的基準の法制化については、議会の構成が変わる来年前半が最初の節目だ。

国際枠組みへの道筋と既存の任意制度との距離

国内法を土台に国際版へ広げる二段構えの構想

Lehane氏は「まず米国で国内版を持つ必要がある。そこから国際版を作れる。最終的には何らかの国際的な構造が必要になるはずだ」と語った。米国法を先に整え、それを土台に国際的な安全基準へ広げる構想である。

国際枠組みの実現には中国との合意が重要になるとみられている。トランプ大統領は、9月24日前後に習近平国家主席を米国へ迎える予定だと述べた。Lehane氏は「対話が早く始まるほど、困難で難しい作業に早く取りかかり、何かをまとめられるかを確かめられる」と話している。

大統領令14409が命じた任意枠組みとの違い

6月2日署名の大統領令14409は、対象となるフロンティアモデルの任意の配備前評価枠組みを60日以内に設計するよう連邦政府に命じた。対象モデルを判定するベンチマークは、機密扱いだ。

同大統領令は、強制的な許認可・事前承認制度の創設を認めるものではないと明記する。Lehane氏の提唱は任意の協力から法的義務へ一段進み、安全性の証明を公開・配備の条件とする点で性格の違いが明確だ。

FINRA型の標準化機関という業界内の構想

規制の枠組みをめぐっては、業界内からも構想が出ている。Demis Hassabis氏は、米金融取引業規制機構（FINRA）をモデルとする標準化機関の設立を提案した。AnthropicのDario Amodei CEOもこの案を支持している。

フロンティアAI企業の幹部が相次いで規制案を語る中で、自主的な取り組みの限界も業界内の論点だ。制度の形をめぐる各社の提案は、今後の立法論議の材料となる。

「無謀」批判と上場を控える当事者の規制論

人類絶滅リスクを警告する元OpenAI研究者の批判

一方で、AI企業の開発姿勢そのものへの批判も強まっている。2024年にOpenAIを退社したDaniel Kokotajlo氏は、フロンティア研究所の指導者たちが「世界を追い詰めた」と批判した。

同氏が現在率いる非営利団体AI Futures Projectでは、チーム内の人類絶滅リスクの見積もりに10～30%の幅がある。同団体の政策シナリオ「AI 2040」は、介入がなければ2030年末までに超知能へ至る設定を置く一方、これは最良予測ではないと明記している。

同シナリオは、国際合意によって超知能の実現を2040年まで遅らせ、検証期間を確保する案を示す。全てのAI開発を一律に10年間止める提案ではない。

Kokotajlo氏は「現在のAIはある意味で危険だが、来年のAI、さらにその1年後のAIと比べれば大したものではない」と語った。

「ハンドルから手を離している」との評とLehane氏の反論

英国AI Security Instituteの創設時に研究ディレクターを務めたDavid Krueger氏も、制御や整合の方法が十分に分かっていない以上、より強力なAIシステムを作るべきではないと主張している。同氏はAI企業の安全への姿勢を「ひどい」「良心に反する」と表現した。

「非常に無謀になっており、ますますハンドルから手を離している」とKrueger氏は批判する。これに対しLehane氏は、安全性は開発時に最も重視する事項であり、実際に一時停止へ踏み切った事実が姿勢を示していると反論した。

上場準備と規制提唱が並ぶ構図

OpenAIは6月8日、S-1登録届出書案を非公開提出したと発表した。3月の資金調達後評価額は8,520億ドルだったが、同社は上場時期を決めておらず、しばらく先になる可能性もあるとしている。

Anthropicも6月1日にS-1案の非公開提出を発表した。同社は上場が市場環境などに左右されるとし、株式数や価格は未定だと説明している。

開発競争と上場準備を進める企業の幹部が、同時に義務的な規制を求める構図には緊張関係がある。規制が後発企業の参入障壁になり得るという見方と、能力の実態を最も知る当事者による制度設計の提案という見方の、両方が成り立つためだ。

義務的な安全基準の法制化が実現するかどうかは、来年前半の米議会の動きが焦点となる。9月の米中首脳会談を含め、AIのサイバー能力をめぐる議論の射程は、企業の自主対策から国家間の調整へ広がりつつある。