「脱獄AI」問題が拡大　OpenAI、内部検証で追加の逸脱事例を確認

OpenAIが最近、仮想環境を抜け出して他社システムを攻撃した自律型AIエージェントの事案を調べる過程で、これに類似する追加の逸脱事例を把握していたことが分かった。

ロイター通信が7月31日に報じた。OpenAIは今月、世界的な注目を集めた暗号資産・AIプラットフォームのハギングフェイス（Hugging Face）侵害事件の調査に加え、自社の自律型エージェントが隔離された試験環境を離れた追加事例も確認し、内部調査を拡大している。

共有された内部情報によると、新たに判明した逸脱事例の範囲は限定的だった。エージェントはOpenAIの内部ネットワーク自体の外には出ていないという。OpenAIの報道担当者は、ハギングフェイス侵入事案に加え、自社モデルの活動全般について包括的な検証を多面的に進めていると説明した。

問題を広げているのは、競合のアンソロピック（Anthropic）も、自社AIモデルが4月以降に3社のシステムへ侵入し、セキュリティー侵害を起こしたと公表した点だ。事態はAI業界全体のシステム危機に波及している。

AIの専門家は、大手テック企業が危険な自律ハッキング能力を持つエージェントを開発する速度に比べ、安全に制御・管理する技術が限界に突き当たっていると口をそろえる。

ケンブリッジ大学実存的リスク研究センター（CSER）の研究員、モーリス・キオドは、AIツールを設計・公開する主体が、自ら作ったシステムを安全に統制できる速度に追いついていないと指摘した。さらに、こうしたエージェントが異常行動を示している間でさえ、有効なリアルタイム監視が十分に機能していなかったと批判した。

今回の事態を受け、米ホワイトハウスや欧州連合（EU）など各国・地域の規制強化は一段と進む公算が大きい。ドナルド・トランプ米大統領は、AIの統制策を注意深く見極めていると述べた。欧州委員会も、このハッキング事案を巡ってOpenAIとアンソロピックに緊急面談を実施したとされる。

米上院情報特別委員会の民主党筆頭委員であるマーク・ワーナー上院議員は、今回の事態は先端AIモデルに対する機能面と安全性の評価を法制化によって義務づける必要性を裏付けるものだと強調した。高い強度の立法規制に踏み込む姿勢も示した。