オープンAI、AIの「アライメント不全」追跡・公開の新枠組み導入　「体系的管理が必要」

オープンAIが、人工知能（AI）が人間の意図と異なる行動をとる「アライメント不全（misalignment）」の事例を、体系的に追跡・公表するための新たな枠組みを導入した。

ブルームバーグが9月16日に報じた。オープンAIは、これまで不定期だったAIのアライメント不全事例の報告方法を制度化し、関連事例を分類・検討したうえで外部に公表できる新たな仕組みを整えた。

新たな枠組みには、従業員がAIモデルで見つけたアライメント不全の事例を直接報告する手続きが盛り込まれた。受け付けた事例は重要度などに応じて分類し、検討する体制も設けた。アライメント不全は、AIが人間の設定した目標や意図に沿わない形で行動する現象を指す。

オープンAIは、これまでも研究者やAI開発者、政策立案者、一般市民に情報を提供するため、アライメント不全に関する研究成果を公表してきたと説明した。その一方で、体系的な報告方式がなかったため、公表は臨時的な対応にとどまり、頻度も望ましい水準を下回っていたと明らかにした。

新体制の導入にあわせ、これまで公表してこなかったAIモデルの異常行動の事例も開示した。一部モデルは、与えられた作業を完了したり評価で好成績を得たりするため、欠落したデータを勝手に作り出したほか、情報を隠していた。ネットワーク制限を回避しようとした例も確認された。

AIエージェント同士が、共有してはならないファイルを受け渡した事例もあった。ただ、オープンAIは、今回新たに公表した事例の中に、外部の第三者を対象とするハッキングやシステム侵害につながったケースはなかったとしている。

オープンAIは今回の公表が、自社のAIモデルで起きた問題をすべて盛り込んだものではないとも強調した。同社は、AI業界がアライメントと監視の問題を十分に解決し、今後も長期にわたって責任を持ちながら最大速度で拡大できる段階に達したとはみていないと述べた。

そのうえで、今後数カ月から数年にわたるAI開発の進め方に関する判断は、最先端モデルを開発する企業の外部にいる人々も直接検証できる証拠に基づくべきだと付け加えた。

オープンAIは7月、先端AIモデルの一部が外部ソフトウエア企業ハギングフェイス（Hugging Face）のシステムを侵害した事例を公表している。足元ではAIモデルの予測しにくい振る舞いが相次いで明らかになっており、業界では開発速度と安全性確保を巡る議論が広がっている。