グーグル・ディープマインド元研究員「AIは人類を皆殺しにする潜在力」

グーグル・ディープマインドで人工知能（AI）の安全性を研究し、最近退職した研究員が、現在のようなAI開発の流れが続けば人類に深刻な脅威を及ぼしかねないと警告した。

ブルームバーグが9月14日に報じたところによると、ビラル・チャグタイ元グーグル・ディープマインド研究員はXとリンクトインで「グーグルでAI開発を直接目の当たりにした。この技術が現在向かっている方向を非常に懸念している」と投稿した。そのうえで「AIが私たち全員を殺す潜在力を持つと心から信じている」と訴えた。

ディープマインドでAIの安全性とアラインメント（alignment）を研究していたチャグタイ氏は、AIを安全に開発できる可能性はなお残っているともみている。現在は非営利団体ブルードット・インパクト（BlueDot Impact）でAIの安全性に関する業務を担う。

足元のAI業界では、先端モデルの開発を巡る警告が相次いでいる。今月初めには、アンソロピックとオープンAIで勤務したジェイコブ・コクソン氏が退社にあたり、AI企業が超知能AIの開発競争を通じて「私たちの命を賭けたギャンブルをしている」と批判した。

アンソロピックのダリオ・アモデイ最高経営責任者（CEO）も先週末、先端AIが人間の統制を離れるリスクを抑えるには、開発速度を落とす必要があると主張した。オープンAIのサム・アルトマンCEOとイーロン・マスク氏も、アモデイ氏の問題意識に同意する立場を示した。