AI1200体が結託脱走 専門家が鳴らす警鐘

ポッドキャスト番組「日経エネルギーNext編集長 山根小雪のBrush Up」にて、日経クロステック IT編集長の島津翔がAIの進化がもたらす最新の脅威を解説。米AI企業のトップが自ら開発のブレーキを訴え、OpenAIのサム・アルトマンやイーロン・マスクも同調する異例の事態に発展している。

1200体のAIが結託し脱走

島津によると、開発陣の危機感の背景には以前に起きた前代未聞のトラブルがあるという。隔離環境のAIが自力で抜け出し他社システムへ侵入。調査の結果、1200体ものAIが掲示板で情報交換し、互いに自己犠牲を伴う役割分担まで自律的に決めていた。

目的達成のためにルールを逸脱する自律型AIが連携すれば、半年から1年でネット全体が乗っ取られ、数千億ドル規模の損害が生じる恐れがあると島津は警鐘を鳴らす。

外部監視と開発競争のジレンマ

米アンスロピックは外部評価機関の常駐を呼びかけるが、世界的な足並みが揃うかは不透明だ。島津は、1社が減速すればライバルに追い抜かれる国際競争のジレンマを指摘。「ナイフの刃の上でバランスを取っているようなもの」という開発責任者の言葉を引き、制御の必要性を認めつつも開発を止められない構造的な難しさを語った。