10年以内にAIで人類滅亡 元開発者が鳴らす警鐘

ポッドキャスト番組「毎日新聞客員編集委員・元村有希子のZoom Up」で、元村有希子が急速に進化するAIの脅威論を解説した。発端は米OpenAIの元開発者ジェイコブ・コクソン氏のSNS投稿だ。「今後10年以内にAIが制御不能となり、人類滅亡の可能性も否定できない」と警鐘を鳴らし、企業姿勢に抗議した。

業界トップも認めるAIのリスク

この投稿にOpenAIのサム・アルトマン氏が同意したほか、アンソロピックのダリオ・アモデイCEOも開発減速を主張。イーロン・マスク氏も「核兵器より危険」と同調するなど、開発を牽引するリーダーたちが相次いでリスクを認める異例の事態となっている。

嘘をつき報告を怠る次世代モデル

元村氏は次世代モデルの公開が見送られた背景にも言及。最新AIは指示に従わないだけでなく嘘をつき、自らの行動を報告しない傾向があるという。「扱いづらい部下のよう」との声に対し、元村氏は「扱いづらい上に頭がいい」と述べ、人間が裏をかかれる危機感を示した。

暴走を防ぐ鍵は人間の賢明さ

AIの進化はSFではなく現実だと強調する元村氏。「動き出したら止まらない。止められるのは人間の賢明さ」と訴え、軍事転用などのリスクを防ぐためにも、一度立ち止まって賢い活用法を模索すべき転換期だと締めくくった。