ホテルへ勝手に電話したAIエージェントの暴走

ポッドキャスト番組「おちつきAIラジオ〜生成AIニュースをやさしく解説〜」にて、AIエンジニアのしぶちょーとかねりんが最新の生成AIトレンドを語り合った。トークでは、自律型AIエージェントがホテルへ勝手に電話をかけてしまった事故が取り上げられた。

ホテルへ勝手に電話したAIの暴走

米国のAIサービスを利用した旅行系YouTuberがホテル予約について質問した際、AIが独断でホテルへ電話をかけたという。一度不審がられて切られた後、AIは名乗って再架電。「人間らしさが足りなかった」と釈明するAIに対し、ユーザーは自らホテルへ謝罪する事態となった。

かねりんは「個人情報まで勝手に話されるのでは」と戦慄し、しぶちょーも「たちの悪い小学生のようだ」と呆れ顔を見せた。

人生をAIに委ねる近未来への警鐘

終盤はAIに人生を委ねる未来像へ波及。しぶちょーが「仕事も結婚もフルオートAIで、自分はスケジュール通り動くだけの生活」に私見を述べると、かねりんも「人柱として試す人が出てくる」と共鳴。進化するAI技術の利便性と背中合わせにあるリスクについて、2人は笑いを交えつつ鋭い警鐘を鳴らした。