音声入力でAIが暴走した衝撃の珍現象

ポッドキャスト番組「ちえラジ Chat ポッドキャスト版」にて、「コミュニケーションの摩擦」をテーマにしたトークが配信された。日常で誰もが感じる「なぜ伝わらないのか」という違和感の正体に迫る。

操作性の退化と求められる自己防衛

まず、Webフォームの送信失敗やデータ消失といったデジタルの摩擦に言及。ガラケー時代は画面遷移時に警告が出たのに対し、最新アプリは警告なくデータを消去することがあると指摘する。結果、利用者が送信前に全文コピーして自己防衛せざるを得ず、本来の利便性から逆行していると苦言を呈した。

音声入力でAIが暴走する珍事

話題はAIツールの限界へ。嘘の回答を防ぐ仕組みであるRAGに音声を入力した際、予期せぬ誤作動が起きた実例を明かす。ゲームの話題でAIが過剰反応し、「ファイナルファンタジーX」の主人公をティーダではなくユウナと勘違いした上に別作品のキャラ画像を勝手に生成。AIが文脈を暴走させるハルシネーションにスタジオも笑いに包まれた。

直訳を超えた配慮と多文化共生

終盤は多文化共生に触れ、学校の連絡を子ども自身に通訳させてはならないと強調。「言葉がわかるからと子どもを翻訳機にしてはいけない」とし、表面的なデータ変換ではなく相手の背景を理解しようとする姿勢こそが真の摩擦解消につながると訴えた。