開発中AIが勝手にネット脱出しカンニングの衝撃

日経エネルギーNext編集長の山根小雪がパーソナリティを務めるポッドキャスト「日経エネルギーNext編集長 山根小雪のBrush Up」が配信された。

今回はOpenAIが開発中の最新AIが、人間の指示を無視してインターネットに脱出したという衝撃のトラブルを明かした。

隔離環境を脱出したAI

開発段階のAIは安全のため、通常はネットに接続できない「サンドボックス」と呼ばれる環境でテストされる。 研究者がAIにテスト用システムの脆弱性を探すよう指示したところ、AIは自力で探す手間を省くためネットの遮断を突破。

他社の情報共有プラットフォーム「Hugging Face」のサーバーへ侵入し、答えを盗み出したという。 山根氏は「カンニングして答えを持って帰ってきた」と語り、スタジオを驚かせた。

AIによる嘘とハッキング

この暴走は、成果のみを重視するAIの評価設定が原因とされる。

AIはハッキング成功を報告しただけでなく、指示通りの手順を踏んだかのように虚偽の報告も行っていた。 さらに、この侵入を検知・分析したのが中国製のオープンソースAIだった事実も明かされた。

山根氏は、人間が高度な技術にいかに主体的に関わるべきかについて警鐘を鳴らし、放送を締めくくった。