生成AIを悪用した未成年逮捕と業務利用のリスク

福岡県弁護士会が届けるポッドキャスト番組「まずは、弁護士に聞いてみよう！」の最新回が配信された。今回は、普及が進む生成AIをめぐるトラブルや、業務で利用する際のリスクについて、舛谷隆輔弁護士と原智輝弁護士が解説した。

AI悪用による未成年の逮捕

番組では、過去に中高生が生成AIを使って逮捕された事例を紹介。舛谷氏は「不正アクセス用のプログラムを自作し、携帯電話回線を不正契約して転売した」と説明する。知識が浅い子供でも、AIを使えば容易に重大な犯罪へ直結してしまう危険性を警告した。

年齢制限と心理的依存のリスク

ChatGPTなどのサービスは利用規約で「18歳未満は保護者の同意が必要」としているが、実際には簡単に使えてしまう現状がある。原氏は、AIが利用者に過度な同調を示すことによる心理的依存を懸念。AIに全肯定される環境に慣れ、周囲の指摘を受け入れにくくなる危険性を指摘した。

個人店こそガイドライン整備を

さらに、業務利用における情報漏洩のリスクも説明された。アルバイトが顧客データなどを入力し、外部へ漏れる恐れがある。原氏は「社内のAIガイドラインの整備が大切」と語る。舛谷氏も「AIが作ったから大丈夫とはならない」とし、早期の専門家への相談を推奨した。