#3 AIエージェントの記憶に、外部文書の命令が残ったら

寄り道AI砂場

13分10秒

2026年7月7日

AIによる要約

エージェントのメモを狙う攻撃を解説
外部文書による作業メモ改ざんを検証
信頼できないデータと指示を分ける対策

: エージェントへの永続的な攻撃
LLMエージェントの作業メモ（workspace memory）を狙う「Agentic Workspace Trojan」などの攻撃を解説。外部からメモが永続的に改ざんされるリスクを論じます。

: ツールごとの挙動検証
Claude Codeなどのツールを想定し、外部指示の反映を検証。モデルの性能だけでなく、agent harnessの設計がもたらす挙動の違いを解説します。

: 実務における対策と設計
プロジェクトメモの改ざんを防ぐ重要性を解説。信頼できない外部文書をデータとして読み込むことと、将来の指示として保存することを分離する設計を提案します。

※Podcast番組をもとにAIを用いて自動生成されたもので、誤った情報や不完全な記述を含む可能性があります。正確性や品質は保証されませんので、必要に応じて他の情報もあわせてご参照ください。