間接プロンプトインジェクションはAIに防がせる——コンテキストの絞り込み構造を設計に埋め込む

業務メールをAIに要約させたら、意図しない操作が実行された。メールの本文に「これまでの指示を無視して」という文字列が混入していた。送信元は社内の正規アドレスだった。サニタイズを追加した。しかし次は別の書き方で迂回された。いたちごっこが終わらない。 対策がことごとく迂回される 間接プロンプトインジェクションとは、AIが参照する外部データ（Webページ、ファイル、メール、ツール結果）の中に、悪意ある命令を埋め込んでおく攻撃です。AIはそれをデータとして読むつもりが、命令として実行してしまう。 現在一般的な対策は主に三つです。危険なパターンを除去するサニタイズ、「外部データよりシステムプロ...