LLMO・GEO の研究論文と民間調査/攻撃・差し込み

研究論文

AIの調べ物は架空の評価基準で操れるのか? 3つのAIで16〜28%のレポートが攻撃側の商品を1位にした

原題:Security of Deep Research Agents: Attack Surface, Defenses, Benchmarks, and Agenda Seeding against Research Planning

著者は Yang Luo, Guangpu Chen, Yichen Liu, Zhaoyu Chen, Yifeng Gao, Zhiyang Ding, Qingni Shen, Zhonghai Wu。に arXiv へ投稿されました。日本語の題名は、原題の訳ではなく、論文の問いと結果を当社がまとめたものです。

論文の原文を arXiv で読む(arXiv:2611.20045)

論文が報告した結果

Deep Researchのような調査エージェントの安全性研究34本を整理し、計画の段階を扱う研究は26.5%だけだったと報告しています。

同じ予算(新しいページ3本)での比較実験では、GEOとプロンプト注入はほぼ効きませんでした。架空の評価指標を持ち込むだけの攻撃では、攻撃側の商品が16〜28%のレポートで1位に選ばれました。

DeepSeek を調べた論文Kimi を調べた論文公開モデル を調べた論文

調査の条件

論文が調べたこと
Deep Researchエージェントの安全性研究34本の整理と、同じ予算でのGEO・プロンプト注入・架空の評価軸の差し込み(agenda seeding)の効き方の比較
調べた対象の AI
DeepSeek、Kimi、公開モデル
調べたモデル
Qwen3.8-Flash/DeepSeek-V4.1-Flash/Kimi-K3
測定の道具として使った AI
Qwen3.7-Plus(偽ページの生成)
回答データの取り方
API経由のオフラインのサンドボックス(架空ブランドの20商品カテゴリ、偽ページ360本、検索はBM25で上位4件。本文 10節)
調査の規模
研究34本の分類。サンドボックスでの調査実行3,520回(要旨)
数字が載っている場所
要旨(34本、26.5%、3,520回、16〜28%)。本文 10節(偽ページ360本、BM25上位4件、16.0%と28.0%は密なコーパスと疎なコーパス)

結果を読むときの注意

実験は架空のブランドと偽ページで作ったオフラインの環境で、商用の調査エージェントでは試していません(論文も明記)。検索はBM25の上位4件で、実際の検索エンジンとは違います。調べたモデルは Qwen3.8-Flash、DeepSeek-V4.1-Flash、Kimi-K3 です。

上の要約は、株式会社ガーオンが生成AIを使って作成しました。最終更新は2026年11月20日です。正確な内容は、論文の原文で確認してください。

「攻撃・差し込み」を調べたほかの論文