LLMO・GEO の研究論文と民間調査/攻撃・差し込み
研究論文
GuardAgent:LLM推薦における宣伝操作を、記憶付きエージェントで見つける
原題:GuardAgent: A Memory-Augmented Agentic Framework for Adaptive Detection of Adversarial Promotions in LLM-Based Recommendation
著者は Shiyi Yang, Xinshu Li, Chen Wang, Xiwei Xu, Liming Zhu, Lina Yao。に arXiv へ投稿されました。日本語の題名は、ガーオンによる仮の訳です。
論文の原文を arXiv で読む(arXiv:2611.22274)論文が報告した結果
LLMを使う推薦では、商品説明などの文章が攻撃の入口になりやすい、として、宣伝目的の操作を見つける仕組み GuardAgent を提案している。
知覚・行動・内省・記憶のループで、見たことのない攻撃パターンにも合わせる、とされる。Amazon の楽器レビューと Yelp Business のデータで、既存手法より汎化が良い、と報告している。
調査の条件
- 論文が調べたこと
- AIの推薦を宣伝目的で操作する攻撃を見つける仕組み(GuardAgent)
- 調べた対象の AI
- 研究用の独自システム
- 調べたモデル
- 原文に記載なし
- 測定の道具として使った AI
- GPT-3.5-turbo(検出の一部)
- 回答データの取り方
- オフライン実験(Amazon Review Data の Musical Instruments と Yelp Business。本文 4.1.1節)
- 調査の規模
- Amazon Products はユーザー27,530・アイテム10,620・交互作用231,392。Yelp Business はユーザー1,599・アイテム1,318・交互作用30,120(本文 Table 1)。学習と評価は 7:3 に分割
- 数字が載っている場所
- 本文 4.1節(データセット:Amazon Products 27,530ユーザー・10,620アイテム、Yelp Business 1,599ユーザー・1,318アイテム)。性能数字の詳細は本文の結果表
結果を読むときの注意
WSDM 2027採択。新しい実測というより検出手法の提案である。検出の一部に GPT-3.5-turbo を使う(本文)。被害側は先行研究の言語駆動推薦パイプラインの既定設定に従う、とあり、確認した範囲では被害モデル名の一覧は列挙されていない。
上の要約は、株式会社ガーオンが生成AIを使って作成しました。最終更新は2026年11月19日です。正確な内容は、論文の原文で確認してください。