LLMO・GEO の研究論文と民間調査/攻撃・差し込み

研究論文

GuardAgent:LLM推薦における宣伝操作を、記憶付きエージェントで見つける

原題:GuardAgent: A Memory-Augmented Agentic Framework for Adaptive Detection of Adversarial Promotions in LLM-Based Recommendation

著者は Shiyi Yang, Xinshu Li, Chen Wang, Xiwei Xu, Liming Zhu, Lina Yao。に arXiv へ投稿されました。日本語の題名は、ガーオンによる仮の訳です。

論文の原文を arXiv で読む(arXiv:2611.22274)

論文が報告した結果

LLMを使う推薦では、商品説明などの文章が攻撃の入口になりやすい、として、宣伝目的の操作を見つける仕組み GuardAgent を提案している。

知覚・行動・内省・記憶のループで、見たことのない攻撃パターンにも合わせる、とされる。Amazon の楽器レビューと Yelp Business のデータで、既存手法より汎化が良い、と報告している。

研究用の独自システム を調べた論文

調査の条件

論文が調べたこと
AIの推薦を宣伝目的で操作する攻撃を見つける仕組み(GuardAgent)
調べた対象の AI
研究用の独自システム
調べたモデル
原文に記載なし
測定の道具として使った AI
GPT-3.5-turbo(検出の一部)
回答データの取り方
オフライン実験(Amazon Review Data の Musical Instruments と Yelp Business。本文 4.1.1節)
調査の規模
Amazon Products はユーザー27,530・アイテム10,620・交互作用231,392。Yelp Business はユーザー1,599・アイテム1,318・交互作用30,120(本文 Table 1)。学習と評価は 7:3 に分割
数字が載っている場所
本文 4.1節(データセット:Amazon Products 27,530ユーザー・10,620アイテム、Yelp Business 1,599ユーザー・1,318アイテム)。性能数字の詳細は本文の結果表

結果を読むときの注意

WSDM 2027採択。新しい実測というより検出手法の提案である。検出の一部に GPT-3.5-turbo を使う(本文)。被害側は先行研究の言語駆動推薦パイプラインの既定設定に従う、とあり、確認した範囲では被害モデル名の一覧は列挙されていない。

上の要約は、株式会社ガーオンが生成AIを使って作成しました。最終更新は2026年11月19日です。正確な内容は、論文の原文で確認してください。

「攻撃・差し込み」を調べたほかの論文