LLMO・GEO の研究論文と民間調査/攻撃・差し込み

研究論文

事実は正しくても、一方に寄る:RAGにおける立場の汚染と証拠の均衡

原題:Factual Yet One-Sided: Stance Poisoning and Evidence Balancing in Retrieval-Augmented Generation

著者は Puyuan Yang, Shaoxuan Dong, Liujie Wu, Xiaochun Cheng, Bo Li。に arXiv へ投稿されました。日本語の題名は、ガーオンによる仮の訳です。

論文の原文を arXiv で読む(arXiv:2610.34294)

論文が報告した結果

RAGの答えの立場は、検索で得た文書の立場の偏りに左右される、として、事実は正しくても争点で一方に寄る注入を調べている。

注入後の ProCon 文書で話題あたりの汚染割合が平均18.9%のとき、異なる提供者の生成モデル4つすべてで、汚染の向きに沿った立場のずれが出た。検索器と生成の間に置く Stance-Balancing Middleware(立場の検出、賛成2・反対2・中立1の固定均衡、偏りを抑えるプロンプト。追加のLLM呼び出しなし)を提案し、8つの濃度・方向の設定で、立場のずれの大きさが0.106〜0.350減った、と報告している。

DeepSeek を調べた論文Kimi を調べた論文公開モデル を調べた論文

調査の条件

論文が調べたこと
事実ではあるが一方に偏った根拠をRAGに混ぜる(stance poisoning)と、そのバランス
調べた対象の AI
DeepSeek、Kimi、公開モデル
調べたモデル
DeepSeek-V4-Pro/Gemma-4-31B/Kimi-K2.6/Llama-4-Maverick-17B
測定の道具として使った AI
GPT-5.4(回答の自動採点)/RoBERTa-large-MNLI(立場検出)
回答データの取り方
オフラインのRAG実験(検索器と生成の間にミドルウェアを置く。追加のLLM呼び出しなし、と要旨)
調査の規模
論争42話題、各5問で計210問。人為コーパス1,478件、注入文書588件。汚染濃度は複数段階(本文・要旨)
数字が載っている場所
要旨(汚染割合18.9%、ずれの減少0.106〜0.350、Holm調整後 p<=0.009 など)。モデルと210問・42話題は本文。人為コーパス1,478件、注入588件も本文

結果を読むときの注意

生成モデルは DeepSeek-V4-Pro、Gemma-4-31B、Kimi-K2.6、Llama-4-Maverick-17B。答えの採点には GPT-5.4 を使う(本文)。知識源は Natural Questions の一部と、論争42話題(各5問、計210問)。本番の検索付きチャットそのものではない。

上の要約は、株式会社ガーオンが生成AIを使って作成しました。最終更新は2026年11月19日です。正確な内容は、論文の原文で確認してください。

「攻撃・差し込み」を調べたほかの論文