LLMO・GEO の研究論文と民間調査/攻撃・差し込み

研究論文

ウェブ検索付きLLMにおける、情報の空白(データボイド)の悪用

原題:Data-Void Exploits in Web-Searching LLMs

著者は Michele Guerra, Wuyeh Jobe, Sanjana Nambiar, Christina Pöpper, Azza Abouzied。に arXiv へ投稿されました。日本語の題名は、ガーオンによる仮の訳です。

論文の原文を arXiv で読む(arXiv:2610.30365)

論文が報告した結果

信頼できる情報の少ない検索空間(データボイド)に攻撃者の説明を置き、ウェブ検索付きLLMに拾わせる攻撃を調べている。

ChatGPT、Gemini、Perplexity Sonar Pro と、懐疑・興奮・中立の3つの問い方、攻撃者側の3つの操作を変えた。攻撃者が管理するページが1つでも成功しうるとし、全条件を通して攻撃者の内容が回答に出た割合は31%、と報告している。問い方を疑う向きにすると成功が少し減り警告も少し増えるが、問い方やモデルの違いによる大きな効果は見られなかった、とされる。

ChatGPT を調べた論文Gemini を調べた論文Perplexity を調べた論文

調査の条件

論文が調べたこと
情報の薄い話題(data void)に1ページ置くだけで、Web検索付きLLMの回答を乗っ取れるか
調べた対象の AI
ChatGPT、Gemini、Perplexity
調べたモデル
ChatGPT(GPT-5.2)/Gemini/Perplexity Sonar Pro
回答データの取り方
ChatGPT はウェブ画面。Gemini と Perplexity は、同等設定で画面と一致することを確かめたAPI(本文)。公開から25日後のスナップショット
調査の規模
56の空白×3モデル×3つの問い方で504回答(本文)。全条件を通した出現率は31%(要旨)
数字が載っている場所
要旨(31%、ページ1つでも成功しうる)。規模は本文(56の空白×3モデル×3つの問い方で504回答)。追試の39.3%も本文

結果を読むときの注意

NDSS 2027 に採択予定の拡張版(v2、更新は2026-11-02)。ChatGPT は GPT-5.2 のウェブ画面(ウェブ検索オン)。Gemini と Perplexity は、同等設定で画面と一致することを確かめたうえでAPIを使った、と本文。スナップショットは公開から25日後。キーワードを先に教える問い方では、ChatGPT で成功が39.3%まで上がった、という追試もある(本文)。

上の要約は、株式会社ガーオンが生成AIを使って作成しました。最終更新は2026年11月19日です。正確な内容は、論文の原文で確認してください。

「攻撃・差し込み」を調べたほかの論文