TH-GNN、時系列グラフでLLM生成のやらせ投稿を検出

導入

推薦システムを狙うやらせ投稿は、生成AIによって見分けにくくなっている。LLMエージェントは、流暢なレビュー、矛盾の少ない評価、もっともらしいユーザープロフィールを大規模に作成できるため、従来の重複表現や不自然な文章を探す方法だけでは十分でない。単独のレビューに問題がなくても、複数アカウントが同じ目的で動けば、関係構造や投稿タイミングに痕跡が残る可能性がある。

TH-GNNは、この問題を単一の信号で判定しない。ユーザー、レビュー、商品説明などの関係をグラフとして表現し、テキストの意味と行動の時間的なパターンを同時に扱う。

主なポイント

• 異種グラフTransformer。 2層のHeterogeneous Graph Transformerを使い、ノードの種類と関係の種類ごとに注意を割り当てる。ユーザーとレビュー、レビューと商品といった異なる接続を一律に扱わない点が特徴だ。
• エッジに時間情報を付加。 各エッジに学習可能な正弦波型の時間エンコーディングを加え、相互作用がいつ起きたかを表現する。さらに、行動間の対数到着間隔をGRUで処理し、短時間に操作が集中するバースト性を捉える。
• 構造と意味を融合。 ユーザーの構造的な埋め込みと、凍結したRoBERTaによるレビュー・商品説明の表現をクロスモーダル注意機構で統合する。ネットワーク上の位置と、関連コンテンツの意味的な不整合を同時に調べられる。
• 複数条件で評価。 5つの攻撃ファミリーと4つのベンチマークデータセットで評価し、総合平均F1として0.870を報告した。Agent4SR攻撃では最も強いテキストのみのベースラインを10.9ポイント上回り、最低の注入率では差が11.5ポイントだった。

意義と限界

この研究が示すのは、LLMによる不正が言語だけの問題ではないということだ。自然な文章はテキスト検出を難しくする一方、協調するアカウントはネットワーク上の関係や活動のリズムを通じて検出可能な特徴を残すかもしれない。反対に、グラフだけを見る方法では、レビュー内容や商品説明との意味的な食い違いを理解しにくい。

TH-GNNは、孤立したレビューの判定から、動的な相互作用ネットワークの分析へ移るための設計例となる。ただし、提示された情報はベンチマーク実験の結果が中心であり、実際のサービス、変化し続ける攻撃者、運用時の計算コストで同じ性能が得られることまでは示していない。0.870というF1は、論文の実験条件における結果として読む必要がある。

生成エージェントが協調操作のコストを下げる中、推薦システムの防御は、何が書かれたかだけでなく、誰が誰とつながり、いつ行動したかも追跡する必要がある。TH-GNNは、そのためのマルチモーダルかつ時系列的な検出への一歩だ。

出典：arXiv