TH-GNN, 시계열 그래프로 LLM 기반 리뷰 조작 탐지

들어가며

추천 시스템을 노리는 리뷰 조작은 생성형 AI의 확산과 함께 더 정교해지고 있다. LLM 에이전트는 유창한 리뷰, 서로 모순이 적은 평점, 그럴듯한 사용자 프로필을 대규모로 생성할 수 있다. 따라서 반복 문장이나 어색한 표현만 찾는 탐지기는 개별 리뷰가 정상적으로 보이는 공격을 놓칠 수 있다. 그러나 여러 계정이 같은 목적 아래 움직인다면 계정과 상품의 연결 구조, 그리고 행동이 발생한 시간대에는 흔적이 남을 수 있다.

TH-GNN은 이 문제를 텍스트 또는 그래프 중 하나만으로 해결하지 않는다. 사용자, 리뷰, 상품 설명 사이의 관계를 이종 그래프로 표현하고, 콘텐츠의 의미와 상호작용의 시간적 패턴을 함께 학습한다.

핵심 내용

• 이종 그래프 트랜스포머. 두 개의 Heterogeneous Graph Transformer 계층을 사용하며, 노드 유형과 관계 유형별로 어텐션을 적용한다. 사용자-리뷰와 리뷰-상품처럼 성격이 다른 연결을 동일한 엣지로 단순화하지 않는 방식이다.
• 엣지 단위 시간 표현. 모든 엣지에 학습 가능한 사인파 기반 시간 인코딩을 추가해 상호작용 시점을 반영한다. 또 행동 사이의 로그 도착 간격을 GRU로 처리해 짧은 시간에 활동이 몰리는 버스트 패턴을 포착한다.
• 구조와 텍스트의 결합. 사용자의 구조 임베딩을 리뷰와 상품 설명의 고정 RoBERTa 표현과 교차 모달 어텐션으로 결합한다. 이를 통해 계정이 네트워크에서 차지하는 위치와 연결된 콘텐츠 사이의 의미적 불일치를 함께 살필 수 있다.
• 다양한 공격 조건에서 평가. 5개 공격 유형과 4개 벤치마크 데이터셋에서 평가한 결과, 총평균 F1은 0.870이었다. Agent4SR 공격에서는 가장 강한 텍스트 전용 기준선보다 10.9%포인트 높았고, 최저 주입률에서는 11.5%포인트의 차이를 보였다.

의미와 한계

이 연구가 보여주는 핵심은 LLM 기반 조작이 언어만의 문제가 아니라는 점이다. 더 자연스러운 문장은 텍스트 탐지를 어렵게 만들 수 있지만, 협업하는 계정은 관계 네트워크와 활동 리듬에서 이상 신호를 드러낼 수 있다. 반대로 그래프만 분석하면 리뷰 내용과 상품 설명에 나타난 의미적 불일치를 해석하기 어렵다.

TH-GNN은 단일 리뷰 판별에서 동적인 상호작용 네트워크 분석으로 이동하는 설계 방향을 제시한다. 특히 공격 규모가 작을 때 시간과 구조 신호를 함께 보는 접근이 어떤 역할을 할 수 있는지 보여준다. 다만 제공된 자료는 벤치마크 실험 결과를 중심으로 하며, 실제 플랫폼의 데이터 변화, 공격자의 적응, 운영 환경의 추론 비용까지 검증했다고 말하지는 않는다. 따라서 F1 0.870은 논문이 설정한 실험 조건에서의 성과로 해석해야 한다.

생성형 에이전트가 조직적인 조작의 비용을 낮추는 상황에서 추천 시스템 보안은 무엇을 말했는지뿐 아니라 누가 누구와 연결되고 언제 행동했는지도 추적해야 한다. TH-GNN은 이러한 다중 신호·시계열 탐지로 향하는 하나의 사례다.

출처: arXiv