GUIの安全性は画面ではなく「遷移」を検証する

導入

GUIエージェントが現在の画面を正しく認識できても、それだけで操作の安全性を判断することはできない。例えば「サインイン」を押した後に認証画面が現れるのは自然だが、「注文を見る」を押した直後に同じ画面が出れば、フィッシングや画面の乗っ取りを疑うべきだ。つまり安全性は、画面そのものではなく、アクションと結果のつながりに存在する。

LGWMの考え方

論文は、世界モデルをGUI遷移の検証器として使う方法を提案する。従来のGUI世界モデルは、次の画面を文章、コード、画像などで出力することが多い。その出力と実際の画面を比べるには、さらに別のモデルで両者を評価する必要があり、処理コストと判定誤差が増える。

LGWMはこの構成を簡略化する。アクションを条件として、次の画面を生成するのではなく、観測を符号化する表現空間でその表現を直接予測する。185万件の実GUI遷移で学習され、意味注釈を必要としない。実行時には予測表現と実際の画面表現をベクトルとして比較するだけで、生成と再評価の段階を省ける。

主なポイントは次の通りだ。

• 検証対象を画面から遷移へ移す。 正常な画面でも、到達するアクションが違えば危険になり得る。
• 観測と同じ空間で予測する。 将来画面を描画してから比較する必要がない。
• 高速な実行時チェックを目指す。 RSWT-BENCHで0.987 AUC、判断時間は17ミリ秒だった。
• 逸脱の方向も利用する。 残差方向は、有害な違反と無害な違反の分離で0.953 AUCに達した。

意義と課題

RSWT-BENCHでは、同じ認証画面が正規の遷移と乗っ取られた遷移の両方で表示される。そのため、最終画面だけを見る検出器は原理上ほとんど判断できない。LGWMの結果は、安全検証用の世界モデルに必ずしも高精細な画面生成能力や人間向けの説明文が必要ではないことを示している。重要なのは、アクション後に何が起きるべきかを安定して表現することだ。

実運用では、エージェントが操作する前後に次状態を予測し、観測とのずれに応じて続行、停止、復旧を選ぶ仕組みに応用できる。ただし、ずれがあること自体は攻撃を意味しない。環境変化による無害な差もあるため、残差の方向やタスクの文脈を組み合わせる必要がある。今後は長い操作列、変化するUI、現実的な攻撃条件での頑健性検証が重要になる。

出典：Hugging Face Daily Papers