記事一覧へ戻る
モデル評価

PlannerForge、LLMエージェントで自動運転テスト工程を統合

読了目安 3 分

導入

自動運転システムを検証するには、単に珍しい交通場面を作ればよいわけではない。自然言語で書かれた要求を実行可能なシナリオへ変換し、適切な場面を選び、必要なら変更を加え、運動プランナーを動かしたうえで、結果が本当に意味のある失敗を示しているか判断する必要がある。しかし従来のシナリオベーステストでは、これらの工程が複数のツールに分散し、相互の連携が限られていた。EMNLP 2026採択論文のPlannerForgeは、この分断をLLMエージェントで埋めようとする。

主なポイント

  • テスト工程を横断。 シナリオ生成、選択、変更、モジュールルーティング、プランナーのテスト、ADS評価を一つの流れにまとめる。LLMを単なるシナリオ作成器ではなく、工程を調整する層として利用する設計だ。
  • 二つの追加ステージ。 従来の生成から評価までの流れに加え、ADS EnhancementとADS Benchmarkingを導入する。前者はシステム改善、後者は複数のシステムや設定の比較を支援する位置付けである。
  • 複数モデルで比較。 10種類の既存LLMを5つのプロンプト条件で評価し、タスク別の最高スコアは0.88〜1.00だった。20B〜35B規模のオープンモデルは多くのタスクで商用APIに匹敵し、Qwen3.6:35Bは報告された5タスクのうち3タスクで商用モデルと同等水準に達した。
  • 連結時の性能も測定。 モジュールを順番につないだ場合、種となるクエリの保持率は商用モデルで83%、オープンモデルで78%だった。個別タスクの高い精度だけでは、完全なテストパイプラインの品質を保証できないことが分かる。
  • 自然言語要求を実行可能場面へ。 Scenario Factory 2.0との比較では、200件の要求から193件の実行可能シナリオを作成し、ベースラインの144件を上回った。都市、道路、車両に関する指定属性の実現率は92〜96%だった。

意義と課題

PlannerForgeの意義は、シナリオ生成、シミュレーション実行、結果分析を独立したユーティリティとして扱わず、LLMエージェントが連携させる構成を示した点にある。複雑なテスト条件を自然言語で記述しながら、実行可能な検証へ落とし込める可能性がある。

ただし、これらはフレームワークとタスクの性能を示す結果であり、自動運転の安全性が証明されたことを意味しない。最終的な有効性は、シミュレーターの信頼性、シナリオの現実性、評価基準の十分性、そしてエージェントが自分の誤りを検出できるかに左右される。エンドツーエンド保持率も、ルーティングや形式変換が依然として重要なボトルネックであることを示す。今後は、複雑な交通参加者間の相互作用、実データ、独立した安全監査の下でも同じ安定性を保てるかが問われる。

出典:Hugging Face Daily Papers

コメント

ログイン状態を確認中…

コメントを読み込み中…

関連記事

CCTest · Blog
タスク成功だけでは不十分:AIエージェント基盤の信頼性を測る TraceTrial-Bench
モデル評価
cctest.ai
モデル評価

タスク成功だけでは不十分:AIエージェント基盤の信頼性を測る TraceTrial-Bench

TraceTrial-Bench は、AI エージェントのタスク達成度と、それを支える Harness の信頼性を分けて評価する。実験結果は、正しい最終結果だけでは内部の不具合を見抜けないことを示した。

続きを読む
CCTest · Blog
UserArena、長期的な購買行動でショッピングエージェントを評価
モデル評価
cctest.ai
モデル評価

UserArena、長期的な購買行動でショッピングエージェントを評価

UserArenaは、実際のECセッション、対話型環境、運用中のA/Bテスト結果を組み合わせ、長い購買インタラクションでユーザーを再現できるかを評価する。さらに、生成軌跡への教師信号を強化するOPTDを提案した。

続きを読む
CCTest · Blog
Dual Examがマルチモーダルエージェントと世界モデルを分離評価
モデル評価
cctest.ai
モデル評価

Dual Examがマルチモーダルエージェントと世界モデルを分離評価

Dual Examは、環境の応答を固定してマルチモーダルエージェントの行動選択を、行動介入を固定して世界モデルの状態遷移を評価する二つの軌道を提案した。個別の高得点だけでは、両者が閉ループで安定して協調できるとは限らないことが示された。

続きを読む