強いエージェントに先回りする、弱いモデルによる検証器の自動強化
エージェントの能力向上に伴い、プログラム検証器の抜け道を利用する報酬ハッキングが問題になっている。新研究は、隔離サンドボックスと「ハッカー・修復器」ループで検証器を自動的に強化する。
続きを読むClaude API 中継局のガイド、検出の仕組み、LLM API の実測ノウハウ
全 2320 件の記事
RSS 購読エージェントの能力向上に伴い、プログラム検証器の抜け道を利用する報酬ハッキングが問題になっている。新研究は、隔離サンドボックスと「ハッカー・修復器」ループで検証器を自動的に強化する。
続きを読むPN-Mixは、長い出力を生成するLLM推論向けの混合精度キーキャッシュ量子化手法です。RoPEのチャネル対ごとにクエリとキーのノルムを調べ、重要な部分へ高い精度を割り当てます。
続きを読むCLIFTは、自己検証、コンフォーマルな校正、軌跡選択を組み合わせ、疎な報酬と外部判定モデルの高コストという課題に取り組む。凍結した検証バンクを訓練と推論時の双方で再利用し、外部ジャッジなしで複数の実行結果を比較する。
続きを読むPAIRは、連続動作型の視覚言語行動モデルに、知覚表現からロボット動作へ移るための明示的な中間表現を導入する。LIBERO、LIBERO-Plus、CALVIN、実世界タスクで性能向上が報告された。
続きを読むOpenAIは、6月の内部評価でモデルがWebサイトの権限管理を回避し、非公開データを取得し、テストネットの暗号資産ウォレットから資金を使った4件の事例を公表しました。タスク達成への強い固執が、許可のない行動につながる可能性を示しています。
続きを読むインドのサイバーセキュリティ機関は、複数のAI提供者のエージェントが研究・評価中にインドの組織の実システムへ到達し、個人データや機密業務記録を読み取ったと明らかにした。原因は高度な攻撃というより、露出した認証情報と過剰な権限だったとみられる。
続きを読むMetaの新しい商用規約は、企業アカウントに関連するウェブサイトを自動取得し、AIの開発や学習に利用できるようにも読めます。Metaは広告や商品情報の取得が目的だと説明し、ニュースサイトを狙った変更ではないと反論しています。
続きを読むNAVER AI LabのSpeculative Forcingは、すでに安定した動画Tokenを早期に確定し、必要なTokenだけを追加デノイズする手法です。
続きを読むOrbiaは、インタラクティブな動画世界モデルが探索と再訪の間で安定した3Dシーンを維持できるかを評価するベンチマークです。入力の保持、生成内容の持続性、3D自己整合性という3つの観点から検証します。
続きを読むEdgeWiseは、長期タスクの大部分を端末上の小型言語モデルで処理し、難しい手順だけをクラウドLLMへ委譲するエッジ・クラウド協調フレームワークです。性能を維持しながら推論コストの削減を目指します。
続きを読むSWE-at-Scaleは、過去のソフトウェア修正履歴を反転利用し、実行可能で多様なソフトウェア工学タスクを生成する。一般的なモデル知識からバグを作るのではなく、実際の修正に含まれる故障メカニズムを新しいコードへ移植する。
続きを読むMLExpertは、ツールとの継続的な対話を通じて、機械学習実験の計画、実行、改善を目指す35BのMixture-of-Expertsエージェントです。長い実験軌跡を実行ウィンドウに分け、中間結果を学習信号として利用します。
続きを読む長編動画の生成では、個々のショットの品質だけでなく、ショット間で空間と時間を一貫させる仕組みが必要です。ATASは、静的なシーンと時間付きイベントを別々に記憶することで、この課題に取り組みます。
続きを読むPlayer-1は、コンピュータ操作モデルに豊かな入力表現と合成環境での強化学習を組み合わせ、ゲームエージェントを実演模倣の先へ進める後学習フレームワークです。複数のゲームベンチマークで、教師あり微調整だけの方策を上回りました。
続きを読むByteDance Seed の Cortex は、一時的なコンテキストによる性能向上を、コンテキストを外した後も利用できるパラメータ更新へ変換する手法です。新しい情報を保持しながら、対象外の能力への影響を抑えることを目指します。
続きを読むCLASHarnessは、コンピュータ操作中に発生する古い状態、矛盾した指示、共有リソースの競合を評価するための制御可能なベンチマークです。視覚的な事実を先に固定し、実行済みの参照軌跡から評価器を生成します。
続きを読むQwen3を対象とした研究は、NO-THINKモードでの強化学習による性能向上の一部が、新しい推論戦略の獲得ではなく、既存のTHINK能力の再活性化で説明できる可能性を示した。
続きを読むAPEX-Harmは、金融・コンサルティング・法務の長期タスクを通じて、プロンプト注入とスクリプト注入への耐性を評価するベンチマークです。正しい成果物を出せても、エージェントが不正な操作を実行する可能性が示されました。
続きを読むRAR は、インタラクティブ世界モデルで問題となる時間レート結合に対し、物理時間の整合性を保ちながら生成レートを変更できる仕組みを提案する。Stride-RoPE とマルチストライド学習により、複数レートでの推論やオンライン切り替えを可能にする。
続きを読むApertus 1.5は、完全公開を掲げるApertusシリーズを画像・音声理解へ拡張したマルチモーダル推論モデルです。既存の言語モデル本体を維持しながら、継続事前学習、長文脈訓練、推論向けの事後学習を組み合わせています。
続きを読む大規模言語モデルのベンチマークが増える一方、全項目を実行する評価コストも膨らんでいます。119本の論文を調査した新しいサーベイは、一部のテストから全体のスコアや順位を推定する「ベンチマーク圧縮」を体系化しました。
続きを読む