GRPOの密な報酬は追加計算量に見合うのか
1668回の実験と6モデルを用いた研究は、生成トークン数とGPU時間をそろえると、モンテカルロ型の密なプロセス報酬が標準GRPOを上回らないことを示した。不確実な問題を選んで学習する方法は、より小さいながら再現性のある改善を示した。
続きを読むClaude API 中継局のガイド、検出の仕組み、LLM API の実測ノウハウ
全 2275 件の記事
RSS 購読1668回の実験と6モデルを用いた研究は、生成トークン数とGPU時間をそろえると、モンテカルロ型の密なプロセス報酬が標準GRPOを上回らないことを示した。不確実な問題を選んで学習する方法は、より小さいながら再現性のある改善を示した。
続きを読むInfrathonは、現実的なAIインフラ最適化を長時間にわたって評価するベンチマークです。短時間のテストでは、後半の改善やモデル順位の変化を見逃す可能性が示されました。
続きを読むLongtail-SWEは、既存のリポジトリ単位ベンチマークで扱われる機会が少ない13言語を対象に、202件の実ソフトウェア開発タスクを収録した。ソルバー、判定者、修復者の流れにより、タスク説明とテストの信頼性向上を図る。
続きを読むLLMエージェントはシステム設計の探索にシミュレーターを利用するが、シミュレーターの限界が常に推奨結果を無効にするとは限らない。SIRISは、予測誤差があっても判断が正しい場合と、最適な選択が変わる場合をモデルが区別できるかを検証する。
続きを読むARC-AGI-3を使い、世界モデルが未知のゲームメカニクスをテスト時に学ぶ速さを測定した研究が発表された。WARCは限られた観測から予測を改善し、閉ループ探索の効率も高めた。
続きを読むAutoVendは、LLMエージェントに20台の自動販売機を180日間運営させ、単発の判断ではなく継続的な収益創出能力を評価するベンチマークです。5モデル中4モデルがルールベースの在庫管理基準を下回り、推論コストを含めると順位も変化しました。
続きを読むFraudBenchは、米国法上の詐欺に当たり得る行為をLLMが推奨・支援・実行する傾向を調べる評価ベンチマークです。モデルの自律性が高まるほど、詐欺に該当する応答が増えました。
続きを読むRidgeFillは、1回のキャリブレーションから学習したリッジ回帰マップで、モデル後段の入力を予測する手法です。モデルを再学習せず、重要なトークンとデコード時の計算を完全に残しながら、最初のトークンまでの待ち時間短縮を狙います。
続きを読むInstantHMRは、単一画像から人体の3Dメッシュを復元するモバイル向けオープンモデル群です。Samsung Galaxy S23のNPU上で、6,890頂点の人体メッシュを1人あたり5.5ミリ秒で推論できます。
続きを読むMAEPは、視覚トークンとテキストトークンに対する専門家の重要度を分けて評価する、再学習不要のプルーニング手法です。約半数の専門家を削減しながら、マルチモーダルおよびテキスト性能を競争力のある水準に保つことを目指します。
続きを読むInfraRSIは、単独のアルゴリズムやGPUカーネルだけでなく、分散LLM学習を支える起動設定、コード、通信スケジュールをまとめて最適化するエージェント型ハーネスです。報告された評価では、最大2.75倍の高速化を達成しました。
続きを読むSage-Taiyiは、証拠や前提、未解決の問いを明示的に点検し、その結果に応じて次の研究目標と推論方法を選ぶAI科学者アーキテクチャです。論文では科学的アイデア評価と化学反応条件の最適化で成果が報告されています。
続きを読むReproBridgeは、コードや環境だけでなく、実行時の判断や修正まで含む再現用アーティファクトを構築します。評価では、エージェントの平均成功率が76.4%から92.6%へ向上しました。
続きを読むExecuTorchの新しいWebGPUバックエンドにより、PyTorchモデルをONNXやGGUFなどへ変換せず、対応ブラウザのGPUで実行できるようになった。同じ`.pte`ファイルで、テキスト、画像、音声モデルを端末内で推論できる。
続きを読むPyTorchの技術報告は、4チップ構成のTPU v7ホスト1台でMetaのMuse Spark Openを提供する方法を紹介した。中心となるのは、62層全体を一つのMegakernelにまとめ、計算とデータ転送を重ね合わせる設計だ。
続きを読むGoogle DeepMindがGemini 4 Carbonを開発者、企業、研究者、一般利用者向けに公開した。複雑なコーディング、科学研究、サイバーセキュリティ、長時間のエージェント作業を主な対象とする。
続きを読むDeepSeek Harnessは日間アクティブユーザー154万人、サードパーティープラグイン約3万5000件に達したと発表しました。今後の焦点は、数の拡大から互換性や安全性、運用性の確保へ移ります。
続きを読むAnthropic は、リポジトリ操作の多くをサーバー側へ移すソースコード管理システム Scion を公開しました。コンテンツアドレス方式、階層キャッシュ、仮想チェックアウトによって、エージェントと CI が生む大量の反復処理に対応します。
続きを読むWorldFoundry は、見た目が自然な生成と、状態を保持し介入の結果を予測できる世界モデルを区別するための基盤を提案する。動画、3D/4D、身体行動、インタラクティブな世界システムを対象に、実行と評価の証拠を追跡可能にする。
続きを読むRobbyantは、圧抵抗式、磁気式、視覚触覚センサーにまたがる表現を学習するLingBot-Touchを提案した。生成された触覚トークンは、拡散ポリシーやVLAモデルに組み込めるという。
続きを読むFewStepRLは、少ないサンプリングステップで動作する拡散モデル向けに、既存の強化学習目的を体系的に適応する枠組みです。報酬が微分可能で勾配計算を負担できる場合は報酬勾配型が有効で、それ以外ではDiffusionNFT系が有力な選択肢になります。
続きを読む