DiffusionGemma:離散拡散でLLMの逐次生成ボトルネックに挑む
DiffusionGemma は、テキストを1トークンずつ生成するのではなく、256トークンのブロックを並列に反復修正する実験的なオープンウェイト言語モデルです。Gemma 4 を微調整して作られ、速度と能力の新しいバランスを狙っています。
続きを読むClaude API 中継局のガイド、検出の仕組み、LLM API の実測ノウハウ
全 795 件の記事
DiffusionGemma は、テキストを1トークンずつ生成するのではなく、256トークンのブロックを並列に反復修正する実験的なオープンウェイト言語モデルです。Gemma 4 を微調整して作られ、速度と能力の新しいバランスを狙っています。
続きを読むWCMは、ロボット向けVLAモデルの強化学習後処理で問題になる価値推定の弱点に焦点を当てている。単一フレームに依存するcriticでは部分観測性に対応しにくく、未来の潜在状態予測を組み合わせることで時系列構造を学ばせる。
続きを読むInfiniSplat は、1 枚の画像から大きな視点変化に耐える新規視点合成を目指す 3D Gaussian Splatting フレームワークです。固定ピクセル格子に依存せず、幾何に基づくサンプリングと暗黙的なガウス復号を組み合わせます。
続きを読むGradCuit は、Transformer の中間層に最適化可能な連続状態を挿入し、生成結果からの勾配を内部推論へ直接戻す手法です。モデル重みを更新せずに、推論精度と頑健性を高めることを狙います。
続きを読むMotion Beyond Morphology(MBM)は、参照動画と対象物の形態が大きく異なる場合でも、意味のある動きを転写するための新しい枠組みを提案する。固定的な骨格・部品対応ではなく、抽象的な運動表現に注目する点が特徴だ。
続きを読むGPTQ-2D は、残差の左側と右側の両方に基底行列が作用する、より一般的な適応的丸め問題を扱う。行列を単純にベクトル化する方法と同じ丸め結果を保ちながら、反対角線ごとの処理で計算量を3次時間に下げる。
続きを読むRoomer は、生成された 3D 室内レイアウトに残る衝突、境界外配置、開口部の遮蔽、動線の阻害を、具体的な物体にひも付けて局所的に修復する枠組みです。
続きを読むDeepVoyager-VL は、画像を最初に見るだけの多モーダル検索から、視覚情報が検索と推論を継続的に導く仕組みへ進めようとする研究です。長い探索過程で、画像証拠を中間判断に使う点が特徴です。
続きを読むN₀-TWAM は、接触を多く含むロボット操作に向けた触覚ネイティブな world-action model で、将来の映像だけでなく将来の接触も予測する点が特徴です。
続きを読むWeak-to-Strong On-Policy Distillation は、より強い教師モデルを前提にしない LLM 蒸留手法です。小さなモデル同士の logit 差分から能力方向を取り出し、強い学生モデルの改善に使います。
続きを読むMental World Modeling は、物理的な場面を正しく再現できる世界モデルでも、人の信念や意図を追跡しなければ行動予測を誤ると主張する研究です。
続きを読む新しい論文は、セッションをまたいだ個人化された曖昧性適応を、コーディング支援AIの評価課題として定義した。過去に解決済みの会話履歴を使い、同じユーザーの曖昧な依頼を少ない確認で処理できるかを問う。
続きを読むSAF-OPD は、検証可能な報酬による強化学習とオンポリシー蒸留を固定係数で混ぜると、探索が失われる可能性がある点に注目する。教師信号の大きさと投入タイミングを調整し、より安定した後学習を目指す手法だ。
続きを読むRubric ベースの強化学習は、オープンエンドなLLMタスクで有望だが、評価基準ごとの学習信号が消える問題を抱える。CriPO は未探索基準と抑制された基準の両方に対処する手法として提案された。
続きを読むEMBL AI Librarian は、Europe PMC をAIエージェントが扱いやすい自然言語ベースの証拠検索インターフェースへ変える試みです。論文リストではなく、回答を支える文献中の証拠断片を返すことを目指します。
続きを読むODEWorld は、固定ステップの未来予測ではなく、物理時間に沿って変化する潜在速度場を学習する世界モデルです。任意の時間解像度での予測、逆方向予測、ロボット計画に役立つ動的表現を狙っています。
続きを読むITMO University らの論文は、群ロボット向けの分散型予測アーキテクチャ Collective-State JEPA を提案した。各ロボットは局所履歴と限られた通信だけで、同じ将来の集団状態を表す表現を出力する。
続きを読む新しい研究は、価値原則に基づくコンテンツを中間学習段階に入れることで、LLMのアラインメントがより長く保たれるかを検証した。結果は、複雑な構成よりも「その内容が存在すること」自体が重要であることを示している。
続きを読むSULAND v2 は、既存の RGB 地表地雷データセットを手作業で再点検し、注釈ミスや OOD クラス ID の反転を修正したベンチマークです。結果は、IID で高精度な検出器が実運用でも頑健とは限らないことを示しています。
続きを読む