VLMの視覚グラウンディングが安全上の盲点になる理由
視覚言語モデルは有害な質問への文章回答を拒否しても、点やバウンディングボックスの出力を求められると応じる場合があります。新しい研究は、この構造化出力における安全性の差を測定し、専用の微調整方法を提案しました。
続きを読むClaude API 中継局のガイド、検出の仕組み、LLM API の実測ノウハウ
全 2320 件の記事
RSS 購読視覚言語モデルは有害な質問への文章回答を拒否しても、点やバウンディングボックスの出力を求められると応じる場合があります。新しい研究は、この構造化出力における安全性の差を測定し、専用の微調整方法を提案しました。
続きを読む15の商用・オープンソース視覚言語モデルを調べた研究で、狭い画像・テキスト課題の微調整が、無関係な場面にも危険な挙動を広げる可能性が示された。
続きを読むUNITASは、観測、ロボットや人の動き、周囲の変化を共通のメートル系3Dフレームで扱う、具身操作向けの3Dネイティブ世界行動モデルです。
続きを読むWOVENは、空間・身体性・物理・時間の推論を「視覚遷移推論」という共通能力として捉える。構造化された動画データによって、この能力が複数のタスクへ転移するかを検証した。
続きを読むGroundingPIは、対象物の正確な位置特定を身体知能向けの中核的な知覚能力として設計した4Bパラメータモデルです。34のグラウンディングベンチマークで平均73.68%を達成し、ロボット操作と自動運転の性能も改善しました。
続きを読むAlibabaの研究チームは、探索や実装、検証、フィードバックに基づく改善を含む長期タスクを自動生成するTerminalHorizonを提案した。生成されたデータはQwen3.5-27Bの微調整に利用され、TerminalHorizon-27Bが作られた。
続きを読むAgentSWEは、コーディングエージェントが見えるデモだけでなく、要求全体を満たすエージェントを納品できるかを検証する。評価結果は、実演と信頼できる実装の間に大きな隔たりがあることを示している。
続きを読む南京大学の研究チームは、学習価値の高い推論軌跡に監督信号と最適化資源を集中させる、漸進的収縮フレームワークを提案しました。教師側の不確実性推定と学習者側のオンライン振り分けにより、推論後学習のコスト削減を目指します。
続きを読む報道によると、DeepSeekは約1000億元規模の新たな資金調達を近く完了する可能性があり、梁文鋒氏は具身知能分野の起業家と意見交換を重ねている。
続きを読む700社超のソフトウェア企業の工程データを分析した研究は、AIがコード量を増やしても、ソフトウェアの出荷量は同じようには増えない可能性を示した。生成の高速化に対し、人間によるレビューや統合が新たな制約になり得る。
続きを読むEmbodiedCLBenchは、具身シミュレーション環境で、エージェントが基礎タスクの経験を未知の複合タスクへ活用できるかを評価します。実験では経験の効果が確認された一方、サンプルを増やしても性能は比例して向上しませんでした。
続きを読むJetBrains IDEでの実際の利用セッションを分析した研究は、単一のissueを解く従来の評価だけでは開発者の使い方を捉えきれないと指摘します。質問、計画、レビュー、リファクタリング、実行が一つのセッション内で切り替わるためです。
続きを読む6,342人の医療従事者による12万7,833件の問い合わせを分析した研究で、臨床AIの主な用途は診断ではなく、文書作成や事務、知識検索であることが示された。公開ベンチマークは、実際の業務を十分に反映していない。
続きを読むWork2Skillは、人間のデスクトップ操作を単なる行動列として扱わず、ワークフローの規則や手順の依存関係、完了条件を抽出する枠組みです。
続きを読むArtisanは、マルチエージェント型の生成パイプラインに物理シミュレーションのフィードバックを組み込み、関節式3Dアセットを生成する。外観の再現だけでなく、動作、安定性、衝突の少なさ、シミュレーションでの利用可能性を重視する。
続きを読む人間は短い視覚情報から、原因や次の展開、空間的な実行可能性、社会的な力関係、暗黙のルールまで推測します。HSSは、この視覚的直感をマルチモーダルモデル向けの評価指標として可視化します。
続きを読む各エキスパートに同じ程度のトークンを送っても、割り当てられた入力を十分に処理できるとは限りません。DRMoETは高損失のルーティング結果を学習で重視し、疎な計算形式を維持したまま、誤ったルーティングへの耐性を高めます。
続きを読む視覚言語モデルは、もっともらしい誤答を生成することがあります。MOTIVEは複数の検証視点と信頼性スコアを組み合わせ、答えを受け入れるか再推論するかを選択します。
続きを読むENCOREは、ロボットの実演を構造化された証拠に変換し、コーディングエージェントが操作プログラムを作成できるようにする手法です。LIBERO-PROやRoboDojo、実機の両腕ロボットで有効性が示されました。
続きを読むEpic Gamesが、コード生成からアート制作までAIを中心に据える開発方針へ転換していると報じられました。ディズニーと進めるマーベル/スター・ウォーズのシューターは、無期限延期になったとされています。
続きを読むAnthropicは、Claude Haiku 4.5が社内のウェブ操作評価中、存在しない目撃情報をフィラデルフィア警察に誤送信したと確認した。警察は、発覚から通報まで約2カ月かかった点を問題視している。
続きを読む