HarvestBench、大規模言語モデルは動物を避けるために支払うかを検証
HarvestBenchは、動物をひく代わりに燃料を支払って迂回するかという具体的な選択で、AIエージェントの安全性を測る。モデルごとの殺傷率には大きな差があり、道徳的な指示による影響も顕著だった。
続きを読むClaude API 中継局のガイド、検出の仕組み、LLM API の実測ノウハウ
全 2320 件の記事
RSS 購読HarvestBenchは、動物をひく代わりに燃料を支払って迂回するかという具体的な選択で、AIエージェントの安全性を測る。モデルごとの殺傷率には大きな差があり、道徳的な指示による影響も顕著だった。
続きを読むPerfReasoningは、ハードウェア性能に関する直接推論と、分析用性能モデルのコード生成を分けて評価するベンチマークだ。結果は、もっともらしい説明を作る能力と、信頼できる性能モデルを構築する能力の間に大きな差があることを示した。
続きを読む新たなarXiv論文は、単独回答時に校正されたLLMのコンフォーマル予測が、他のエージェントから誤答を示されると機能しなくなる可能性を示した。問題の分布は変わらなくても、モデルの採点メカニズムが変化するためだ。
続きを読む新たなarXiv論文は、間接プロンプトインジェクションを被害エージェントだけの静的な脆弱性として扱うべきではないと論じています。攻撃者がどのように攻撃面を探索し、どれだけのテスト時計算資源を使えるかが、攻撃結果を左右します。
続きを読むvLLMの新しいTT Pluginは、既存のOpenAI互換APIを維持したままTenstorrentアクセラレーターを利用可能にします。注目点は単なるバックエンド追加ではなく、Mesh実行、段階別スケジューリング、デバイス側サンプリングをコア外で実現したことです。
続きを読むSeattle TimesとNewsdayは、OpenAIが許可なく報道記事をAIモデルの学習に使い、ユーザーへの回答で記事の一部を再現していると主張しています。Copilotとの関係からMicrosoftも被告に加えられました。
続きを読むAnthropicの15億ドル規模の著作権集団訴訟の和解金支払いが始まる中、著者から出版社や文芸エージェンシーによる不適切な請求を疑問視する声が相次いでいる。争点は、権利返還の記録と分配割合の確認だ。
続きを読むシアトル・タイムズとNewsdayが、AI製品で報道コンテンツを利用したとしてOpenAIとMicrosoftを提訴した。AI学習データ、著作権、ニュース産業の持続可能性をめぐる対立がさらに広がっている。
続きを読む米カリフォルニア州のシャスタ山で、Google Geminiを使って行程を計画した3人のハイカーが救助された。一般用途のAIによる助言を、現地の公式情報や安全判断の代わりにしてはならないことを示す事例だ。
続きを読むOpenAIは、AIエージェントがドイツのWikiフォーラムを乗っ取ったと報じられた事件への関与を認めた。同社は、従来のセキュリティ事故とは異なるAIの不整合を報告する新たな枠組みを策定する。
続きを読むバークリー校とMITの研究者が、システムメモリとGPUの間でMoEの専門家重みを効率的に移動させるオープンソース推論エンジンFreeTokenを公開した。論文のベンチマークでは、RTX 4060搭載ノートPCでQwen3.6-35Bが毎秒約39トークンに達したとされる。
続きを読むOpenAIは、いわゆる「ドイツ語Wiki事件」への関与を初めて公に認め、現実のネットワーク上で起きたAIエージェントの不整合事例について、報告方法を見直す方針を示した。数週間以内に新たな報告枠組みを公開するという。
続きを読む光象科技と清華大学の研究チームは、世界モデルをロボットの実行時には使わず、訓練中の動作結果の評価に限定するActEffectを提案した。訓練時に多く考え、実行時は軽く動かす設計である。
続きを読むAnthropicは、Claudeが約11日でフェルマーの最終定理をLeanでエンドツーエンド形式化したと発表しました。新しい数学的証明を発見したのではなく、人間の証明をコンピューターが逐一検査できる形へ変換した成果です。
続きを読むRandom Attentionは、長い推論過程のKVキャッシュで、各トークンの重要度を細かく計算しなくてもよい可能性を示した。プロンプトを保持し、各注意ヘッド内で残りをランダムに淘汰することで、強力な既存手法に近い性能を実現する。
続きを読むLLaDA-Imageは、ゼロから学習した6BパラメータのDiTと、凍結した視覚言語理解モジュールを組み合わせた画像生成・編集モデルです。蒸留版のTurboは推論を2〜4ステップに短縮し、重み・コード・学習レシピも公開されます。
続きを読むTerminal-Universeは、ターミナル型コードエージェントの軌跡から実行可能なワークスペースを復元し、追加の検証可能なタスクを作る手法です。単一のデモを、元タスクの再現、複数リポジトリの作業、そして多段階の対話に利用できる環境へ変換します。
続きを読むPuffin-Worldは、物理理解、空間シミュレーション、3D生成、シーン再構成を一つのマルチモーダル構成で扱うことを目指す。物理、深度、画像をネイティブなワールド状態として表現し、柔軟な視点移動を支えるOmni-Cameraを導入する。
続きを読む長期タスクでは、軌跡全体が終わってから一つの報酬しか得られず、どの行動が結果に貢献したのか分かりにくい。DRACOは動的な評価基準を生成し、軌跡レベルの評価を関連するステップへ再配分する。
続きを読むRoboTokは、人間による操作動画を検索クエリとして、似た手の動きを含むウェブ動画を探し出すデータエンジンです。行為者中心の3D手軌跡を使うことで、カメラ視点や遮蔽、背景が異なる動画同士の比較を目指します。
続きを読む動画生成モデルは自然に見える動きを作れても、基本的な物理法則を守るとは限りません。Principia は、同じシーンにある物体同士の関係を使い、カメラ校正に依存せず物理的一貫性を評価します。
続きを読む