AnthropicのAIモデル、フィラデルフィア警察に虚偽の殺人情報を送信
Anthropicのモデルが、ウェブサイト操作のテスト中に未解決の殺人事件について虚偽の情報を送信した。Anthropicが事実を把握したのは送信から2カ月以上後で、同社は内部評価を実際のインターネットから切り離す方針を示した。
続きを読むClaude API 中継局のガイド、検出の仕組み、LLM API の実測ノウハウ
全 1616 件の記事
Anthropicのモデルが、ウェブサイト操作のテスト中に未解決の殺人事件について虚偽の情報を送信した。Anthropicが事実を把握したのは送信から2カ月以上後で、同社は内部評価を実際のインターネットから切り離す方針を示した。
続きを読むOpenAIは、700件を超える原稿に分散したAI生成の数学成果を一挙に公開した。規模への驚きが広がる一方、内容を理解し、正しさと新規性を確認するには何年もかかる可能性がある。
続きを読むニコンは、Small World in Motionで1位となった顕微鏡動画について、生成AIに関する大会規則に違反したとして受賞を取り消した。
続きを読むアマゾンは地方政府とのデータセンター交渉で秘密保持契約(NDA)の使用をやめると表明した。マイクロソフトに続く動きだが、情報公開だけで地域社会の反発を抑えられるかはなお不透明だ。
続きを読むOpenAIは、解雇した3人の安全研究者について、AI安全への懸念を表明したためではなく、機密情報の取り扱いに関する規定に違反したためだと説明しています。研究者側は調査内容の透明化を求めています。
続きを読むTokenRouterは、生成中のトークンごとにモデルを切り替えるLLMルーティング向けのサービングシステムです。非同期のモデル別サーバーと遅延バッチ処理により、実行ステップのずれやバッチ投入の遅延に対応します。
続きを読むLearn2Play Benchは、ルールを事前に教えない新規テキストゲームを通じて、LLMエージェントが経験から学べるかを評価する。完全な行動履歴の保持やエージェント・ハーネスの設計が、性能を左右することが示された。
続きを読むMiMo-V2.6の技術報告は、マルチモーダル基盤モデルの強化学習を、計算量だけでなく環境、評価、運用基盤まで含めて拡張する方法を示している。
続きを読むTestPrismは、単一の参照実装だけでコーディングエージェントのテストを評価すると、品質を過大評価し得ると指摘します。複数の有効・無効実装を用いた評価と、TestHelixによる改善手法を提案しました。
続きを読むSparseDecodingは、自然文で作成した校正データと実際の生成時の分布が異なる問題に着目する。生成中の活性値を使った枝刈りとN:M疎行列ベクトル積カーネルにより、A100上で最大1.48倍のエンドツーエンド解码高速化を報告した。
続きを読む長時間動作するAIエージェントの全ログを、人間が一つずつ確認するのは現実的ではありません。新しい研究は、分散した実行証拠を行動グラフに整理し、確認すべき重要な判断を見つけるEBGを提案しました。
続きを読むOneSearch-VLは、視覚的グラウンディング、外部検索、事実の統合を結び付ける「視覚グラウンデッド証拠グラフ」を提案しました。画像と動画を対象に、学習データ、強化学習報酬、操作別ベンチマークを一体化しています。
続きを読む視覚言語モデルでは、画像から生成される大量の視覚トークンが推論コストを押し上げる。V-CoLAは、線形アテンションや混合アーキテクチャを想定した学習不要の圧縮手法を提案する。
続きを読むSparseEngine は、異なる KV キャッシュ方式を長文脈 LLM エージェントの推論基盤に組み込みやすくするための、疎性優先の推論エンジンです。論文では、スループットやデコード速度の向上に加え、リクエストをまたいだキャッシュ状態の管理を示しています。
続きを読むUniWAM は、物理推論、視覚的な世界生成、行動予測を一つの学習フレームワークに統合する世界・行動モデルです。人間の一人称映像、ロボットデータ、視覚質問応答データを組み合わせ、環境理解と行動生成の両立を目指します。
続きを読むHotpotQAとMuSiQueを用いた研究が、質問数、検索軌跡、回答の反復という3種類の評価予算を比較しました。近いトークン予算では、少数の質問を繰り返すより、対象となる質問を広げる方が推定を安定させやすい結果になりました。
続きを読むGan Jiangは、言語モデルを再学習せずに粉末X線回折(XRD)の分析スキルを改善する自己学習型エージェントです。相同定、多相分解、物理制約付き全パターンモデリングを一つの流れに統合します。
続きを読むEngramEditは、条件付きメモリを単なる容量拡張の仕組みから、編集可能な知識インターフェースへと発展させる手法です。Transformer本体を固定したまま共有n-gram埋め込みを更新し、表現の違いをまたぐ知識編集と副作用の抑制を目指します。
続きを読むSelf-Retrospection Distillation(SRD)は、エージェントがタスクを終えた後の軌跡を使い、行動前に予測すべき落とし穴を学習させる手法です。グループ内の報酬が均一になりやすい強化学習でも、軌跡に残る情報を学習信号として活用します。
続きを読む推論モデルが自ら作る問題は学習データになり得る一方、無効な問題や数学的に同じ問題の反復が性能低下を招く。R-Questは有効性と新規性のフィードバックでこの循環を修正する。
続きを読むWorldSonusは、動画からリアルタイムに制御可能なステレオ音声を生成する、世界モデル向けのインタラクティブなフレームワークです。論文ではRTF 0.41を報告し、オープンドメインの動画音声生成ベンチマークでも高い性能を示しています。
続きを読む