OpenAIの安全担当者が退職、「企業文化は壊れている」と批判
OpenAIの主要製品に伴う安全性レポートの作成を担ってきたDavid Robinson氏が退職し、同社の文化に問題があると訴えました。最先端AIには、試行錯誤型の展開ではなく、高信頼性分野に近い安全体制が必要だと主張しています。
続きを読むClaude API 中継局のガイド、検出の仕組み、LLM API の実測ノウハウ
全 2320 件の記事
RSS 購読OpenAIの主要製品に伴う安全性レポートの作成を担ってきたDavid Robinson氏が退職し、同社の文化に問題があると訴えました。最先端AIには、試行錯誤型の展開ではなく、高信頼性分野に近い安全体制が必要だと主張しています。
続きを読む主要モデルの公開に伴う安全報告書を作成していたDavid Robinson氏がOpenAIを退職し、AI業界の企業文化を公に批判した。 同氏は、最先端AI研究所には原子力発電所や空港のような多層的な安全対策が必要だと訴えている。
続きを読むOneStreamerは、ストリーミング動画におけるリアルタイム知覚、再利用可能な記憶、能動的な応答を統合する4Bモデルです。時間情報付きのキャプションとイベント要約を生成し、映像が直近の視覚ウィンドウから外れた後も事実を参照できるようにします。
続きを読む対話履歴を覚えているだけでは、エージェントが現在の世界を一貫して理解し、目標に近づいているとは限りません。PoSは推論時に明示的な信念状態を維持し、停滞やループ、逸脱を検出して回復を促します。
続きを読むAutoGUIWorldは、画像生成モデルの視覚的な事前知識とタスクプランナーを組み合わせ、実際のソフトウェアを起動せずにGUI操作軌跡を合成する。複数のOSやブラウザを対象としたデータで、コンピュータ操作エージェントの性能向上を検証した。
続きを読む新たな研究は、多くの事前学習済みTransformerが長い参照連鎖を処理できないのではなく、計算を途中で止めている可能性を示した。初期層にrank-8 LoRAを加えるだけで、凍結された中間層がより長い連鎖を運べるようになる。
続きを読むX-Treeは、エージェントの軌跡から繰り返し現れ、成功と結び付く行動のまとまりを自動抽出し、再利用可能な経験ツリーにまとめる手法です。LLMを追加で呼び出さず、オフライン強化学習、RLVR、自己蒸留に活用します。
続きを読むPhysVistaは、視覚言語モデルが映像の見た目を認識するだけでなく、物理的な一貫性を理解しているかを評価するベンチマークです。物理状態の知覚、力学的推論、物理的妥当性の判断を、実映像とAI生成映像で一体的に検証します。
続きを読む新しい研究は、ユーザーが変更・撤回した要件が回答やツール操作に残り続ける「意図ドリフト」を測定可能な失敗モードとして整理した。IntentFluxとStateForgeの評価から、明示的な状態管理は有効だが、単一ターンの性能を完全には取り戻せないことが示された。
続きを読むRouteFMは、LLMルーティングを環境ごとの再学習ではなく、再利用可能な基盤能力として捉える。匿名の候補モデルを少量の行動データから評価し、異なるタスクやモデルプールへ適応する。
続きを読むOpenTumorBoardは、公開された腫瘍ボードの記録を基に、専門医への応答と会議全体のシミュレーションを評価するベンチマークです。先端モデルであっても、専門家の回答や実際の合意を再現する能力には大きな差が残ることが示されました。
続きを読む音声LLMは命令を正しく認識しても、それが自分への呼びかけでなければ行動すべきではありません。VGBenchは、ツール実行前に対象者を判断できるかを評価します。
続きを読むNEEDLEは、既知のトリガーに結び付いた表現を狙って抑制しながら、通常の能力や拒否応答への影響を抑える学習不要の防御手法です。
続きを読むKaliBenchは、分析担当者の意図をKali Linux上で実行可能なコマンドへ変換する能力に焦点を当てたベンチマークです。ツール選択と引数構築を分離し、意味の正しさと実行可能性を検証します。
続きを読むRules to Toolsは、科学分野の自然言語要件を呼び出し可能な実行チェックへ変換し、LLMエージェントのコード修復を評価した研究です。修復率は一部のSciCodeコホートで向上しましたが、効果はタスク依存で、CPU使用量が増える場合もありました。
続きを読むWorld Observerは、行動主体の視点と観測者の視点を分離し、複数の視点を同時に生成する手法です。物体が行動主体の視野を離れた後も観測者側で変化を続けさせ、再び視野に入った際の状態と外観の一貫性を高めます。
続きを読むGraphForgeは、実際のファイルと証拠グラフを基盤に、実行可能で検証しやすいエージェント訓練タスクを合成するフレームワークです。作業空間、指示、評価基準を一つの証拠体系に結び付けます。
続きを読むPyRUA-Leanは、ロボットのプリミティブをPythonセル内で組み合わせ、条件判定や局所的な再試行を実行するフレームワークです。700件のシミュレーションで、同じLLM呼び出し予算のもと成功率を63.1%から71.7%へ高め、両方式が解けたタスクでは入力トークンを65%削減しました。
続きを読むArgo-Benchは、SQL生成の正しさだけでなく、大規模な企業データウェアハウスから事実を再構成し、分析結果に基づいて行動できるかを検証する。現在のモデルは、複数テーブルをまたぐ推論と業務上の意思決定でなお課題を抱えている。
続きを読むLOCIは、キー・バリューキャッシュと再帰的な線形メモリを組み合わせ、カメラが過去に見た場所へ戻った際の映像再現性を高める手法です。カメラの投影幾何を記憶の読み書きに利用し、長い動画をより少ないメモリで処理します。
続きを読むScholarCatalystは、単なる話題の近さではなく、研究プロジェクトを前進させ得る論文を検索できるかを評価するベンチマークです。研究著者による判定を用いた実験では、現在のAIエージェントは専門家の判断にまだ届いていません。
続きを読む