Anthropic、AI安全性を自動改善する研究システムの初期例を公開
Anthropicの新しい論文は、文献検索から手法の提案、学習、評価までを自動化するアラインメント研究システムを紹介した。10種類のミスアラインメント行動ベンチマークすべてで性能を改善し、全体性能の低下は報告されていない。
続きを読むClaude API 中継局のガイド、検出の仕組み、LLM API の実測ノウハウ
全 775 件の記事
Anthropicの新しい論文は、文献検索から手法の提案、学習、評価までを自動化するアラインメント研究システムを紹介した。10種類のミスアラインメント行動ベンチマークすべてで性能を改善し、全体性能の低下は報告されていない。
続きを読むHugging Face、Poolside、OpenRouterを巡る大型取引の報道は、オープンウェイトAIが単なるモデル共有ではなく、重要なインフラ事業になりつつあることを示している。半導体企業やソフトウェア企業は、開発者と推論の入り口を競い始めた。
続きを読むAnthropicが致死性の自律兵器や米国民の大規模監視への利用制限を緩和しなかったことを受け、トランプ政権が同社を政府調達から排除した措置について、連邦判事が違法な報復だったと判断した。
続きを読む米環境保護庁(EPA)は、一部の「小規模」汚染源について、連邦レベルでの公示と意見募集を不要にする規則変更を提案している。環境団体は、データセンターや関連発電設備が地域住民の十分な監視なしに建設される可能性を懸念している。
続きを読むMetaは、録画中に安全表示LEDが覆われるとカメラを停止する更新をAIグラスに導入する。明らかな回避方法はふさがれるが、同意のない撮影やデータ処理をめぐる懸念は解消されない。
続きを読むLinkedInは既製のAIレビューツールをそのまま導入するのではなく、複数のレビューエージェントと組織固有のルールを組み合わせた基盤を構築した。狙いはコメント数の最大化ではなく、幻覚や低価値な指摘を抑え、開発者に採用されるレビューを増やすことにある。
続きを読むCloudflareは、HTML抽出やスクリーンショットなどの自動化処理を想定した実験的なブラウザーエンジン「Kitesurf」を公開した。Chromiumの代替にはまだ至らないが、AIエージェント向けにブラウザーの役割を絞り込む試みだ。
続きを読む新しい論文は、世界モデルの拡張にはウェブ動画の追加だけでなく、根拠のある報酬信号を継続的に生む仕組みが必要だと論じています。ゲームエンジンは、空間モデルの強化学習後学習に実行可能な環境と長期軌跡を提供できる可能性があります。
続きを読むGameWAM は、ゲーム画面の未来予測と実行可能なキーボード・マウス軌跡の生成を一つの閉ループに統合します。長期タスクの再計画に加え、生成アクションに生じる方向バイアスも分析します。
続きを読む米カリフォルニア州の連邦判事は、トランプ政権によるAnthropicの「供給網リスク」指定を違法と判断した。ワシントンD.C.で続く別の国防総省訴訟はなお係争中だ。
続きを読むMetaのインド・東南アジア担当副社長サンディヤ・デヴァナタン氏が、10年以上在籍したMetaを離れ、OpenAIに加わる。東南アジアとオーストラリアで消費者成長、企業導入、提携、規制対応を統括する。
続きを読むテンセント混元が、総パラメータ770B、アクティブパラメータ4.9B、コンテキスト長100万のHy4 previewを発表した。複数のプラットフォームで公開され、ゲームエンジンやMCPとの連携を含むエージェント用途も示されている。
続きを読む云知声が発表した2026年上期の業績では、企業向けインテリジェントサービスが売上の中心を維持する一方、Token課金も急速に伸びた。今後の焦点は、導入支援の重い事業をどこまで再利用可能な形にできるかだ。
続きを読むAnthropicは、AIエージェントがロボットアームや顕微鏡、実験機器を発見・操作するための「Model Hardware Standard(MHS)」研究プレビューを公開した。Claudeに固定された身体を与えるのではなく、接続された機器を必要に応じて使う発想だ。
続きを読む高徳は、直近12フレームの局所コンテキストだけを使って長い映像から3Dシーンを逐次再構築するモデル「ABot-Recon」を発表した。長期記憶への依存を避け、誤差の蓄積や推論速度の低下、メモリ使用量の増大に対応する設計を採用している。
続きを読む米連邦裁判所は、国防総省がAnthropicを「サプライチェーン上のリスク」に指定した措置を違憲と判断した。軍事AIの利用範囲をめぐる同社の主張に対する違法な報復だったと認定した。
続きを読むVGI-Benchは、動画生成モデルを画質だけでなく、変化する視覚プロセスの論理に基づいて評価する。現在のモデルには一定の推論能力がある一方、信頼性には大きな課題が残ることが示された。
続きを読むWarpSAC は、オフポリシー強化学習で常に同じ安定化手法を使うべきではないと指摘する。データが限られた CPU 学習向けと、大量データを生成できる GPU 並列学習向けに、異なる SAC 構成を提案した。
続きを読むJIT-Agentは、エージェントの記憶、計画、行動プロトコル、ツール連携を生成可能な実行基盤として扱う。タスクに応じたカスタマイズだけでなく、失敗時の修復と過去の設定からの進化も目指す。
続きを読むVideo-IFBenchは、動画を正しく理解できるかだけでなく、視覚・音声・意味・形式・条件分岐を含む複雑な指示を守れるかを評価する。20以上の近年のMLLMを対象にした評価では、動画における指示追従の難しさが示された。
続きを読むAnTrapは、解決可能なAndroidタスクの実行途中に現実的な実行時異常を注入し、GUIエージェントの頑健性を評価する。調査では多くのモデルで性能が低下し、学習で修正できる罠と、深い推論限界に由来する失敗が分かれた。
続きを読む