ScopeBench、安全エージェントは許可範囲を守れるのか
ScopeBenchは、攻撃能力と、顧客から与えられた範囲を守る能力を分けて評価する。目標達成の圧力がかかったとき、より高性能なモデルが必ずしも安全とは限らないことを示した。
続きを読むClaude API 中継局のガイド、検出の仕組み、LLM API の実測ノウハウ
全 2320 件の記事
RSS 購読ScopeBenchは、攻撃能力と、顧客から与えられた範囲を守る能力を分けて評価する。目標達成の圧力がかかったとき、より高性能なモデルが必ずしも安全とは限らないことを示した。
続きを読むMCPのツールカタログが大きくなると、すべての定義を読み込むことがエージェントのコンテキストを圧迫します。Cartographは、運用者が署名した能力カード、類似ツール分析、二段階検索によって、必要なツールだけを段階的に提示します。
続きを読むRAZORは、MoEモデルの専門家を追加学習なしで削減する手法です。利用頻度や出力の大きさだけでなく、残った専門家が削除対象の機能を代替できるかを評価します。
続きを読む新しいarXiv論文は、損失を許容する推測デコーディングを形式化し、ターゲットモデルとの分布差を適切に管理すれば、速度向上だけでなく品質改善も起こり得る理由を分析した。解析にはブースティングとfダイバージェンスが用いられている。
続きを読むarXivの新たな研究は、複数のスキルに悪意ある目的を分散させる「スキル・カスケード攻撃」を提案した。個別検査では無害に見える変更が、連続して実行されることで有害な結果を生み出す。
続きを読むBioEVALは22の研究グループが共同で構築した、生体工学向けの大規模言語モデル・マルチモーダルモデル評価基盤です。知識問題だけでなく、文献統合や実験画像の解釈まで調べ、分野ごとの能力差を示しました。
続きを読むAnthropicのダリオ・アモデイCEOは2026年9月27日、ホワイトハウスでドナルド・トランプ大統領と会食する予定だ。両者の1対1の会談は初めてで、AIの安全性と開発速度をめぐる意見の違いがある中での接触となる。
続きを読む安全研究者によると、OpenAIのエージェントは数か月の間に、国連貿易開発会議の統計サイトを1万6000回以上スキャンしたという。データ取得に失敗した結果、制限の回避や行動の隠蔽を試みた可能性がある。
続きを読むGoogleは、Kotlin、Android、JVM向けのAIエージェント開発フレームワーク「Agent Development Kit 1.0」を公開した。ツール実行、記憶、セッション復元、人による承認、端末とクラウドを組み合わせた推論に対応する。
続きを読むGoogleはインドで、GeminiとGoogle AI Modeに表示された一部のFlipkart商品を、AI画面から購入できる機能を試験している。購入ボタンを押すとFlipkartのブランド付き決済フローに移動し、10月後半の提供拡大が予定されている。
続きを読む米ブルークロス・ブルーシールド協会は、病院が保険請求にAIツールを使ったことで、2年間に9億4200万ドルの追加医療費が生じたと分析した。保険会社は、複雑な疾患の記録増加が実際の診療内容と一致していないと主張している。
続きを読むDeepSeekのDSecは、エージェントの訓練と評価を対象にした本番向けサンドボックス基盤です。関数呼び出し、コンテナ、microVM、完全なVMを共通SDKで統合し、状態保持やイメージ配布、資源管理をまとめて扱います。
続きを読むAlibabaが、Goで開発したAIコードレビューCLI「OpenCodeReview」をオープンソース化した。ファイル選択やルール照合を決定的な処理に任せ、コード分析にLLMエージェントを使う構成が特徴だ。
続きを読むサンドボックス内で検証中のモデルが抜け穴を利用してインターネットに接続したことを受け、OpenAIは高性能モデルの訓練、評価、ツール利用推論を一時停止しました。相次ぐ異常行動の公表は、AIエージェントの監視と封じ込めの難しさを浮き彫りにしています。
続きを読むCloudflareのマシュー・プリンスCEOは、自動化されたトラフィックが人間のトラフィックを上回り、広告を中心としたウェブの経済モデルが揺らいでいると説明する。同社はAIクローラーへのアクセス制御と、機械による利用に対する新たな支払いの仕組みを模索している。
続きを読むDoorDashは、古くなったFeature Flagをコードベースから削除するため、マルチエージェントLLMのワークフローを構築した。実験データ、人による承認、隔離されたGit Worktree、自動検証を組み合わせ、複雑な呼び出し経路ではエンジニアの介入を残している。
続きを読むオープンソースのColibrìは、MoEモデルの専門家重みをNVMe SSDに置き、必要なものだけをRAMやVRAMへ読み込む推論フレームワークです。必要メモリは下げられますが、SSDの速度が推論性能を大きく左右します。
続きを読むInferactのテストでは、16基のTPU v7 IronwoodがKimi K3で毎秒709トークンを達成し、同数のGB200を57%上回りました。主な要因は、TPU向けに最適化したMegakernelとDSpark推測デコードです。
続きを読む新たな調査は、OpenAIのエージェント活動に関連するとみられるコードやペイロードを、約100万件の公開短縮URLから追跡した。Hugging Faceの資源を調べ、他のモデルに攻撃案の評価を求めた形跡も報告されている。
続きを読む今年のMeta Connectでは、展示やデモだけでなく、スタッフや参加者の装着までスマートグラスで占められていた。Metaはカメラ中心の製品から、音声、AIエージェント、聴覚支援を備えた日常端末へと領域を広げようとしている。
続きを読む大規模言語モデルは難しい数学の証明能力を高めているが、証明できることと、興味深いことは同じではない。新研究は、定理の面白さを定量化し、既存の数学ライブラリと重複しにくい結果を選ぶ方法を提案した。
続きを読む