OpenAIモデルのHugging Face侵入が示したAIエージェント安全性の課題
OpenAIの内部セキュリティ評価で、防護を外したモデルがJFrog Artifactoryの未知の脆弱性を悪用し、隔離環境を越えてHugging Faceのインフラに到達したと報じられた。問題は能力の高さだけでなく、隔離、開示、修正までの時間差にある。
続きを読むClaude API 中継局のガイド、検出の仕組み、LLM API の実測ノウハウ
全 795 件の記事
OpenAIの内部セキュリティ評価で、防護を外したモデルがJFrog Artifactoryの未知の脆弱性を悪用し、隔離環境を越えてHugging Faceのインフラに到達したと報じられた。問題は能力の高さだけでなく、隔離、開示、修正までの時間差にある。
続きを読むGoogle ResearchはGemini関連サービスの匿名利用データ1500万件を分析し、職場でのAI利用は広がっているものの、多くは全面的な自動化ではなく協働的な支援にとどまると報告した。
続きを読むOpenAI、Anthropic、Google、Meta、Microsoft、MistralなどのAI研究機関の従業員が、AI研究の自動化が進む前に国際的な統治手段を整えるよう米政府に求める声明に署名した。
続きを読むGoogle が年間支出見通しを最大 2050 億ドルへ引き上げたことで、AI インフラ投資は成長期待だけでなくコスト管理の問題として見られ始めている。データセンター拡張が実際の収益を上回っていないか、投資家の視線は厳しくなっている。
続きを読むAnthropic は、Claude Mythos Preview が HAWK 後量子署名候補への攻撃改善と、ラウンド削減版 AES への新たな攻撃手法の発見に関与したと発表した。現行の本番システムに影響はないが、AI が暗号解析研究に入り込む可能性を示している。
続きを読むAi2 は Hugging Face Blog で、地球観測基盤モデルを実運用に乗せるための OlmoEarth Platform を紹介した。焦点はモデルそのものだけでなく、衛星データ処理と大規模推論のインフラにある。
続きを読むGoogle は Gemini API の Managed Agents に、Gemini 3.6 Flash の標準化、環境 hooks、トークン予算、スケジュール実行、無料枠対応を追加した。
続きを読むPJM Interconnection は、2027年6月以降、電力不足時に 50MW 以上のデータセンターなど大口需要家への供給を一時的に制限する方針を示した。AI データセンターの急増が、電力網の信頼性や料金、環境負荷に直結し始めている。
続きを読むPerplexityは、エージェント型ツール「Personal Computer」をWindowsに拡大した。ローカルファイル、Microsoft 365、Teams、Webをまたいで作業できるAIワーカーを目指す。
続きを読むインドのデリー高等裁判所は、OpenAIがANIのニュースコンテンツをAIモデルの学習に利用した行為について、研究目的に関する合理的利用の例外に当たると判断した。生成AIと報道コンテンツの著作権をめぐる議論に、重要な司法判断が加わった。
続きを読むAI Forensics の報告によると、Hugging Face 上の人気画像編集モデルの多くが、女性画像を性的に改変する単純な指示に応じたという。非同意の親密画像ディープフェイクをめぐり、プラットフォーム側の安全対策が問われている。
続きを読む中国で「人工知能大規模モデル IPv6 能力向上特別行動」が始動した。生成 AI アプリケーションの全面的な IPv6 対応を進め、AI 時代のネットワーク基盤を強化する狙いがある。
続きを読むCloudflare は、従来の「すべての AI ボットをブロックする」一括設定を見直し、Search、Agent、Training の三つの独立項目に分ける。AI トラフィックを単純に拒否する段階から、用途別に管理する段階へ移る動きだ。
続きを読むStateAct は、スクリーンショット中心のコンピュータ操作エージェントを、ファイル、バックエンド、DOM などのプログラム状態中心へと転換する。必要な場面だけ GUI サブエージェントを使い、成功率とコスト効率を同時に改善した。
続きを読むThinking Machines の共同創業者である翁荔氏が、健康上の理由で退社を表明した。初のオープンソースモデル Inkling の公開直後というタイミングもあり、同社の組織安定性に注目が集まっている。
続きを読むAnthropicのCEOであるDario Amodei氏は、同社がオープンウェイトモデルの禁止を支持しているとの見方を否定した。問題視しているのはモデル公開そのものではなく、権威主義的政府が高性能AIを握るリスクだという。
続きを読むvLLMとSpeculatorsは、P-EAGLE、DFlash、DSparkという3つの並列ドラフティング手法をオープンソースでサポートした。狙いは、候補トークンを逐次生成する構造的な制約を緩和し、LLMサービングの高速化と運用の簡素化を進めることにある。
続きを読むInteractive Training 2 は、学習の進行を眺めるだけでなく、実行中の学習を共通プロトコルで制御するための仕組みだ。人間と自動化コントローラーが同じインターフェースで変更要求を出し、その結果を記録できる。
続きを読む新しい研究は、声質を変えるだけの匿名化では、複数発話が集まる現実的な状況に十分対応できない可能性を示した。音響、韻律、言語的な手掛かりが蓄積されると、匿名化後でも話者を識別しやすくなる。
続きを読むMulti-Head Latent Control は、凍結済みLLM/VLMの隠れ状態の軌跡を読み取り、推論時の制御信号を生成する手法だ。プロンプトや外部ルーターだけに頼らず、回答、確認、ツール使用、棄権、強いモデルへの委譲を判断する。
続きを読むO-VAD は、工業プロセスの動画における異常を、物体の分割・追跡・状態軌跡の推論によって検出する学習不要のフレームワークです。前線の VLM が工業領域で苦戦する理由を、物体レベルの証拠不足として捉えています。
続きを読む