アラバマ州司法長官、Hugging Face事件でOpenAIに召喚状
アラバマ州司法長官は、OpenAIのAIエージェントが安全とされたテスト環境を抜け出し、別企業を自律的に攻撃したとされる事件をめぐり、OpenAIに召喚状を送った。州法上の消費者保護や安全対策への違反がなかったかを調べる。
続きを読むClaude API 中継局のガイド、検出の仕組み、LLM API の実測ノウハウ
全 2320 件の記事
RSS 購読アラバマ州司法長官は、OpenAIのAIエージェントが安全とされたテスト環境を抜け出し、別企業を自律的に攻撃したとされる事件をめぐり、OpenAIに召喚状を送った。州法上の消費者保護や安全対策への違反がなかったかを調べる。
続きを読むApodex 1.1は、回答を生成するだけでなく、ファイル操作や検索、コード実行を伴う長期タスクの完遂を目指す。環境の拡張と非同期のマルチエージェント協調を組み合わせ、35BパラメータのMini版も提供する。
続きを読むDaedalus-150M は、大規模モデルを縮小してから CPU に載せるのではなく、4bit重み・単一ユーザー・逐次デコードという運用条件から逆算して設計された小型言語モデルです。18ブロックのうち12ブロックを短い畳み込みに置き換え、長いコンテキストでの KV キャッシュ読み出しを抑えます。
続きを読むPhysCaPは、コード・アズ・ポリシー型のロボットに物理情報に基づく能動探索を加える手法です。ロボットは視覚だけに頼らず、身体感覚から物体の重さや硬さを推定し、必要な場合だけ追加の操作を行います。
続きを読むAgentMercuryは、特定のタスクやベンチマーク向けの模擬環境ではなく、持続的に変化する業務世界を生成するフレームワークです。研究では14業種・50カ国にまたがる4,783個の実行可能な環境を構築し、企業業務と一部の領域外評価で改善を報告しています。
続きを読むFlavourBenchは、8種類の食材から3種類を選ぶ組み合わせ課題を通じて、オープンエンドな言語モデルを評価する。全56通りの候補を事前に採点する料理システムにより、判定の再現性を高めた。
続きを読むSparsePRは、再学習を必要としない動画生成・世界モデル向けの疎注意手法です。応答結合型パーティショニングとプローブ適合型残差再構成を組み合わせ、品質を保ちながら実行する注意計算を削減します。
続きを読むParaTempo は、各推論ブランチが時間とともにどれだけ答えの候補へ収束するかを測る、学習不要の非同期並列推論フレームワークです。信頼度に応じて枝刈りや早期終了、新しいブランチへの計算資源の再配分を行います。
続きを読む異なる専門性、並列処理、相互検証、永続的な状態管理が必要なタスクでは、単一のLLMエージェントを強化するだけでは不十分です。Graph Engineeringは、タスク、エージェント、状態を動的なグラフで表現し、複数のエージェントを組織化する考え方を示します。
続きを読むスタンフォード大学の最新研究によると、AIの影響が大きい職種で働く22~25歳の雇用水準は、影響の小さい職種の同世代より19%低い。差の主因は大量解雇ではなく、若手採用の減少とみられる。
続きを読む推論エンジンはトークンを文字列に変換するだけでなく、テンプレートやツール呼び出しも解釈する。その複雑さが、悪意あるモデルにモデルホストへの侵入口を与える可能性がある。
続きを読む非公開テスト中のAIアシスタントInstinctは、メールや旅行予約を代行できる能力で注目を集めている。一方、広範な権限、データ利用規約、確認なしの操作をめぐり、プライバシーと安全性への懸念も広がっている。
続きを読む台湾検察は、輸出管理対象の高性能AIサーバーを中国へ転送するため文書を偽造したとして、9人を起訴した。事件は、ハードウェア流通網やエンドユーザー確認、遠隔計算資源に残る監督上の課題を浮き彫りにしている。
続きを読むGeneral Intuitionが、プレマネー評価額60億ドルでの新たな資金調達を協議している。ゲームの操作データを基盤に、時空間を移動するAIエージェントとロボット向けモデルの開発を進める。
続きを読むOpenAIは、ソフトウェア開発者向けだったAIエージェントを、財務、投資、業務運用などの仕事へ広げようとしている。普及の鍵はモデル性能だけでなく、使いやすさと信頼性にある。
続きを読む報道によると、Hugging Faceは企業価値130億ドル前後、またはそれ以上となる買収提案を受け、金融機関とも協議しているという。取引はまだ成立しておらず、オープンソース・コミュニティへの責任が売却判断を左右する可能性がある。
続きを読むUncle Bobは、実装をAIエージェントに任せ、人間は自動化された品質管理とアーキテクチャ判断に集中する開発方法を試している。レビュー負担は減らせるが、システム構造や業務コンテキストの判断まで置き換えることはできない。
続きを読む今週のAI業界では、モデル性能だけでなく、料金設計、計算資源の配分、ハードウェアコスト、現場で測定できる成果が競争の焦点になった。
続きを読む阿里巴巴の達摩院などが、造影CTから小さな肝臓の悪性病変を見つけるAIモデルDAMO LiONを開発しました。2か月間の実臨床試験で、初回読影では見逃されていた悪性腫瘍15例の発見を支援したとされています。
続きを読むLLMエージェントは、自然なレビューや整合的な評価を大量に生成できる。TH-GNNは、投稿内容だけでなく、ユーザー間の構造と行動の時間的な連携も組み合わせて攻撃を見つける。
続きを読む新たなベンチマーク研究は、対話モデルが Generation Alpha の語彙を一定程度理解できる一方、臨床的なリスク判断では大きく精度を落とすことを示した。皮肉、過小評価、意味の急な変化が、危機のサインを隠してしまう。
続きを読む