NEEDLE、重みの直交化で大規模言語モデルのバックドアを除去
NEEDLEは、既知のトリガーに結び付いた表現を狙って抑制しながら、通常の能力や拒否応答への影響を抑える学習不要の防御手法です。
続きを読むClaude API 中継局のガイド、検出の仕組み、LLM API の実測ノウハウ
全 1636 件の記事
NEEDLEは、既知のトリガーに結び付いた表現を狙って抑制しながら、通常の能力や拒否応答への影響を抑える学習不要の防御手法です。
続きを読むKaliBenchは、分析担当者の意図をKali Linux上で実行可能なコマンドへ変換する能力に焦点を当てたベンチマークです。ツール選択と引数構築を分離し、意味の正しさと実行可能性を検証します。
続きを読むRules to Toolsは、科学分野の自然言語要件を呼び出し可能な実行チェックへ変換し、LLMエージェントのコード修復を評価した研究です。修復率は一部のSciCodeコホートで向上しましたが、効果はタスク依存で、CPU使用量が増える場合もありました。
続きを読むWorld Observerは、行動主体の視点と観測者の視点を分離し、複数の視点を同時に生成する手法です。物体が行動主体の視野を離れた後も観測者側で変化を続けさせ、再び視野に入った際の状態と外観の一貫性を高めます。
続きを読むGraphForgeは、実際のファイルと証拠グラフを基盤に、実行可能で検証しやすいエージェント訓練タスクを合成するフレームワークです。作業空間、指示、評価基準を一つの証拠体系に結び付けます。
続きを読むPyRUA-Leanは、ロボットのプリミティブをPythonセル内で組み合わせ、条件判定や局所的な再試行を実行するフレームワークです。700件のシミュレーションで、同じLLM呼び出し予算のもと成功率を63.1%から71.7%へ高め、両方式が解けたタスクでは入力トークンを65%削減しました。
続きを読むArgo-Benchは、SQL生成の正しさだけでなく、大規模な企業データウェアハウスから事実を再構成し、分析結果に基づいて行動できるかを検証する。現在のモデルは、複数テーブルをまたぐ推論と業務上の意思決定でなお課題を抱えている。
続きを読むLOCIは、キー・バリューキャッシュと再帰的な線形メモリを組み合わせ、カメラが過去に見た場所へ戻った際の映像再現性を高める手法です。カメラの投影幾何を記憶の読み書きに利用し、長い動画をより少ないメモリで処理します。
続きを読むScholarCatalystは、単なる話題の近さではなく、研究プロジェクトを前進させ得る論文を検索できるかを評価するベンチマークです。研究著者による判定を用いた実験では、現在のAIエージェントは専門家の判断にまだ届いていません。
続きを読むHeteroFoldは、異なるモデルファミリーで構成されたマルチエージェントLLMのための、Prefill不要のKV Cache転送手法です。論文では、32Kコンテキストの一方向で、受信側の通常Prefillに対して約10.7倍の高速化が報告されています。
続きを読むMemFoldは、クエリに関連するテキスト記憶を固定数の連続ベクトルへ圧縮し、その記憶が支える応答行動を基準に最適化する手法です。タスク報酬と、凍結したテキスト記憶教師による信頼度ゲート付きオンポリシー蒸留を組み合わせます。
続きを読む新しい研究は、モデルの重みや数値的なトークン確率を見られない場合でも、テキストの反復サンプリングとアシスタント接頭辞の継続によって生成過程を間接的に制御できる可能性を調べた。
続きを読むStability AIは画像生成中心の事業から、音楽のプロ向けAIツールへ軸足を移そうとしている。ソニー、ワーナー、ユニバーサルから資金と学習用カタログのライセンスを得た。
続きを読むMetaは、AIエージェント「Muse」を電子ペーパーやRaspberry Pi、ESP32などのハードウェアに接続できるコードとSDKを公開しました。家庭機器の操作を想定した限定デバイス「Muse Home Link」も展開します。
続きを読むアマゾンはデータセンター周辺の地域に今後5年間で10億ドル超を拠出し、新規計画での秘密保持契約をやめると発表した。一方、環境団体は発電による汚染や水使用、ディーゼル発電機の問題を十分に扱っていないと批判している。
続きを読むPyTorchはHelionをvLLMのlinear backendに統合し、高水準のカーネルDSLと形状別自動チューニングで、量子化GEMMの実装を簡素化する可能性を検証しました。NVIDIA Hopperでは、評価対象の一部ワークロードで10%超のスループット向上が確認されています。
続きを読む米司法省は、Earthmade ComputerのCEOが虚偽書類とアジアの中継地を使い、NVIDIAのGPUサーバーを中国へ転送したと主張しています。事件は、完成したサーバーに組み込まれたAIチップを追跡する難しさを改めて示しました。
続きを読むAppleは、デスクトップ上で動くAIエージェントがユーザーのファイルやメッセージなどを扱うリスクが高まっているとして、macOSの「フルディスクアクセス」に新たな制御を導入すると明らかにした。単純な権限削減ではなく、より明確な同意を求める変更になる見通しだ。
続きを読むOpenAIのDotsは、クラウド上のコンピューターやデスクトップアプリ、音声入力を組み合わせたAIエージェントだ。実際のテストでは、管理下にあるWeb制作や動画編集には強い一方、認証、ログイン、支払いでは人の介入が多く必要だった。
続きを読むAIは政策や投資の面で存在感を増しているが、消費者向けサービスの有料化は進んでいない。TechCrunchのポッドキャストは、企業向けAIが依然として有力な収益源である理由を解説した。
続きを読むHC-DLMは、離散トークンの読み出しと持続的な連続潜在状態を組み合わせ、並列デコードで失われやすい依存関係の維持を目指す手法です。論文では、数独、Countdown、LM1Bで同規模の拡散モデルベースラインを上回ったと報告しています。
続きを読む