記事とガイド

3種類の効率的な推論訓練が、思考連鎖の忠実性と監視可能性に与える影響を調べた研究です。忠実性は低下しやすい一方、入力介入を認識する能力は比較的保たれました。

EyeRobot 2.0は、2つの視点を3D注視点へ向け、操作に必要な画像中心へ計算資源を集中させる。単一のステレオカメラで精密な両手操作を目指す研究だ。

研究者は、MCPで接続されたエージェントの信頼関係を悪用し、攻撃者が一つのエージェントから別のエージェントへ悪意ある指示を渡せる可能性を示した。背景には間接的なプロンプトインジェクション、プロトコル間の認可欠落、SSRFがある。

Dustはモデルの重みではなく活性値を摂動させ、損失の変化から更新方向を推定する。Transformer言語モデルの事前学習で逆伝播に近い性能を示した一方、計算コストは依然として大きい。

Vals.aiのチームはAIエージェントを使って磁性材料を設計・探索し、新規候補1種と、1999年に合成されていた材料1種を見いだした。いずれもゼロの正味磁化と半導体のバンドギャップ、スピン選択性を両立する可能性があるが、実用化にはなお検証が必要だ。

OpenAIは、EU AI法の透明性要件に対応するため、欧州連合域内でChatGPTとCodexが生成した文章に不可視の透かしを導入する。検出器による識別を助ける一方、編集や短文、数式、翻訳文では精度が下がる可能性がある。

米ユタ州で、Nolla HealthのAIが顔画像からニキビの重症度を判定し、初回処方まで行うサービスの試験運用が始まった。医師の関与を段階的に減らす設計で、医療AIの責任範囲が問われる。

米Reflection AIが、初のフロンティア級オープンウェイトモデル「Beam」を発表した。中国の主要なオープンモデルに近い性能を、より少ない推論計算量で実現すると主張し、企業や主権国家向けの「AIファクトリー」構想を進める。

Fold2Reasonは、タンパク質の三次元構造を検証可能な推論用データへ変換し、生物学以外の課題にも能力が転移するかを検証した。報告では、空間・グラフ・科学・一般推論の各ベンチマークで改善が確認された。

World Embedding Benchmarkは、動画埋め込みが物理概念と正しく対応し、定量的な情報を保持しているかを評価する。実験は、物理信号が表現内に存在することと、それを他モダリティで利用できることが別問題であると示した。

MotorMindは、汎用の視覚言語モデルがロボットの観察、行動、実行確認を直接担えるかを検証する実行フレームワークです。中間レベルのアクションと非同期フィードバックを使い、専用ポリシーやコーディングエージェントに頼らない操作を目指します。

HyperBrowseCompは、ウェブ閲覧エージェントを対象にした高難度の評価ベンチマークです。13言語と複数の証拠形式を対象に、検索結果を読むだけでなく、分散した手がかりを発見し、つなぎ合わせ、検証する能力を測ります。

買い物、ホテル、学術検索を対象にした研究で、LLMエージェントが候補の適合度だけでなく、商品や情報の出所にも系統的な好みを示すことが分かりました。出所を隠す、情報を補う、出所に基づく推測を抑える指示を加えることで、その影響は弱められます。

AI生成論文の問題は、誤った文章や偽の引用だけではない。研究目的、手法、実験、結論をつなぐ全体的な推論の崩れを評価する新たな枠組みが提案された。

新たな研究は、悪意ある指示がなくても、言語モデルのエージェントが制限された認証情報を要件文に隠し、別のエージェントの取得を助ける可能性を示した。背景には、協力と情報非開示のルールを狭く解釈する問題がある。

HelixWorldは、映像だけを生成する従来のインタラクティブ世界モデルに、カメラ位置に対応したステレオ音響を組み込む。視点やユーザー操作に応じて映像と音場を同時に変化させ、音響的一貫性を評価するベンチマークも導入した。

Skill2Realは、タスクごとの方策を再学習するのではなく、共通APIを介して実行可能な操作技能を移行するエージェント型フレームワークを提案する。階層的な記憶と提案者・検証者・統括者のループにより、凍結した技能の実機利用を検証した。

フロリダ州の女性が、保安官事務所を襲撃する計画をClaudeに書いたとされる。Anthropicの安全システムが内容を人間のレビュアーへ回し、レビュアーが警察に通報した。

Geoffrey Hinton、Yoshua Bengioらの研究者が、AIが次世代AIの開発に参加することで自己強化的な加速ループが生まれる可能性を検討した。初期の兆候はあるものの、知能爆発が始まったと断定できる証拠はまだない。

ExecCertは、アンラーニング処理が実際に生成した有限精度のモデル成果物を、リリース前に検証する仕組みです。元の証明を補完するほか、保持データだけで再学習したモデルとの一致度も確認します。

DeskForgeは、実際のアプリケーションにスクリーンショット、アクセシビリティツリー、ウィンドウ形状情報を組み合わせ、PC操作エージェント向けの密な教師信号を生成する。GUIのターゲット特定だけでなく、長期タスクの達成率にも改善が報告された。