ジェンスン・フアン氏「AIの安全性は規制ではなく工学の問題」
NVIDIAのジェンスン・フアンCEOは、AIは人間が作ったハードウェアとソフトウェアであり、安全性は企業が工学的に確保すべきだと主張した。一方、市場の自律だけでは被害を防ぎきれないとの懸念もある。
続きを読むClaude API 中継局のガイド、検出の仕組み、LLM API の実測ノウハウ
全 2320 件の記事
RSS 購読NVIDIAのジェンスン・フアンCEOは、AIは人間が作ったハードウェアとソフトウェアであり、安全性は企業が工学的に確保すべきだと主張した。一方、市場の自律だけでは被害を防ぎきれないとの懸念もある。
続きを読むGrouped Value Attention(GVA)は、グループ化したValueを保存し、学習済みの線形写像からContent Keyを必要に応じて再構成する手法です。報告された構成では、GQAに近い精度を保ちながら、永続キャッシュのスカラー数を約45〜47%削減しました。
続きを読む新たな研究は、推論モデルが学習した規則を構造的に同値な課題へ移せるかを調べた。モデルは元の課題を解けても、要素の再結合や記号の置換を施した変形課題で失敗することが多かった。
続きを読む長時間動作するAIエージェントでは、目に見える失敗から離れた場所に本当の原因が隠れていることがあります。Continual Searchは、LLMの早すぎる判断を抑え、未確認の証拠を継続的に探します。
続きを読むLLMエージェントは推論中に解答を修正し、ツールを使い、別の可能性を探索できる。しかし、Tokenを増やせば性能が同じ割合で伸び続けるわけではない。新研究は、性能向上が鈍化する地点を「Elo-per-token」で分析した。
続きを読む新たな研究は、モデルやクリーンデータ、毒サンプル数を固定しても、選ぶ集合だけでLLMバックドア攻撃の成功率が大きく変わることを示した。SAILSは少数の実験から有望な毒集合を効率よく絞り込む。
続きを読むModaLensは、質問と放射線レポートを固定したまま画像だけを入れ替え、医療VLMが画像情報を利用しているかを監査する手法です。MedGemma-27Bでは、レポートがあると画像置換への感度が大きく低下しました。
続きを読む新しい研究は、LLMの強化学習で簡単な問題ほど伸びやすい「マタイ効果」を指摘した。Never Give Upは、正解できていない問題にサンプル生成を集中させる適応型手法である。
続きを読むニューヨーク・タイムズとシエナ大学の世論調査で、AI技術を支えるデータセンターの建設に米国の有権者の61%が反対した。環境や水使用、地域社会への影響、AIへの不信感が主な理由となっている。
続きを読むMetaは、Claude、Cursor、Codex、ChatGPTなどのAIコーディングエージェントをWhatsApp Business Platformに接続するMCPサーバーを公開した。アカウント開設からメッセージテンプレート、テスト、トラブルシューティングまで、対話形式で支援できる。
続きを読むAgility Roboticsは、人間と同じ作業空間で動けるよう安全機能を強化した人型ロボット「Digit 5」を発表した。人を検知すると、回避、停止、しゃがみ動作などを選択する。
続きを読むAI向けデータセンターの拡大により、米国のデータセンターは2035年までにドイツと日本を合わせた量を上回る天然ガスを消費する可能性があります。電力価格と排出量への影響が新たな課題になります。
続きを読むGoogle DeepMindは、リアルタイム音声対話、視覚的な文脈理解、並列推論、バックグラウンドでのツール実行を強化したGemini 3.8 LiveとExtended Thinkingを発表しました。開発者向けAPIのほか、Workspace、Search、Geminiの各サービスで順次展開されます。
続きを読むGoogleは多言語AIを単なる文字翻訳から、声の調子や感情、コードスイッチング、地域ごとの話し方まで理解する方向へ広げようとしている。音声モデル、地域コミュニティとのデータ収集、端末上で動くAIを組み合わせる取り組みだ。
続きを読むOpenAIは、AnthropicおよびGoogle DeepMindと数週間にわたり、フロンティアAIの安全性について協議してきたと認めた。第三者評価や業界標準が論点になる一方、米政権は中国との競争を理由に安全上の懸念を軽視している。
続きを読むAnthropic初期メンバーとMETR元COOが設立したAIUCが、AIエージェントの安全性を評価するため4000万ドルのシリーズAを調達した。ネットワークセキュリティ監査を参考に、企業向けの第三者評価基盤を構築する。
続きを読むPhysBrain 1.5は、視覚言語モデルを物理環境の理解、エンドエフェクタの動作生成、未来状態の予測まで扱う具身基盤モデルへ拡張する試みです。論文によれば、8Bモデルは28件の具身理解ベンチマークで平均72.5点を達成しました。
続きを読むZGCM-1は、数学推論とエージェント型検索を主な対象とする、ゼロから学習された完全公開の7B密モデルです。パラメータ数を増やす代わりに、内部推論、外部ツール、長文脈学習、効率的な開発運用を組み合わせています。
続きを読むVidu S2は、対話型デジタルアバターと動画ストリーム編集をリアルタイムで実行する2つのモデルで構成されます。生成中に指示や参照画像を更新し、映像を継続的に操作するワークフローを目指しています。
続きを読むブラウザや端末、ファイルシステムを操作するAIエージェントでは、危険性が生成文だけでなく一連の実行動作から生じる。HazardAuditorは実行イベントの標準化とGuardPOによって、この問題に対応しようとする。
続きを読むAgent as Policyは、汎用的なコーディングエージェントを実物のロボットに接続し、視覚観察から実行可能なプログラムを作成して動作を指示する仕組みです。現実の結果を再び読み取り、次の行動を修正することで、専用訓練なしの操作を目指します。
続きを読む