RAG・検索

UNREALは、凍結した大規模言語モデルの内部表現を使い、コーパス検索と長文脈推論を同じ証拠選択機構で処理する手法です。大規模Wikipedia検索と超長文脈ベンチマークの双方で改善を報告しています。

CANOPYは、検索されたテキストや表、動画などを階層構造として表現し、質問に対する関連度に応じて保持する範囲を調整する。証拠が足りない場合は、追加のターゲット検索も実行する。

ScholarCatalystは、単なる話題の近さではなく、研究プロジェクトを前進させ得る論文を検索できるかを評価するベンチマークです。研究著者による判定を用いた実験では、現在のAIエージェントは専門家の判断にまだ届いていません。

密な検索における共有射影とデュアル射影の選択を、バイアスと分散の観点から分析した研究が発表されました。データ量が増える場合やクエリと文書の幾何がずれる場合、デュアル射影の利点が大きくなることを示しています。

D-RACはPDF、Word、プレゼンテーション、表計算、スキャン文書をいったんPDFに正規化し、1回のマルチモーダル処理で検索向けMarkdownへ変換します。その後のチャンク計画は本文ではなく要素ID上で行われます。

SELF-INDEXは、検索失敗の診断やインデックスの再構築を人手に依存せず、自律的に改善するためのフレームワークです。インデックスキーを選択的に修正し、クエリシミュレーターで未知の需要も探索します。

GLIE は、視覚文書のページ表現が多数のベクトルで構成されていても、実際には低次元の構造に集中していることに着目する。少数の正規化ベクトルを検索と完全表現の再生成の両方に利用する。

OreoLookは、会話コンテキスト、意味的に類似した検索クエリ、URL埋め込みを対象にした三層キャッシュを提案する。検索やキャッシュは一般的なCPUサーバーで動かし、最終的な回答合成は外部推論プロバイダーに委ねる構成だ。

RAGの失敗は、必要な情報が見つからない場合だけでなく、検索された文書同士が食い違う場合にも起こります。新たな研究は、言語モデルの内部信号を読み取り、回答可能・情報不足・情報矛盾を生成前に判定する方法を検討しました。

音声によるマルチホップ質問応答では、より高度な検索構造が絶対的な性能を高める一方、上流の音声認識誤りを増幅する可能性がある。特に、質問中のエンティティの誤認識が大きな失敗要因となっている。

Accelが主導した2,600万ドルのシードラウンドを得て、Keenableがステルスモードを終了した。同社はAI向けに設計した1,000億件超のウェブ文書インデックスを構築し、検索APIを提供しているという。

Amazon DynamoDBがネイティブのベクトル検索に対応し、埋め込みベクトルと業務データを同じテーブルに保存できるようになった。AIアプリの構成は簡素化できるが、専用ベクトルデータベースが直ちに不要になるわけではない。

固定された文書集合について、推論時に検索結果を与えず回答するための新しい後学習手法として、IARが提案された。文書知識の注入、QA行動への整合、汎用能力の回復を分離して最適化する。

Googleは、読者が特定の媒体を優先的に表示できる「Preferred Sources」ボタンを、出版社が自社サイトに設置できるようにする。検索やAIの回答画面からウェブサイトへのクリックが減る中、媒体に新たな流入獲得手段を提供する狙いだ。

RAGへの汚染攻撃は、モデルを不確かな状態にするのではなく、誤った情報に対して過剰な確信を持たせることがある。新たな研究は、生成中の文書レベルの注意エントロピーを追跡するD-SCANを提案した。

Shopifyは第2四半期の決算説明で、AI検索が従来検索を置き換えるのではなく、加盟店への流入と注文を増やしていると述べた。AI由来のトラフィックと注文は前年同期比で3倍になったという。

DeepVoyager-VL は、画像を最初に見るだけの多モーダル検索から、視覚情報が検索と推論を継続的に導く仕組みへ進めようとする研究です。長い探索過程で、画像証拠を中間判断に使う点が特徴です。

Alibaba-NLP の UEmbed は、decoder-only のマルチモーダル埋め込みモデルで、疎な語彙表現と密なベクトルを1回の因果順伝播で生成する。検索、RAG、マルチモーダル検索における分断された表現設計を統合しようとする研究だ。

RedditのSteve Huffman CEOは、GoogleのAI Overviewsが従来の検索リンクほどオープンウェブに価値を返していないと疑問を呈した。好調な決算にもかかわらず、検索流入の不安定さが投資家の懸念を招いた。

RAG の検索方式を同一条件で比較した研究は、コーパスが大きくなるほど BM25 の優位性が高まることを示した。小規模では File-System Agent が先行するが、約 1000 万コーパストークン付近で BM25 が逆転する。

TechCrunchが紹介したSimilarwebのデータによると、GoogleのAI Overviewsは検索の43%に表示されるようになった。1年前の15%から大きく伸び、AI回答が検索の中心になりつつある。