記事とガイド

メモリ・コンテキスト

Claude API 中継局のガイド、検出の仕組み、LLM API の実測ノウハウ

全 48 件の記事

CCTest · Blog
ReflectWorld-MM、動画記憶を「フレーム」から「実体」へ
メモリ・コンテキスト
cctest.ai

ReflectWorld-MM、動画記憶を「フレーム」から「実体」へ

ReflectWorld-MM は、連続する動画の中で誰が何度現れ、何が変わったのかを、実体単位で記憶することを狙った研究です。動画を切り出して保存する発想から、世界の出来事を整理して覚える発想へと移っています。

続きを読む
CCTest · Blog
RecGPT-V3:推薦システムを「履歴の再生」から「記憶する意図理解」へ
メモリ・コンテキスト
cctest.ai

RecGPT-V3:推薦システムを「履歴の再生」から「記憶する意図理解」へ

RecGPT-V3 は、ユーザー記憶、Semantic IDs による商品 grounding、潜在トークンによる効率的推論を組み合わせた産業向け LLM 推薦システムです。淘宝の「Guess What You Like」フィードで、GMV +3.97% と serving リソース消費 52.4% 削減が報告されています。

続きを読む
CCTest · Blog
xHC:Transformer の残差ストリームを N=16 へ拡張する試み
メモリ・コンテキスト
cctest.ai

xHC:Transformer の残差ストリームを N=16 へ拡張する試み

xHC は、Hyper-Connections を N=4 の壁の先へ進め、残差ストリーム幅を大規模言語モデルの新しいスケーリング軸として扱う研究です。N=16 の状態を保ちながら一部のストリームだけを更新することで、性能向上と計算コスト抑制の両立を狙います。

続きを読む
CCTest · Blog
KV Cache を“接ぎ木”する:凍結小型モデルに検証済み知識を再利用させる手法
メモリ・コンテキスト
cctest.ai

KV Cache を“接ぎ木”する:凍結小型モデルに検証済み知識を再利用させる手法

新しい論文は、検証済みの知識をバイト単位で一致する KV Cache 状態として保存し、後の推論に接ぎ木する方法を提案している。繰り返し問題では大きな効率化を示す一方、再現性と能力向上の解釈には注意が必要だ。

続きを読む
CCTest · Blog
KV Cache 圧縮の落とし穴:構造トークンを残しすぎる推論バイアス
メモリ・コンテキスト
cctest.ai

KV Cache 圧縮の落とし穴:構造トークンを残しすぎる推論バイアス

arXiv の新論文は、注意重みに基づく KV Cache 退避が、ネストした JSON のような構造密度の高い入力で構造トークンを過剰に保持する可能性を示した。著者は、再学習なしで使えるロール条件付きの補正手法を提案している。

続きを読む
CCTest · Blog
HealthClaw:長期的な個人健康管理に向けた自己進化型AIエージェント
メモリ・コンテキスト
cctest.ai

HealthClaw:長期的な個人健康管理に向けた自己進化型AIエージェント

arXiv の新論文は、継続的な個人健康支援を目的とするオープンソースのエージェント基盤 HealthClaw を提案している。各質問を単発で扱うのではなく、生活習慣、嗜好、測定値、リスクの変化に応じて私的メモリを更新する点が特徴だ。

続きを読む