아티클 & 가이드

Claude API 중계소 가이드, 검출 원리, LLM API 실측 노하우

총 1636개의 아티클

CCTest · Blog
아마존, 데이터센터 협상 NDA 폐지…지역사회 신뢰 회복할 수 있을까
정책·규제
cctest.ai
정책·규제

아마존, 데이터센터 협상 NDA 폐지…지역사회 신뢰 회복할 수 있을까

아마존이 지방정부와 데이터센터 사업을 협상할 때 비밀유지계약(NDA)을 사용하지 않겠다고 밝혔다. 마이크로소프트에 이은 조치지만, 정보 공개만으로 AI 인프라에 대한 지역사회의 반발을 누그러뜨릴 수 있을지는 여전히 불확실하다.

더 보기
CCTest · Blog
TokenRouter: 토큰 단위 LLM 라우팅을 위한 효율적 서빙 시스템
추론·배포
cctest.ai
추론·배포

TokenRouter: 토큰 단위 LLM 라우팅을 위한 효율적 서빙 시스템

TokenRouter는 생성 과정에서 토큰마다 다른 모델을 선택하는 LLM 라우팅을 위한 서빙 시스템입니다. 비동기 모델 서브서버와 지연 배칭으로 실행 단계 불일치와 배치 대기 문제를 줄이는 것을 목표로 합니다.

더 보기
CCTest · Blog
Learn2Play Bench, 낯선 게임에서 LLM 에이전트의 학습 능력을 검증하다
모델 평가
cctest.ai
모델 평가

Learn2Play Bench, 낯선 게임에서 LLM 에이전트의 학습 능력을 검증하다

Learn2Play Bench는 규칙을 미리 알려주지 않는 새로운 텍스트 게임으로 LLM 에이전트가 상호작용 경험에서 학습하는 능력을 평가한다. 연구 결과는 완전한 경험 기록과 에이전트 하네스 설계가 성능에 큰 영향을 줄 수 있음을 보여준다.

더 보기
CCTest · Blog
SparseDecoding, 생성 단계에 맞춘 LLM 가지치기 제안
추론·배포
cctest.ai
추론·배포

SparseDecoding, 생성 단계에 맞춘 LLM 가지치기 제안

SparseDecoding은 자연어 기반 보정 데이터와 실제 생성 과정의 활성 분포가 다르다는 문제를 해결하기 위해 제안됐다. 생성 중 수집한 활성값과 N:M 희소 SpMV 커널을 활용해 A100에서 최대 1.48배의 종단 간 디코딩 가속을 보고했다.

더 보기
CCTest · Blog
OneSearch-VL, 증거 그래프로 이미지·영상 딥리서치 통합
멀티모달
cctest.ai
멀티모달

OneSearch-VL, 증거 그래프로 이미지·영상 딥리서치 통합

OneSearch-VL은 시각적 grounding, 외부 검색, 사실 조합을 연결하는 시각 근거 증거 그래프를 제안했습니다. 이미지와 영상을 하나의 연구 에이전트 흐름으로 처리하기 위해 학습 데이터, 강화학습 보상, 세부 평가 벤치마크를 함께 설계했습니다.

더 보기
CCTest · Blog
SparseEngine, 장문맥 에이전트를 위한 희소 우선 추론 엔진
추론·배포
cctest.ai
추론·배포

SparseEngine, 장문맥 에이전트를 위한 희소 우선 추론 엔진

SparseEngine은 서로 다른 KV 캐시 방식을 장문맥 LLM 에이전트의 서빙 환경에 통합하기 위해 설계된 희소 우선 추론 엔진입니다. 논문은 처리량과 디코딩 속도 향상뿐 아니라 요청 간 캐시 상태를 이어가는 방법도 제시합니다.

더 보기
CCTest · Blog
UniWAM, 물리 추론·세계 모델링·로봇 행동을 하나로 통합
로보틱스·피지컬 AI
cctest.ai
로보틱스·피지컬 AI

UniWAM, 물리 추론·세계 모델링·로봇 행동을 하나로 통합

UniWAM은 물리 추론, 시각적 세계 생성, 행동 예측을 하나의 학습 프레임워크로 통합한 세계-행동 모델입니다. 인간 1인칭 영상, 로봇 데이터, 시각 질의응답 데이터를 함께 활용해 로봇의 환경 이해와 행동 생성을 개선하려고 합니다.

더 보기
CCTest · Blog
Agentic RAG 평가 예산, 질문 수 확대가 더 효과적인 이유
모델 평가
cctest.ai
모델 평가

Agentic RAG 평가 예산, 질문 수 확대가 더 효과적인 이유

HotpotQA와 MuSiQue를 활용한 연구가 질문 수, 검색 궤적, 반복 답변에 평가 예산을 배분하는 방식을 비교했습니다. 비슷한 토큰 예산에서는 적은 질문을 반복 실행하기보다 더 많은 질문을 다루는 편이 추정치를 안정화하는 데 유리했습니다.

더 보기
CCTest · Blog
EngramEdit, LLM의 사실 지식을 독립적으로 업데이트하다
메모리·컨텍스트
cctest.ai
메모리·컨텍스트

EngramEdit, LLM의 사실 지식을 독립적으로 업데이트하다

EngramEdit는 조건부 메모리를 단순한 용량 확장 장치에서 편집 가능한 지식 인터페이스로 확장합니다. Transformer 본체를 고정한 채 공유 n-gram 임베딩을 업데이트해 여러 표현에 걸친 지식 수정과 부작용 억제를 시도합니다.

더 보기
CCTest · Blog
SRD, 사후 경험을 RLVR의 사전 예측으로 바꾸다
강화학습
cctest.ai
강화학습

SRD, 사후 경험을 RLVR의 사전 예측으로 바꾸다

Self-Retrospection Distillation(SRD)은 에이전트가 작업을 마친 뒤 얻은 궤적을 활용해 행동 전에 예상해야 할 함정과 어려움을 학습시킵니다. 그룹 내 보상이 모두 같아지는 강화학습에서도 궤적에 남은 정보를 학습 신호로 되살리는 접근입니다.

더 보기
CCTest · Blog
추론 모델은 왜 자기 학습으로 무너지는가: R-Quest의 문제 품질 관리
강화학습
cctest.ai
강화학습

추론 모델은 왜 자기 학습으로 무너지는가: R-Quest의 문제 품질 관리

추론 모델이 스스로 만든 문제는 학습에 활용될 수 있지만, 잘못된 문제와 수학적으로 반복되는 변형이 누적되면 성능이 붕괴할 수 있다. R-Quest는 유효성과 새로움 피드백으로 이 문제를 완화한다.

더 보기
CCTest · Blog
WorldSonus, 월드 모델에 실시간 공간 음향을 더하다
월드 모델
cctest.ai
월드 모델

WorldSonus, 월드 모델에 실시간 공간 음향을 더하다

WorldSonus는 월드 모델을 위해 영상에서 제어 가능한 스테레오 음향을 실시간으로 생성하는 인터랙티브 비디오-오디오 프레임워크입니다. 논문은 0.41의 실시간 계수와 오픈 도메인 벤치마크에서의 높은 일반화 성능을 보고합니다.

더 보기
CCTest · Blog
장문맥 하이브리드 모델의 성능을 좌우하는 위치 편향
메모리·컨텍스트
cctest.ai
메모리·컨텍스트

장문맥 하이브리드 모델의 성능을 좌우하는 위치 편향

새 연구는 슬라이딩 윈도우 어텐션과 선형 어텐션이 문맥 확장과 길이 외삽에서 서로 다른 강점을 보인다고 분석했다. 연구진은 그 차이를 각 어텐션이 형성하는 ‘하이브리드 위치’ 편향으로 설명하고 Sliding-Window Linear Attention을 제안했다.

더 보기