CCTest · Blog
vLLM, H200 16장으로 GLM-5.3의 100만 토큰 문맥 처리
추론·배포
cctest.ai
추론·배포

vLLM, H200 16장으로 GLM-5.3의 100만 토큰 문맥 처리

vLLM은 Prefill Context Parallelism, Decode Context Parallelism, Hybrid HiSparse를 결합해 H200 8장 노드 두 대에서 GLM-5.3을 서비스하는 구성을 공개했다. AgentX에서 동일한 처리량의 데이터 병렬 배포보다 사용자별 속도가 1.7~3.2배 높았으며, 테스트한 구성 중 유일하게 100만 토큰 문맥을 지원했다.

더 보기
CCTest · Blog
SpatialScout, VLM 에이전트의 능동적 3D 탐색과 지도 작성 평가
모델 평가
cctest.ai
모델 평가

SpatialScout, VLM 에이전트의 능동적 3D 탐색과 지도 작성 평가

SpatialScout는 비전-언어 모델 에이전트가 카메라를 직접 제어하고 시각적 증거를 수집해, 공통 3D 좌표계에서 물체를 위치 추정할 수 있는지 평가하는 벤치마크입니다. 결과는 대략적인 배치 파악과 완전하고 정밀한 계측 지도를 만드는 능력 사이에 큰 격차가 있음을 보여줍니다.

더 보기
CCTest · Blog
자기회귀 비디오 모델에 ‘앞을 내다보기’를 가르치는 FCP
비전·비디오
cctest.ai
비전·비디오

자기회귀 비디오 모델에 ‘앞을 내다보기’를 가르치는 FCP

Tencent ARC는 중간 시각 맥락을 보지 않고 더 먼 미래의 비디오 청크를 예측하게 하는 Future Chunk Prediction을 제안했습니다. 이 방식은 단순한 인접 프레임 복사를 줄이고 장면의 시간적 변화를 학습하도록 유도합니다.

더 보기
CCTest · Blog
AI 연구 에이전트는 모델을 개선할 수 있지만 과학도 할 수 있을까
AI 과학 연구
cctest.ai
AI 과학 연구

AI 연구 에이전트는 모델을 개선할 수 있지만 과학도 할 수 있을까

Agent4Sci는 최첨단 코딩 에이전트를 20개 과학 머신러닝 벤치마크에서 장기 평가했다. 에이전트는 기존 최고 성능을 높였지만, 대부분의 향상은 연구 수준의 통찰보다 머신러닝 엔지니어링 기법에서 나왔다.

더 보기
CCTest · Blog
Qwen-Audio-3.1-ASR, 음성 전사를 넘어 화자별 오디오 이해로
음성·오디오
cctest.ai
음성·오디오

Qwen-Audio-3.1-ASR, 음성 전사를 넘어 화자별 오디오 이해로

Qwen-Audio-3.1-ASR은 이전 버전보다 음성 인식을 개선하고 화자 분리 전사와 범용 오디오 이해 기능을 확장한 모델 제품군입니다. 다국어·중국어 방언 지원과 함께 파일 전사, 스트리밍, 대화형 입력 등 다양한 운영 방식을 겨냥합니다.

더 보기
CCTest · Blog
WorldStream, 플레이어의 이동에 따라 확장되고 변화를 기억하는 3D 세계
월드 모델
cctest.ai
월드 모델

WorldStream, 플레이어의 이동에 따라 확장되고 변화를 기억하는 3D 세계

WorldStream은 플레이어가 이동하는 방향으로 지형을 계속 확장하고, 실행 중인 세계에 자연어 명령을 적용하며, 방문했던 장소와 수정 내용을 복원하는 개방형 3D 월드 모델입니다. 계층적 계획, 결정론적 컴파일, 스트리밍, 영속적인 세계 기록을 결합합니다.

더 보기
CCTest · Blog
DiffResearch, 확산 언어 모델로 딥 리서치를 약 6배 가속
확산 모델
cctest.ai
확산 모델

DiffResearch, 확산 언어 모델로 딥 리서치를 약 6배 가속

DiffResearch는 멀티에이전트 딥 리서치 파이프라인의 핵심 모델을 자기회귀 모델에서 확산 언어 모델로 교체했습니다. 에이전트 구조와 검색 코드를 고정한 비교에서 전체 지연 시간을 크게 줄였고, 생성이 끝나기 전에 검색 하위 질의를 추출하는 dFast도 제시했습니다.

더 보기
CCTest · Blog
Quant-Arena, LLM의 엔드투엔드 정량 트레이딩 연구를 검증하다
모델 평가
cctest.ai
모델 평가

Quant-Arena, LLM의 엔드투엔드 정량 트레이딩 연구를 검증하다

Quant-Arena는 시장 가설 수립부터 신호 구현, 백테스트, 전략 고정까지 LLM이 정량 연구의 전체 과정을 수행할 수 있는지 평가한다. 최고 성적 모델조차 비공개 2024년 평가에서 동일가중 시장을 넘지 못했다.

더 보기
CCTest · Blog
합성 데이터는 정말 안전한가? LLM의 성능과 프라이버시 재검토
AI 안전
cctest.ai
AI 안전

합성 데이터는 정말 안전한가? LLM의 성능과 프라이버시 재검토

합성 의료 기록을 활용한 통제 실험이 직접 파인튜닝, DP-SGD, 프라이버시 인식 재작성 방식을 비교했습니다. 고유성이 높은 개인정보를 의도적으로 바꾸는 방법은 성능 손실을 줄이면서 정보 유출 위험을 낮출 가능성을 보여줍니다.

더 보기
CCTest · Blog
FrontierCS 2, AI 에이전트의 컴퓨터과학 연구 역량을 시험하다
모델 평가
cctest.ai
모델 평가

FrontierCS 2, AI 에이전트의 컴퓨터과학 연구 역량을 시험하다

FrontierCS 2는 실제 코드 저장소에서 패치를 반복 제출하는 연구 환경을 통해 AI 에이전트의 컴퓨터과학 연구개발 능력을 평가한다. 결과는 현재 최고 수준의 에이전트도 안정적인 프런티어 연구 수행과는 거리가 있음을 보여준다.

더 보기
CCTest · Blog
MMedAgent-Plus, 18개 의료 전문 모델을 조율하는 멀티모달 에이전트
AI 에이전트
cctest.ai
AI 에이전트

MMedAgent-Plus, 18개 의료 전문 모델을 조율하는 멀티모달 에이전트

MMedAgent-Plus는 비전-언어 플래너로 18개 의료 전문 모델을 연결해 12개 작업과 8개 의료 모달리티를 다룬다. 핵심은 단일 모델의 인식 성능보다 여러 분석을 올바르게 조합하고 근거에 기반한 답변을 만드는 능력이다.

더 보기
CCTest · Blog
WildAWM, 실행 가능한 합성 세계로 범용 컴퓨터 사용 에이전트 훈련
AI 에이전트
cctest.ai
AI 에이전트

WildAWM, 실행 가능한 합성 세계로 범용 컴퓨터 사용 에이전트 훈련

WildAWM은 GUI, MCP 서비스, 명령줄을 하나의 상태 공간에서 지원하는 컴퓨터 환경과 장기 과제를 합성하는 파이프라인입니다. 이 합성 세계에서만 학습한 Qwen 모델은 여러 미지의 에이전트 벤치마크에서 성능 향상을 보였습니다.

더 보기
CCTest · Blog
AKV, 에이전트의 기록을 바꾸지 않고 KV 캐시를 관리하다
추론·배포
cctest.ai
추론·배포

AKV, 에이전트의 기록을 바꾸지 않고 KV 캐시를 관리하다

장시간 실행되는 LLM 에이전트에서는 모델 연산보다 KV 캐시의 저장과 이동이 더 큰 비용이 될 수 있습니다. AKV는 에이전트가 궤적을 다시 쓰거나 보존된 문맥을 재프리필하지 않고 활성 캐시를 직접 관리하도록 합니다.

더 보기
CCTest · Blog
기억을 행동 개선으로 연결하기: AI 에이전트의 지속 학습 프레임워크
메모리·컨텍스트
cctest.ai
메모리·컨텍스트

기억을 행동 개선으로 연결하기: AI 에이전트의 지속 학습 프레임워크

MCCL은 에이전트의 기억을 정보를 다시 찾을 수 있는지보다, 앞으로의 의사결정과 행동을 개선하는지로 평가해야 한다고 제안한다. 기억 분류, 이중 루프 관리, 행동 중심 평가, 확장성 분석을 하나의 틀로 묶었다.

더 보기
CCTest · Blog
TraceForge, 교사 모델의 숨은 사고 없이 학생 모델용 추론 데이터 생성
대규모 언어 모델
cctest.ai
대규모 언어 모델

TraceForge, 교사 모델의 숨은 사고 없이 학생 모델용 추론 데이터 생성

TraceForge는 교사 모델의 비공개 사고 과정을 복원하지 않고, 문맥과 최종 답변만으로 학생 모델 계열에 맞는 추론 트레이스를 생성하는 방법을 제안합니다. 코딩 벤치마크에서는 다른 모델의 사고 연쇄를 그대로 사용하는 것보다 높은 향상이 보고됐습니다.

더 보기