CCTest · Blog
HeteroFold, 서로 다른 모델 간 KV Cache 공유에 도전
메모리·컨텍스트
cctest.ai
메모리·컨텍스트

HeteroFold, 서로 다른 모델 간 KV Cache 공유에 도전

HeteroFold는 서로 다른 모델 패밀리로 구성된 멀티 에이전트 LLM에서 수신 측 재계산을 없애기 위한 KV Cache 전송 방법입니다. 논문은 32K 컨텍스트의 한 전송 방향에서 기본 Prefill 대비 약 10.7배의 속도 향상을 보고했습니다.

더 보기
CCTest · Blog
MemFold, 장기 개인화를 위한 소프트 메모리를 행동 중심으로 학습
메모리·컨텍스트
cctest.ai
메모리·컨텍스트

MemFold, 장기 개인화를 위한 소프트 메모리를 행동 중심으로 학습

MemFold는 질의와 관련된 텍스트 기억을 고정된 수의 연속 벡터로 압축하고, 그 기억이 실제 응답 행동에 얼마나 도움이 되는지를 기준으로 최적화합니다. 학습에는 과제 보상과 동결된 텍스트 기억 교사의 신뢰도 게이트 온폴리시 증류가 함께 사용됩니다.

더 보기
CCTest · Blog
아마존의 데이터센터 10억 달러 대책, 왜 반발을 키웠나
정책·규제
cctest.ai
정책·규제

아마존의 데이터센터 10억 달러 대책, 왜 반발을 키웠나

아마존은 앞으로 5년간 데이터센터 인근 지역에 10억 달러 이상을 지원하고 신규 프로젝트에서 비밀유지계약을 폐지하겠다고 밝혔다. 그러나 환경단체는 발전소 오염, 물 사용량, 디젤 비상발전기 문제를 외면한 계획이라고 비판한다.

더 보기
CCTest · Blog
Helion을 vLLM에 통합해 양자화 GEMM을 자동 최적화하다
추론·배포
cctest.ai
추론·배포

Helion을 vLLM에 통합해 양자화 GEMM을 자동 최적화하다

PyTorch는 Helion을 vLLM의 linear backend에 통합해 고수준 커널 DSL과 입력 형상별 자동 튜닝으로 양자화 GEMM 구현을 단순화하는 방안을 검토했습니다. NVIDIA Hopper에서는 평가된 일부 워크로드에서 처리량이 10% 이상 향상됐습니다.

더 보기
CCTest · Blog
3억 달러 엔비디아 서버 사건이 드러낸 AI 칩 수출통제의 허점
정책·규제
cctest.ai
정책·규제

3억 달러 엔비디아 서버 사건이 드러낸 AI 칩 수출통제의 허점

미 법무부는 Earthmade Computer의 CEO가 허위 서류와 아시아 중계 경로를 이용해 엔비디아 GPU 서버를 중국으로 우회 반출했다고 주장했습니다. 이번 사건은 완제품 서버에 탑재된 AI 칩의 최종 목적지를 확인하기가 얼마나 어려운지 보여줍니다.

더 보기
CCTest · Blog
AI 에이전트 위험 커지자 애플, macOS ‘전체 디스크 접근’ 통제 강화
AI 안전
cctest.ai
AI 안전

AI 에이전트 위험 커지자 애플, macOS ‘전체 디스크 접근’ 통제 강화

애플이 데스크톱 AI 에이전트의 활용 범위가 넓어지면서 macOS의 ‘전체 디스크 접근’ 권한에 새로운 통제 장치를 추가하겠다고 밝혔다. 권한 자체를 일괄 축소하기보다는 사용자가 위험을 이해하고 더 명확하게 동의하도록 만드는 데 초점이 맞춰졌다.

더 보기
CCTest · Blog
OpenAI의 Dot, 저녁 주문도 가능한 기업용 소프트웨어형 에이전트
AI 에이전트
cctest.ai
AI 에이전트

OpenAI의 Dot, 저녁 주문도 가능한 기업용 소프트웨어형 에이전트

OpenAI의 Dots는 클라우드 컴퓨터와 데스크톱 앱, 음성 입력을 결합한 AI 에이전트다. 실제 사용에서는 웹사이트 개편과 영상 편집처럼 사용자가 통제하는 작업에 강했지만, 인증·로그인·결제 과정에서는 여전히 사람의 개입이 필요했다.

더 보기
CCTest · Blog
HC-DLM, 병렬 확산 생성에서 토큰 의존성을 보존하다
확산 모델
cctest.ai
확산 모델

HC-DLM, 병렬 확산 생성에서 토큰 의존성을 보존하다

HC-DLM은 이산 토큰 출력과 지속적인 연속 잠재 상태를 결합해 병렬 확산 디코딩에서 끊기기 쉬운 토큰 간 의존성을 다루는 방법입니다. 논문은 스도쿠, Countdown, LM1B에서 같은 규모의 이산·연속 확산 기준선보다 나은 결과를 보고합니다.

더 보기
CCTest · Blog
AI 심사자에게 필요한 수사적 강건성, SciCore가 제시한 해법
모델 평가
cctest.ai
모델 평가

AI 심사자에게 필요한 수사적 강건성, SciCore가 제시한 해법

같은 과학적 내용을 다르게 표현한 원고에 AI 심사자가 다른 판단을 내릴 수 있습니다. 새 연구는 수사적 강건성을 별도 평가 기준으로 제안하고, 전체 원고와 구조화된 과학 핵심을 결합하는 SciCore를 소개했습니다.

더 보기
CCTest · Blog
AutoDataBench, AI 연구 에이전트의 ‘데이터 지능’을 평가하다
모델 평가
cctest.ai
모델 평가

AutoDataBench, AI 연구 에이전트의 ‘데이터 지능’을 평가하다

AutoDataBench는 학습 프레임워크와 하이퍼파라미터, 연산 예산 등의 비데이터 요인을 통제하고 LLM 연구 에이전트의 데이터 진단·조직·구성 능력을 측정하는 테스트베드입니다. 데이터 개입의 효과를 사전에 예측하는 능력과 연구 궤적의 재활용 가능성도 함께 살펴봅니다.

더 보기
CCTest · Blog
검색 에이전트의 ‘상호 부정행위’: CrossFit이 자가 진화 오류를 줄이는 방법
AI 에이전트
cctest.ai
AI 에이전트

검색 에이전트의 ‘상호 부정행위’: CrossFit이 자가 진화 오류를 줄이는 방법

자가 진화 검색 에이전트는 서로의 같은 오류를 정답처럼 강화해 내부 보상만 높일 수 있다. CrossFit은 학습 데이터와 평가 경로의 출처를 분리해 이런 피드백 고리를 약화한다.

더 보기
CCTest · Blog
OSWorld-Science, 과학 소프트웨어를 다루는 AI 에이전트를 평가하다
AI 과학 연구
cctest.ai
AI 과학 연구

OSWorld-Science, 과학 소프트웨어를 다루는 AI 에이전트를 평가하다

OSWorld-Science는 분자 그리기, 병리 이미지 분석, 통계 계산, 물리 시뮬레이션 등 과학 워크플로를 컴퓨터 사용 에이전트 평가에 포함한 벤치마크입니다. 단순한 화면 조작이 아니라 생성된 과학 산출물의 검증 가능성까지 살핍니다.

더 보기