오픈소스 Strata, 소비자용 PC에서 1250억 파라미터 모델 실행
오픈소스 프로젝트 Strata가 약 1250억 개 파라미터를 가진 Qwen3.8-Flash-Next를 12GB 이상 VRAM을 갖춘 개인용 PC에서 실행할 수 있도록 지원한다. 공개 테스트에서는 RTX 5070과 RX 9070 XT 시스템에서 초당 수십 토큰의 생성 속도가 확인됐다.
더 보기오픈소스 프로젝트 Strata가 약 1250억 개 파라미터를 가진 Qwen3.8-Flash-Next를 12GB 이상 VRAM을 갖춘 개인용 PC에서 실행할 수 있도록 지원한다. 공개 테스트에서는 RTX 5070과 RX 9070 XT 시스템에서 초당 수십 토큰의 생성 속도가 확인됐다.
더 보기RayOrch는 문서와 동영상을 가변적인 하위 작업으로 확장하는 파이프라인을 위해 설계된 프로그래밍 모델이자 분산 실행 엔진입니다. 부모-자식 관계와 순서를 유지하면서 여러 부모의 준비된 작업을 GPU 배치로 묶습니다.
더 보기Compile by Training은 교사 모델이 생성한 작업별 예제로 경량 어댑터를 학습해 자연어 사양을 재사용 가능한 로컬 신경 함수로 변환합니다. 어려운 벤치마크에서 정확도를 높였지만 컴파일 시간과 예제 커버리지라는 새로운 비용도 발생합니다.
더 보기PyTorch 2.14는 NVGEMM, nccl2, 일급 장애 허용 기능, 선언적 동적 형상, Apple Silicon용 선형대수를 추가하며 운영 환경을 위한 기반을 넓혔다.
더 보기허깅페이스가 허브에서 최적화된 WebGPU 연산을 불러올 수 있는 JavaScript 라이브러리 @huggingface/kernels를 공개했다. 실제 GPU의 성능과 정확성을 수집하는 브라우저 기반 도구 Fleet도 함께 선보였다.
더 보기Kubeflow가 Kale, Notebooks, Trainer, Hub, KServe를 업데이트하며 AI 개발 생명주기 전반으로 기능을 넓히고 있다. Spark와 HPC, 보안, 관측성 강화는 CNCF 졸업을 앞둔 프로젝트의 운영 성숙도 제고를 보여준다.
더 보기YOLO-PEFT는 실시간 객체 탐지기에서 PEFT 어댑터를 어디에 둘지 결정하는 문제를 감사 가능한 제약 계획으로 바꾼다. 단순히 LoRA를 붙이는 것이 아니라, 위험할 때 훈련 전에 거부하는 절차까지 포함한다.
더 보기이 논문은 Test-Time Training을 개별 변형의 집합이 아니라 조합 가능한 설계 공간으로 다시 정의한다. 핵심은 새 변형을 만들기 쉬워지는 것뿐 아니라, 어떤 구성요소가 실제로 성능에 기여하는지 분리해서 볼 수 있다는 점이다.
더 보기Us vs. Them은 버전 이력과 diff를 이용해 현재 텍스트의 어느 구간이 인간이 쓴 부분이고 어느 구간이 에이전트가 만든 부분인지 추정하는 오픈소스 도구다. AI 에이전트가 인간의 의도가 담긴 영역을 함부로 덮어쓰지 않도록 돕는 데 초점이 있다.
더 보기Model Context Protocol(MCP)이 출시 이후 가장 큰 폭의 사양 업데이트를 통해 프로토콜 핵심을 무상태 요청/응답 모델로 바꿨다. 이번 변화는 기업 환경에서 필요한 안정성, 확장성, 예측 가능한 운영을 겨냥한다.
더 보기Interactive Training 2는 학습 과정을 단순히 관찰하는 것을 넘어, 실행 중인 학습을 공통 프로토콜로 조정하는 오픈소스 제어 평면을 제안한다. 사람과 자동화 컨트롤러가 같은 인터페이스로 요청을 보내고 그 결과를 기록할 수 있다.
더 보기Wattage는 AI 에이전트 실행 trace를 분석해 토큰 사용량을 실제 비용으로 환산하고 낭비 패턴을 찾아내는 오픈소스 도구입니다. CI에 연결하면 에이전트 변경으로 인한 비용 회귀를 자동으로 차단할 수 있습니다.
더 보기PyTorch Blog는 Helion이 TPU용 백엔드를 통해 고수준 커널을 Pallas 코드로 컴파일하는 방식을 소개했다. Flash Attention 사례에서는 자동 튜닝과 파이프라이닝 전략이 TPU 성능 활용의 핵심으로 제시됐다.
더 보기이 논문은 MoE 학습에서 큰 메모리 비용을 차지하는 옵티마이저 상태에 초점을 맞춘다. SkewAdam은 백본, 전문가, 라우터에 서로 다른 상태 전략을 적용해 보고된 실험에서 메모리를 크게 줄이면서 검증 성능도 유지했다.
더 보기arXiv 논문은 데이터 제공자의 삭제 요청을 정확한 forget set으로 바꾸기 위한 출처 추적 시스템 OriginBlame을 제안한다. 저자 정보를 데이터 처리 파이프라인 전반에 전달해 과도한 삭제를 줄이는 접근이다.
더 보기새 arXiv 논문은 표준 가우시안까지의 제곱 Wasserstein 거리로 비가우시안성을 측정하는 OT-ICA를 제안했다. 이는 기존 ICA에서 쓰이던 누적량이나 모수적 우도 기반 대리 목적을 대체하려는 접근이다.
더 보기새 arXiv 논문이 다면체에서의 Dikin walk 혼합 시간 이론을 한 단계 개선했다. 스케일 조정된 Lee–Sidford metric을 사용해 warm start 조건의 지수 샘플링에서 d^2.25 반복 경계를 증명했다.
더 보기PyTorch-Triton 3.7은 컴파일러 Pass, MLIR 방언, DSL 확장을 런타임에 불러오는 Triton Plugin Extensions를 도입했다. 이로써 Meta의 TLX는 Triton 포크 없이도 표준 Triton에서 사용할 수 있는 길을 얻었다.
더 보기새 arXiv 논문은 KL 발산을 사용하는 비음수 행렬 분해에 대해 뉴턴형 최적화 알고리즘을 제안한다. 기존의 분리 가능한 상계 최소화 대신, 2차 테일러 근사와 일반화된 HALS를 활용하는 점이 핵심이다.
더 보기arXiv 논문은 의사결정나무 규칙에 포함된 무관 조건을 찾아 삭제하는 Relevance-Aware Rule 프레임워크를 제안한다. 핵심은 무작정 가지치기를 하는 것이 아니라, 삭제 후 예측 신뢰성이 유지되는지를 확인하는 것이다.
더 보기NodeImport는 그래프 노드 분류의 클래스 불균형 문제를 개별 노드의 기여도 관점에서 다시 정의한다. 균형 잡힌 meta-set을 기준으로 라벨 노드, 비라벨 노드, 합성 노드를 선별하는 프레임워크다.
더 보기