자연어 사양을 로컬 신경 함수로 바꾸는 Compile by Training
Compile by Training은 교사 모델이 생성한 작업별 예제로 경량 어댑터를 학습해 자연어 사양을 재사용 가능한 로컬 신경 함수로 변환합니다. 어려운 벤치마크에서 정확도를 높였지만 컴파일 시간과 예제 커버리지라는 새로운 비용도 발생합니다.
더 보기Compile by Training은 교사 모델이 생성한 작업별 예제로 경량 어댑터를 학습해 자연어 사양을 재사용 가능한 로컬 신경 함수로 변환합니다. 어려운 벤치마크에서 정확도를 높였지만 컴파일 시간과 예제 커버리지라는 새로운 비용도 발생합니다.
더 보기PyTorch 2.14는 NVGEMM, nccl2, 일급 장애 허용 기능, 선언적 동적 형상, Apple Silicon용 선형대수를 추가하며 운영 환경을 위한 기반을 넓혔다.
더 보기허깅페이스가 허브에서 최적화된 WebGPU 연산을 불러올 수 있는 JavaScript 라이브러리 @huggingface/kernels를 공개했다. 실제 GPU의 성능과 정확성을 수집하는 브라우저 기반 도구 Fleet도 함께 선보였다.
더 보기Kubeflow가 Kale, Notebooks, Trainer, Hub, KServe를 업데이트하며 AI 개발 생명주기 전반으로 기능을 넓히고 있다. Spark와 HPC, 보안, 관측성 강화는 CNCF 졸업을 앞둔 프로젝트의 운영 성숙도 제고를 보여준다.
더 보기YOLO-PEFT는 실시간 객체 탐지기에서 PEFT 어댑터를 어디에 둘지 결정하는 문제를 감사 가능한 제약 계획으로 바꾼다. 단순히 LoRA를 붙이는 것이 아니라, 위험할 때 훈련 전에 거부하는 절차까지 포함한다.
더 보기이 논문은 Test-Time Training을 개별 변형의 집합이 아니라 조합 가능한 설계 공간으로 다시 정의한다. 핵심은 새 변형을 만들기 쉬워지는 것뿐 아니라, 어떤 구성요소가 실제로 성능에 기여하는지 분리해서 볼 수 있다는 점이다.
더 보기Us vs. Them은 버전 이력과 diff를 이용해 현재 텍스트의 어느 구간이 인간이 쓴 부분이고 어느 구간이 에이전트가 만든 부분인지 추정하는 오픈소스 도구다. AI 에이전트가 인간의 의도가 담긴 영역을 함부로 덮어쓰지 않도록 돕는 데 초점이 있다.
더 보기Model Context Protocol(MCP)이 출시 이후 가장 큰 폭의 사양 업데이트를 통해 프로토콜 핵심을 무상태 요청/응답 모델로 바꿨다. 이번 변화는 기업 환경에서 필요한 안정성, 확장성, 예측 가능한 운영을 겨냥한다.
더 보기Interactive Training 2는 학습 과정을 단순히 관찰하는 것을 넘어, 실행 중인 학습을 공통 프로토콜로 조정하는 오픈소스 제어 평면을 제안한다. 사람과 자동화 컨트롤러가 같은 인터페이스로 요청을 보내고 그 결과를 기록할 수 있다.
더 보기Wattage는 AI 에이전트 실행 trace를 분석해 토큰 사용량을 실제 비용으로 환산하고 낭비 패턴을 찾아내는 오픈소스 도구입니다. CI에 연결하면 에이전트 변경으로 인한 비용 회귀를 자동으로 차단할 수 있습니다.
더 보기PyTorch Blog는 Helion이 TPU용 백엔드를 통해 고수준 커널을 Pallas 코드로 컴파일하는 방식을 소개했다. Flash Attention 사례에서는 자동 튜닝과 파이프라이닝 전략이 TPU 성능 활용의 핵심으로 제시됐다.
더 보기이 논문은 MoE 학습에서 큰 메모리 비용을 차지하는 옵티마이저 상태에 초점을 맞춘다. SkewAdam은 백본, 전문가, 라우터에 서로 다른 상태 전략을 적용해 보고된 실험에서 메모리를 크게 줄이면서 검증 성능도 유지했다.
더 보기arXiv 논문은 데이터 제공자의 삭제 요청을 정확한 forget set으로 바꾸기 위한 출처 추적 시스템 OriginBlame을 제안한다. 저자 정보를 데이터 처리 파이프라인 전반에 전달해 과도한 삭제를 줄이는 접근이다.
더 보기새 arXiv 논문은 표준 가우시안까지의 제곱 Wasserstein 거리로 비가우시안성을 측정하는 OT-ICA를 제안했다. 이는 기존 ICA에서 쓰이던 누적량이나 모수적 우도 기반 대리 목적을 대체하려는 접근이다.
더 보기새 arXiv 논문이 다면체에서의 Dikin walk 혼합 시간 이론을 한 단계 개선했다. 스케일 조정된 Lee–Sidford metric을 사용해 warm start 조건의 지수 샘플링에서 d^2.25 반복 경계를 증명했다.
더 보기PyTorch-Triton 3.7은 컴파일러 Pass, MLIR 방언, DSL 확장을 런타임에 불러오는 Triton Plugin Extensions를 도입했다. 이로써 Meta의 TLX는 Triton 포크 없이도 표준 Triton에서 사용할 수 있는 길을 얻었다.
더 보기새 arXiv 논문은 KL 발산을 사용하는 비음수 행렬 분해에 대해 뉴턴형 최적화 알고리즘을 제안한다. 기존의 분리 가능한 상계 최소화 대신, 2차 테일러 근사와 일반화된 HALS를 활용하는 점이 핵심이다.
더 보기arXiv 논문은 의사결정나무 규칙에 포함된 무관 조건을 찾아 삭제하는 Relevance-Aware Rule 프레임워크를 제안한다. 핵심은 무작정 가지치기를 하는 것이 아니라, 삭제 후 예측 신뢰성이 유지되는지를 확인하는 것이다.
더 보기NodeImport는 그래프 노드 분류의 클래스 불균형 문제를 개별 노드의 기여도 관점에서 다시 정의한다. 균형 잡힌 meta-set을 기준으로 라벨 노드, 비라벨 노드, 합성 노드를 선별하는 프레임워크다.
더 보기