OPD²: 추론 튜닝으로 생긴 ‘차이’만 증류하는 방법
NAVER AI Lab의 OPD²는 교사 모델의 전체 출력 분포를 그대로 따라 하지 않고, 추론 튜닝된 교사와 원래 베이스 모델 사이의 차이를 증류 신호로 사용한다. 논문은 수학, 과학, 코드 추론 벤치마크에서 기존 on-policy distillation보다 일관된 개선을 보였다고 설명한다.
더 보기Claude API 중계소 가이드, 검출 원리, LLM API 실측 노하우
총 2320개의 아티클
RSS 구독NAVER AI Lab의 OPD²는 교사 모델의 전체 출력 분포를 그대로 따라 하지 않고, 추론 튜닝된 교사와 원래 베이스 모델 사이의 차이를 증류 신호로 사용한다. 논문은 수학, 과학, 코드 추론 벤치마크에서 기존 on-policy distillation보다 일관된 개선을 보였다고 설명한다.
더 보기이 연구는 플라즈마 진단 모델을 깨끗한 센서 데이터가 아니라 실제에 가까운 고장 조건에서 평가한다. 특히 플라즈마 붕괴에 가까운 시점의 센서 손상이 시계열 모델 성능을 크게 무너뜨릴 수 있음을 보였다.
더 보기NVIDIA가 Hugging Face에 로봇과 비전 AI를 위한 40억 파라미터 오픈 월드 모델 Cosmos 3 Edge를 공개했다. 이 모델은 엣지 장치에서 장면 이해, 미래 예측, 시뮬레이션, 행동 생성을 연결하는 것을 목표로 한다.
더 보기Grab은 자율형 AI 워크로드를 안전하게 운영하기 위해 Palana를 구축했다. Kubernetes 격리, 비밀정보 중개, 중앙화된 이그레스 제어와 감사 기능을 결합한 플랫폼이다.
더 보기xHC는 Hyper-Connections를 기존의 N=4 한계 너머로 확장해, 잔차 스트림 폭을 대규모 언어 모델 사전학습의 새로운 스케일링 축으로 만들려는 연구입니다. N=16 상태를 유지하면서 일부 스트림만 갱신해 성능과 비용의 균형을 맞춥니다.
더 보기Recursive Harness Self-Improvement는 에이전트를 감싸는 실행 하네스를 고정된 보조물이 아니라 최적화 대상로 본다. 논문은 몇 번의 가벼운 반복만으로 낮은 추론 강도의 에이전트 성능을 높이고 비용을 줄일 수 있다고 보고했다.
더 보기Hugging Face Daily Papers에 소개된 논문은 MoE 기반 루프형 Transformer 모델군인 Loopie를 제안한다. 저자들은 동일한 사전학습 계산 예산에서 일반 Transformer 기준 모델을 뛰어넘고, 후처리 학습을 통해 강한 추론 능력을 얻었다고 설명한다.
더 보기Cura 1T는 의료를 단순 질의응답이 아니라 대화, 추론, 진단, 도구 사용이 함께 맞물리는 업무로 본다. 능력별로 목표를 정해 반복 개선하는 훈련 루프가 핵심이다.
더 보기이 논문은 체스를 통제된 실험 환경으로 삼아 사전학습의 선택이 강화학습 이후 추론 성능과 학습 효율에 어떤 영향을 주는지 분석합니다.
더 보기DSWorld는 자율 데이터 과학 에이전트에 세계 모델 개념을 적용해, 비용이 큰 실행 전에 작업 결과를 예측한다. 논문은 강화학습 기반 학습을 약 14배, 검색 기반 추론을 약 3~6배 빠르게 했다고 보고한다.
더 보기AV-Flamingo는 짧은 클립이 아니라 길고 복잡한 실제 음성-비전 영상을 이해하도록 설계된 오픈 대형 모델이다. 대규모 학습 데이터, 단계적 커리큘럼, 시간축에 맞춘 추론으로 정렬성과 해석 가능성을 높였다.
더 보기Kimi가 사용자 요청 급증으로 기존 컴퓨팅 클러스터가 한계에 가까워졌다며 소비자 대상 신규 구독을 일시 중단했다. 동시에 컴퓨팅 자원 확충과 Kimi 기본 권한·Kimi Code 권한의 분리 관리를 예고했다.
더 보기프랑스와 이탈리아 연구진은 AI 조언이 있으면 사람들의 ‘모르겠다’는 응답이 크게 줄고 정확도도 떨어진다고 밝혔다. 반면 자신감은 오히려 크게 높아졌다.
더 보기젠슨 황의 이틀간 도쿄 방문은 일본의 컴퓨팅 인프라, 로봇, 자동차, 반도체 공급망을 하나의 전략으로 묶었다. 엔비디아는 일본 제조 현장의 차세대 AI 기반을 선점하려 하고 있다.
더 보기애플의 영업비밀 소송은 OpenAI의 하드웨어 진출과 잠재적 IPO 구상에 새로운 불확실성을 더했다. 법원의 최종 판단 전이라도 개발 일정과 투자자 설득에는 부담이 될 수 있다.
더 보기Current AI는 더 큰 모델을 만드는 경쟁보다, 언어와 문화가 배제되지 않는 공공 AI 기반을 만드는 데 집중하고 있다. 핵심은 개방성, 지역성, 그리고 커뮤니티의 통제권이다.
더 보기기이모어는 WAIC 2026에서 국산 GPU와 국산 RDMA NIC를 직접 연결하는 IBGDA 데모, 초노드용 전栈 상호연결 솔루션, CPO 기술 백서를 선보였다. 핵심은 개별 칩 성능이 아니라, 국산 AI 인프라를 시스템 차원에서 연결하는 방법이다.
더 보기WAIC 2026에서 Arm China는 엣지 AI를 단일 가속기 경쟁이 아니라 제한된 전력과 메모리 안에서 작동하는 전체 시스템 문제로 제시했다. 발표는 Star CPU, Zhouyi X3-Pro NPU, Linglong VPU, 오픈 AIOS 연합으로 이어졌다.
더 보기윈톈리페이는 Prefill, Decode, Decode 단계의 FFN에 맞춘 세 종류의 DeepVerse 추론 칩 계획을 공개했다. 이 구상은 단일 칩 성능보다 이기종 클러스터를 통한 Token 생성 비용 절감에 초점을 둔다.
더 보기리만동력이 공개한 Riemann-1.0은 RoboCasa-365에서 62.6%의 성공률을 기록했다. 핵심은 점수 자체보다 인간 1인칭 작업 영상을 대규모로 학습한 뒤 로봇 제어와 정렬하는 방식에 있다.
더 보기Moonshot AI의 최신 Kimi 모델 공개는 중국 오픈웨이트 AI를 둘러싼 논쟁을 다시 키웠다. 쟁점은 성능 경쟁을 넘어 신뢰, 규제, 국가 전략으로 확장되고 있다.
더 보기