HuatuoGPT-3: SFT 없이 강화학습만으로 의료 LLM 적응
HuatuoGPT-3는 교사 모델의 출력을 영구적인 모방 대상이 아닌 일시적 지침으로 활용하는 OnePO를 제안한다. 논문 초록에 따르면 27B 모델은 HealthBench Professional에서 71.4점을 기록했다.
더 보기Claude API 중계소 가이드, 검출 원리, LLM API 실측 노하우
총 2320개의 아티클
RSS 구독HuatuoGPT-3는 교사 모델의 출력을 영구적인 모방 대상이 아닌 일시적 지침으로 활용하는 OnePO를 제안한다. 논문 초록에 따르면 27B 모델은 HealthBench Professional에서 71.4점을 기록했다.
더 보기대규모 언어 모델이 출력하는 사고 연쇄는 내부 계산을 항상 충실하게 반영하지 않습니다. 새로운 연구는 CIA 지표로 두 과정의 일치도를 측정하고, 후학습을 통한 개선 가능성도 검증했습니다.
더 보기ALoDLM은 확산 언어 모델에 토큰 적응형 잠재 재귀를 도입합니다. 쉽게 결정할 수 있는 토큰은 먼저 확정하고, 어려운 토큰은 추가 계산으로 계속 정제해 병렬 디코딩과 품질 개선을 함께 노립니다.
더 보기장기기억은 LLM 에이전트의 개인화를 높이지만 사용자의 과거 신념에 과도하게 동조하게 만들 수도 있습니다. MemAdapter는 현재 맥락에 따라 기억의 영향력을 조절합니다.
더 보기프로액티브 LLM 에이전트는 사용자가 요청하기 전에 유휴 연산을 활용해 필요한 지원을 준비한다. 새로운 연구는 작업 능력, 시간 배분, 신뢰를 3T 원칙으로 정리하고 장기 효과를 평가하는 Proactivity-Gym을 제안했다.
더 보기연구진은 언어 모델 에이전트가 분자 기하 최적화기 Sella를 직접 수정하도록 하고, 조기 종료와 과적합을 막는 평가 게이트로 후보를 선별했습니다. 그 결과 나온 AutoSella는 보지 못한 분자와 DFT 테스트에서도 힘 평가 횟수를 줄였습니다.
더 보기Inverse Distillation Unlearning(IDU)은 확산 모델이나 플로 매칭 모델을 1단계 생성기로 증류하면서, 지정한 학습 데이터 부분집합에 해당하는 출력을 억제하는 방법이다. 전체 데이터로 학습한 교사 모델과 삭제 대상 샘플만 필요하다.
더 보기ASCENT는 에이전트의 단일 실행을 그대로 모방하는 대신, 검증된 경험을 자기 증류하는 온라인 테스트 시점 학습 방법이다. ALFWorld와 WebShop에서 성공률을 높이고 에피소드당 실행 턴도 줄였다.
더 보기LoGRA는 대규모 언어 모델 강화학습에서 유용한 그래디언트 신호를 저랭크 스케치로 저장하고, 예측 KL 기반 스텝 제어를 결합한 방법입니다. 논문 요약에 따르면 추론 과제에서 평균 학습 메모리를 최대 45.7% 줄였습니다.
더 보기UndoBench는 도구를 사용하는 AI 에이전트의 정상적인 작업 수행 능력과 장애 이후 안전하게 복구하는 능력을 분리해 평가한다. 실험 결과, 작업을 완료하더라도 중복 외부 효과를 막지 못하는 사례가 상당수 나타났다.
더 보기새 연구는 대규모 언어 모델의 수학 추론을 발견, 생성, 이해, 실행의 네 능력으로 나누어 분석한다. 최종 정답률만으로는 모델의 실제 역량 구성을 알기 어렵다고 지적하고, 수학적 프리미티브를 활용한 보완 방법을 제안한다.
더 보기테스트 시 학습에서 모델이 스스로 생성한 텍스트를 계속 학습하면 장기 적응 과정에서 독립적인 인간 작성 텍스트에 대한 예측 성능이 떨어질 수 있다는 연구가 나왔다. 업데이트를 확정하기 전에 독립 데이터로 검증하는 방식이 효과적인 완화책으로 제시됐다.
더 보기CANOPY는 검색된 텍스트, 표, 동영상 등의 항목을 계층 구조로 표현하고 질문과의 관련도에 따라 보존 범위를 조절한다. 현재 증거가 부족하면 목표를 정한 후속 검색도 요청한다.
더 보기새 연구는 모델 응답의 첫 토큰이 이후의 추론 행동을 유도할 수 있음을 보여준다. 특정 시작 구문을 고정하면 수학과 코딩에서 기반 모델의 성능이 강화학습 모델에 가까워질 수 있다.
더 보기HLA-WM은 카메라 기하 기반 검색과 순환 선형 어텐션을 결합해 추가 학습 없이 장기 비디오 생성의 장면 재방문 일관성과 카메라 제어를 개선한다.
더 보기Periscope는 모델을 재학습하지 않고도 긴 문서를 여러 개의 짧은 탐침으로 나누어 읽는 추론 방법입니다. 문서 전체를 훑는 탐침과 인접 구간을 읽는 탐침을 결합해 답과 근거를 찾아냅니다.
더 보기Kandinsky 6.0 Video는 텍스트나 이미지를 입력해 44kHz 음성과 립싱크가 맞는 약 5초 길이의 영상을 생성하는 모델군입니다. 영상 스트림과 음성 스트림을 양방향으로 연결하는 CrossDiT 구조로 시간적·의미적 정합성을 높입니다.
더 보기OSWorld-Pro는 컴퓨터 사용 에이전트가 최종 상태에 도달했는지만 보지 않고, 연속적인 하위 목표를 어떻게 수행했는지 평가한다. 클릭 오류와 키보드 입력 실수, 목표와 무관한 행동까지 분석할 수 있다.
더 보기새로운 생성 모델과 적대적 섭동은 기존 딥페이크 탐지기의 성능을 크게 떨어뜨립니다. 한 연구팀은 알려진 생성기가 이미지를 충실하게 재구성할 수 있는지 확인하고, 오인증 위험을 보정하는 접근법을 제안했습니다.
더 보기OmniConfess는 추가 학습 없이 텍스트·이미지·오디오·비디오 채널이 답변의 각 토큰에 미치는 영향을 분석하고, 신뢰하기 어려운 주장을 수정하는 추론 시점 기법입니다.
더 보기RealtimeWAM은 세계 행동 모델의 다단계 행동 디노이징과 비디오 전문가·행동 전문가 사이의 대기 시간을 함께 줄인다. 논문은 H100에서 최대 25배의 엔드투엔드 가속과 1% 미만의 정확도 저하를 보고했다.
더 보기