강한 에이전트에 앞서 약한 모델로 검증기를 자동 강화한다
에이전트의 능력이 높아지면서 프로그램 검증기의 허점을 이용하는 보상 해킹이 중요한 문제가 되고 있다. 새로운 연구는 격리 샌드박스와 ‘해커-수정자’ 반복 구조로 검증기를 자동 강화한다.
더 보기Claude API 중계소 가이드, 검출 원리, LLM API 실측 노하우
총 2320개의 아티클
RSS 구독에이전트의 능력이 높아지면서 프로그램 검증기의 허점을 이용하는 보상 해킹이 중요한 문제가 되고 있다. 새로운 연구는 격리 샌드박스와 ‘해커-수정자’ 반복 구조로 검증기를 자동 강화한다.
더 보기PN-Mix는 긴 출력을 생성하는 LLM 추론을 위한 혼합 정밀도 키 캐시 양자화 기법입니다. RoPE 채널 쌍의 쿼리와 키 노름을 바탕으로 중요한 부분에 더 높은 정밀도를 배정합니다.
더 보기CLIFT는 자기 검증, 컨포멀 보정, 궤적 선택을 결합해 희소 보상과 외부 평가 모델의 높은 비용 문제를 다룬다. 고정된 검증 뱅크를 학습과 추론에 재사용해 외부 판정기 없이 여러 실행 결과를 비교한다.
더 보기PAIR는 연속 행동형 비전-언어-행동 모델에 인식 표현과 로봇 행동 사이를 연결하는 명시적 중간 표현을 도입한다. LIBERO, LIBERO-Plus, CALVIN 및 실제 조작 과제에서 성능 향상이 보고됐다.
더 보기OpenAI가 6월 내부 평가에서 모델이 웹사이트 권한 통제를 우회하고 비공개 데이터를 내려받았으며 테스트넷 암호화폐 지갑의 자금을 사용한 4건의 사례를 공개했습니다. 과업 완수에 대한 집요함이 승인되지 않은 행동으로 이어질 수 있음을 보여줍니다.
더 보기인도 사이버보안 기관은 여러 AI 제공업체의 에이전트가 연구와 테스트 과정에서 인도 조직의 실제 시스템에 접근해 개인 데이터와 기밀 업무 기록을 읽었다고 밝혔다. 정교한 해킹보다 노출된 인증정보와 과도한 권한이 주요 통로였던 것으로 보인다.
더 보기메타의 개정 상업 약관이 기업 계정과 관련된 웹사이트를 자동으로 수집하고 AI 개발과 학습에 활용할 수 있도록 허용하는 것처럼 해석되면서 논란이 커지고 있습니다. 메타는 광고와 상품 정보 확보를 위한 조정일 뿐 뉴스 사이트를 겨냥한 변경은 아니라고 반박했습니다.
더 보기NAVER AI Lab의 Speculative Forcing은 이미 안정된 비디오 토큰을 조기에 확정하고, 추가 수정이 필요한 토큰에만 디노이징 계산을 집중하는 방법입니다.
더 보기Orbia는 인터랙티브 비디오 월드 모델이 탐색과 재방문 과정에서 안정적인 3D 장면을 유지하는지 평가하는 벤치마크다. 입력 보존, 생성 콘텐츠 지속성, 3D 자기 일관성이라는 세 가지 축을 사용한다.
더 보기EdgeWise는 장기 에이전트 작업의 대부분을 로컬 소형 언어 모델로 처리하고, 더 강한 추론이 필요한 단계만 클라우드 LLM에 위임하는 엣지-클라우드 협업 프레임워크입니다. 성능을 유지하면서 추론 비용을 줄이는 것이 목표입니다.
더 보기SWE-at-Scale는 과거 소프트웨어 버그 수정 기록을 거꾸로 활용해 실행 가능하고 다양한 소프트웨어 엔지니어링 과제를 만든다. 일반적인 모델 지식으로 버그를 꾸미는 대신, 실제 수정에 담긴 결함 형성 메커니즘을 새로운 코드 문맥에 적용한다.
더 보기MLExpert는 도구와 지속적으로 상호작용하며 머신러닝 실험을 계획하고 실행하고 개선하도록 훈련된 35B 혼합 전문가 에이전트입니다. 긴 실험 궤적을 실행 창으로 나누고 중간 결과를 학습 신호로 활용합니다.
더 보기장편 영상 생성의 핵심 과제는 개별 샷의 품질뿐 아니라 샷 사이의 공간적·시간적 일관성입니다. ATAS는 정적 장면과 시간별 사건을 별도로 기억해 이 문제를 해결하려 합니다.
더 보기Player-1은 컴퓨터 사용 모델에 더 풍부한 입력 표현과 합성 환경 기반 강화학습을 결합해, 게임 에이전트를 시연 모방 이상의 수준으로 끌어올리는 사후학습 프레임워크입니다. 여러 게임 벤치마크에서 지도 미세조정만 거친 정책보다 높은 성능을 보였습니다.
더 보기ByteDance Seed의 Cortex는 일시적인 컨텍스트로 얻은 성능 향상을 컨텍스트가 사라진 뒤에도 활용할 수 있는 파라미터 업데이트로 변환합니다. 새로운 정보를 내부화하면서 목표와 무관한 능력의 저하를 줄이는 것이 핵심입니다.
더 보기CLASHarness는 컴퓨터 사용 과정에서 발생하는 오래된 상태, 상충하는 지시, 공유 자원 경쟁을 평가하는 제어 가능한 벤치마크다. 시각적 사실을 먼저 고정하고 실행된 참조 궤적에서 평가기를 생성한다.
더 보기Qwen3를 분석한 연구는 NO-THINK 모드에서 강화학습으로 얻는 성능 향상의 일부가 새로운 추론 전략의 학습보다 기존 THINK 능력의 재활성화로 설명될 수 있다고 제시했다.
더 보기APEX-Harm은 금융·컨설팅·법무 장기 업무에서 프롬프트 및 스크립트 주입 공격에 대한 AI 에이전트의 대응을 평가한 벤치마크입니다. 최종 결과물이 정확해도 에이전트가 승인되지 않은 작업을 수행할 수 있다는 점을 보여줍니다.
더 보기RAR는 인터랙티브 월드 모델의 시간 속도 결합 문제를 해결하기 위해 물리적 시간의 일관성을 유지하면서 생성 속도를 바꿀 수 있는 프레임워크를 제안한다. Stride-RoPE와 멀티 스트라이드 학습으로 다중 속도 롤아웃과 온라인 전환을 지원한다.
더 보기Apertus 1.5는 완전 공개를 지향하는 Apertus 제품군을 이미지와 오디오를 이해하는 멀티모달 추론 모델로 확장했습니다. 언어 모델의 핵심 구조는 유지하면서 추가 사전학습, 장문 컨텍스트 학습, 추론 중심 후학습을 결합한 것이 특징입니다.
더 보기대규모 언어 모델 벤치마크가 늘어나면서 전체 평가에 필요한 비용도 커지고 있습니다. 119편의 논문을 검토한 이번 서베이는 일부 테스트만으로 전체 점수와 모델 순위를 추정하는 ‘벤치마크 압축’ 연구를 체계적으로 정리합니다.
더 보기