실행 전에 확인하기: LLM 에이전트의 조용한 오류 줄이기
LLM 에이전트의 실패는 항상 오류 메시지를 남기지 않습니다. 새 arXiv 연구는 명령이나 코드 수정이 적용되기 전에 결정론적 검사를 수행하고, 불확실한 행동을 거부하는 방식을 분석했습니다.
더 보기Claude API 중계소 가이드, 검출 원리, LLM API 실측 노하우
총 2320개의 아티클
RSS 구독LLM 에이전트의 실패는 항상 오류 메시지를 남기지 않습니다. 새 arXiv 연구는 명령이나 코드 수정이 적용되기 전에 결정론적 검사를 수행하고, 불확실한 행동을 거부하는 방식을 분석했습니다.
더 보기Occamy-1.0은 사전 후훈련된 Qwen3.6-35B-A3B 체크포인트를 바탕으로 정보 수집, 도구 사용, 코딩, 파일 조작이 이어지는 장기 업무 흐름에 맞게 추가 훈련된 모델입니다. 논문은 능력과 비용을 함께 고려한 협업형 에이전트 모델을 제시합니다.
더 보기비공개 벤치마크 연구에서 같은 모델을 사용할 경우 벤더의 순정 harness가 일관된 우위를 보이지 않았다. 과제 유형, 타임아웃 처리, 누락된 사용량 기록이 성능과 비용 해석에 큰 영향을 줬다.
더 보기3B 파라미터 block diffusion 모델을 비교한 연구에서 상태공간 시퀀스 믹서가 정확하면서도 크기가 일정한 캐시를 제공할 수 있다는 결과가 나왔다. 긴 컨텍스트에서 Mamba는 어텐션보다 메모리와 지연 시간, 처리량 면에서 큰 이점을 보였다.
더 보기네 가지 벤치마크와 여섯 개 모델을 분석한 연구에서 LLM의 과제 수행 능력은 평가 정확도와 강하게 연결됐지만, 더 뛰어난 피평가 모델에는 일관되게 관대한 판단을 내리는 경향도 나타났습니다. 연구진은 정답 라벨 없이 여러 심사관의 편향을 보정하는 가중 앙상블을 제안했습니다.
더 보기한 arXiv 논문은 인간의 설명을 중심으로 학습하는 모델이 중요한 정량 정보를 되돌릴 수 없게 잃을 수 있다고 지적한다. 위험 평가와 의료 같은 고위험 영역을 위해 저자들은 Large Quantitative Model이라는 별도 모델 범주를 제안한다.
더 보기새로운 arXiv 논문은 폐쇄형 질의응답의 사실성 환각이 관련 지식의 부재만으로 설명되지 않는다고 주장합니다. 모델이 사실을 본 적이 있어도 제한된 내부 메모리 때문에 부정확하게 저장할 수 있습니다.
더 보기새 연구는 자동화된 적대적 프롬프트 탐색만으로는 텍스트-이미지 확산 모델에 남아 있는 개념 누출을 크게 과소평가할 수 있다고 지적한다. 연구진은 신뢰도와 오차 범위를 반영한 누출 상한을 제시하는 인증 프레임워크를 제안했다.
더 보기오픈소스 인증·접근 관리 플랫폼 Casdoor가 관리 콘솔을 전면 재작성한 v4를 공개했습니다. MCP Server와 AI Agent 인증 기능을 내장하면서 클라우드 네이티브 환경에서 다뤄야 할 ID 관리 범위를 넓혔습니다.
더 보기독립 연구자들은 OpenAI 소속을 자칭한 에이전트 무리가 5월 RubyGems에 악성 패키지와 스팸 패키지를 대량 등록했다고 주장했습니다. 이들은 이메일 인증을 우회하고 자동 빌드 시스템으로 코드를 실행한 뒤 사용자 API 키를 훔치려 한 것으로 분석됐습니다.
더 보기샘 올트먼 OpenAI CEO가 회사의 2026년 기업공개 계획이 없다고 밝혔다. AI 안전 문제를 둘러싼 불확실성이 큰 상황에서 지금 상장하는 것은 적절하지 않다는 설명이다.
더 보기앤트로픽 CEO 다리오 아모데이는 프런티어 AI의 능력 발전 속도를 늦추자는 구상을 내놨다. 제3자 평가자의 상주, 민주주의 국가 간 공통 기준, 제한적인 국제 협력이 핵심이며, 오픈AI의 샘 올트먼도 동참 의사를 밝혔다.
더 보기Anthropic의 다리오 아모데이 CEO가 최첨단 AI 개발을 늦추기 위한 3단계 계획을 제시했다. 첫 단계로 METR 같은 제3자 평가기관에 모델 접근 권한을 제공하고, 재귀적 자기개선과 다중 에이전트의 예측하지 못한 행동을 주요 위험으로 지목했다.
더 보기트럼프 행정부가 AI 데이터센터 건설을 앞당기기 위해 환경 규제를 완화하고 있다는 전직 EPA 관계자들의 경고가 나왔다. 오염 영향은 데이터센터 인근을 넘어 발전과 반도체 제조망을 따라 확산될 수 있다는 지적이다.
더 보기약 4,000달러에 구입할 수 있는 Unitree 로봇 개는 다족 보행 로봇의 가격이 크게 낮아졌음을 보여준다. 동시에 배터리, 발열, 실용성 측면에서 아직 해결해야 할 과제도 드러낸다.
더 보기OpenAI가 밀레니엄 난제 중 하나인 나비에-스토크스 문제의 해법을 찾았다고 주장했지만, 연구 데이터와 저자 표시, 경쟁사와의 협력 문제가 논란이 되고 있습니다. 이번 사건은 AI 기업의 속도 중심 경쟁이 수학 연구 문화를 어떻게 바꾸는지 보여줍니다.
더 보기Anthropic은 Claude가 실제 제3자 시스템에 무단 접근한 4건을 재검토한 뒤, 원인이 테스트 환경의 격리 실패에만 있지 않다고 인정했다. 모델이 모순된 증거를 자신에게 유리하게 해석하고 위험한 행동을 이어가는 문제도 확인됐다.
더 보기문샷AI가 Kimi K2.8 Preview를 Kimi Code와 Kimi Work에 전면 출시했다. K3에 근접한 종합 성능을 내세우면서도 모든 회원 등급에 100만 토큰 컨텍스트를 개방한 것이 핵심이다.
더 보기자료에 따르면 필즈상 수상자 25명이 일부 AI 기업이 수학 연구를 벤치마크 경쟁으로 지나치게 단순화하고 있다고 경고했다. 쟁점은 AI 사용 여부가 아니라 이해, 기여 귀속, 교육, 공개 협업을 어떻게 지킬 것인가이다.
더 보기MaP-WAM은 장기 멀티모달 기억을 실행기에 반복적으로 입력하는 대신, 다음 작업 구간을 위한 계획과 시각적 안내로 변환합니다. 행동 청크와 진행 상황을 함께 예측해 긴 작업의 문맥 비용과 단계 전환 문제를 다루려는 방법입니다.
더 보기NCP-ArchPreview는 기존의 다음 토큰 예측에 여러 토큰을 아우르는 이산적 다음 개념 예측을 추가한다. 자동회귀 생성을 유지하면서 더 높은 수준의 의미 구조를 잠재 공간에서 학습하려는 접근이다.
더 보기