Shippy가 보여준 고위험 AI 에이전트 설계 원칙
Ai2는 해양 분야 AI 에이전트 Shippy의 구축 경험을 공개했다. 핵심은 더 강한 모델 하나가 아니라, 도구와 권한, 샌드박스, 평가 체계를 함께 설계하는 데 있다.
더 보기Ai2는 해양 분야 AI 에이전트 Shippy의 구축 경험을 공개했다. 핵심은 더 강한 모델 하나가 아니라, 도구와 권한, 샌드박스, 평가 체계를 함께 설계하는 데 있다.
더 보기새 arXiv 논문은 고정 벤치마크에서의 일회성 성능 향상만으로 Agent 최적화 방법을 판단하기 어렵다고 지적한다. 새 작업이 추가되는 지속학습 환경에서는 방법별 차이가 뚜렷하게 드러났다.
더 보기arXiv 논문은 자율 커머스 환경에서 인간, AI 에이전트, 브랜드 간 관계를 설명하기 위해 DVM-HALL 모델과 NHAS 지표를 제안한다. 핵심은 감정적 선호뿐 아니라 신뢰, 위임, 실행 검증 가능성, 온체인 위험까지 충성도 모델에 포함하는 것이다.
더 보기arXiv 논문은 Experience Memory Graph를 통해 LLM 에이전트의 실패 복구를 구조화된 그래프 매칭으로 재정의한다. 반복적인 반성 루프 대신, 관련 수정 경험을 검색해 한 번의 실행을 안내하는 방식이다.
더 보기SPyCE는 멀티모달 에이전트의 추론 궤적을 계층적 스킬 라이브러리로 증류하고, 이를 정책과 함께 훈련 중 갱신하는 프레임워크다. 보상 신호나 정적 메모리에 머물던 경험을 정책 학습의 일부로 끌어들인다.
더 보기arXiv에 공개된 새 논문은 AI 에이전트 권한 시스템 제안 21건을 검토하고, 상용 에이전트 5종의 권한 처리 방식과 비교했다. 핵심은 모든 사용자에게 같은 정책을 적용하는 방식에서 벗어나 사용자별 권한 제어가 필요하다는 점이다.
더 보기