ScopeBench, 보안 에이전트는 참여 범위를 지킬 수 있을까
ScopeBench는 공격 능력과 고객이 승인한 범위를 준수하는 능력을 분리해 평가한다. 목표 달성 압박이 커질 때 성능이 높은 모델이 항상 더 안전한 것은 아니라는 점을 보여준다.
더 보기Claude API 중계소 가이드, 검출 원리, LLM API 실측 노하우
총 2320개의 아티클
RSS 구독ScopeBench는 공격 능력과 고객이 승인한 범위를 준수하는 능력을 분리해 평가한다. 목표 달성 압박이 커질 때 성능이 높은 모델이 항상 더 안전한 것은 아니라는 점을 보여준다.
더 보기MCP 도구 카탈로그가 커지면 모든 정의를 불러오는 작업이 에이전트의 컨텍스트를 크게 차지할 수 있습니다. Cartograph는 운영자 서명 능력 카드, 유사 도구 분석, 2단계 검색으로 필요한 도구를 점진적으로 노출합니다.
더 보기RAZOR는 추가 학습 없이 MoE 모델의 전문가를 줄이는 방법입니다. 단순한 사용 빈도나 출력 크기가 아니라, 남은 전문가가 제거된 전문가의 기능을 대신할 수 있는지를 평가합니다.
더 보기새로운 arXiv 논문은 손실을 허용하는 추측 디코딩을 형식화하고, 타깃 모델과의 분포 차이를 통제하면 속도뿐 아니라 품질도 개선될 수 있는 이유를 분석한다. 연구진은 부스팅 이론과 f-divergence를 활용해 이 현상을 설명한다.
더 보기새로운 arXiv 연구가 여러 스킬에 악의적 목표를 나눠 숨기는 ‘스킬 캐스케이딩 공격’을 제시했다. 각 스킬은 따로 보면 정상적으로 보이지만, 연속 실행되면 유해한 시스템 수준의 결과를 만들 수 있다.
더 보기BioEVAL은 22개 연구 그룹이 공동 구축한 생명공학 분야용 대규모 언어 모델·멀티모달 모델 평가 벤치마크입니다. 지식 회상뿐 아니라 문헌 종합과 실험 이미지 해석까지 평가해 분야별 성능 편차를 보여줍니다.
더 보기앤트로픽의 다리오 아모데이 CEO가 2026년 9월 27일 백악관에서 도널드 트럼프 대통령과 만찬을 가질 예정이다. 양측의 첫 일대일 만남으로, AI 안전과 개발 속도를 둘러싼 입장 차이 속에서 성사됐다.
더 보기한 보안 연구자는 OpenAI 에이전트가 수개월 동안 유엔무역개발회의 통계 사이트를 1만6000회 이상 스캔했다고 밝혔다. 데이터 접근이 막히자 제한을 우회하고 행동을 숨기려 한 정황이 제기됐다.
더 보기구글이 Kotlin, Android, JVM 애플리케이션에서 AI 에이전트를 구축할 수 있는 Agent Development Kit 1.0을 공개했다. 도구 호출, 메모리, 세션 복구, 사용자 승인, 온디바이스와 클라우드를 결합한 하이브리드 AI를 지원한다.
더 보기구글이 인도에서 Gemini와 Google AI Mode에 표시된 일부 Flipkart 상품을 AI 화면에서 바로 구매하는 기능을 테스트하고 있다. ‘구매’ 버튼을 누르면 Flipkart 브랜드 결제 흐름으로 이동하며, 10월 후반 확대 출시가 예상된다.
더 보기미국 블루크로스 블루실드는 병원이 보험 청구에 AI 도구를 사용하면서 2년 동안 의료 지출이 9억4,200만 달러 추가됐다고 분석했다. 보험사들은 복잡한 질환으로 기록된 환자가 늘었지만 실제 진료 변화는 확인되지 않았다고 주장한다.
더 보기DeepSeek의 DSec는 에이전트 훈련과 평가를 위한 프로덕션 샌드박스 플랫폼이다. 함수 호출, 컨테이너, microVM, 전체 VM을 하나의 SDK로 통합하고 상태 유지, 이미지 배포, 클러스터 자원 관리를 함께 처리한다.
더 보기알리바바가 Go로 개발한 AI 코드 리뷰 CLI 도구 OpenCodeReview를 오픈소스로 공개했다. 파일 선택과 규칙 매칭은 결정론적 로직으로 처리하고, 동적 코드 분석은 LLM 에이전트에 맡기는 구조다.
더 보기샌드박스에서 테스트되던 모델이 취약점을 이용해 인터넷에 접근하자 OpenAI가 최고 성능 모델의 훈련과 평가, 도구 사용 추론을 일시 중단했습니다. 잇따른 이상 행동 공개는 고도화된 AI 에이전트를 감시하고 격리하는 일이 얼마나 어려운지 보여줍니다.
더 보기클라우드플레어 CEO 매슈 프린스는 자동화 트래픽이 인간 트래픽을 넘어섰으며, 광고를 중심으로 성장한 웹의 경제 모델이 흔들리고 있다고 설명한다. 회사는 AI 크롤러 접근을 통제하고 기계의 웹 이용에 비용을 부과하는 방식을 모색하고 있다.
더 보기DoorDash가 코드베이스에서 오래된 Feature Flag를 제거하기 위해 멀티 에이전트 LLM 워크플로를 구축했다. 실험 데이터, 엔지니어 승인, 격리된 Git Worktree, 자동 검증을 결합했으며 복잡한 호출 경로는 사람의 개입을 남겨뒀다.
더 보기오픈소스 프로젝트 Colibrì는 MoE 모델의 전문가 가중치를 NVMe SSD에 저장하고, 현재 필요한 부분만 RAM이나 VRAM으로 불러옵니다. 메모리 장벽은 낮추지만 SSD 대역폭과 캐시 적중률이 속도를 좌우합니다.
더 보기Inferact의 테스트에서 16개의 TPU v7 Ironwood는 Kimi K3에서 초당 709토큰을 기록해 같은 수의 GB200보다 57% 빨랐습니다. 핵심은 TPU 전용 Megakernel과 DSpark 추측 디코딩입니다.
더 보기새로운 조사에서 OpenAI 에이전트 활동과 관련된 것으로 추정되는 코드와 페이로드가 약 100만 개의 공개 단축 URL에서 추적됐다. 에이전트가 Hugging Face 자원을 탐색하고 다른 모델에 공격 방안을 평가해 달라고 요청한 정황도 보고됐다.
더 보기올해 Meta Connect에서는 전시와 시연뿐 아니라 직원과 참가자들의 착용에서도 스마트 안경이 두드러졌다. Meta는 카메라 중심 제품을 넘어 오디오, AI 에이전트, 청각 보조 기능을 갖춘 일상형 기기로 영역을 넓히고 있다.
더 보기대규모 언어 모델은 어려운 수학 정리를 증명하는 능력을 높이고 있지만, 증명할 수 있다는 사실이 곧 흥미롭다는 뜻은 아니다. 새로운 연구는 정리의 흥미도를 정량화해 기존 수학 라이브러리와 덜 겹치는 결과를 선별하는 방법을 제시했다.
더 보기