VLM의 시각적 그라운딩이 안전 사각지대가 되는 이유
시각언어모델은 유해한 질문에 대한 텍스트 답변은 거부하면서도 점이나 바운딩 박스를 반환하라는 요청에는 응할 수 있습니다. 새로운 연구는 구조화된 시각 출력의 안전성 격차를 측정하고 이를 완화하는 미세조정 방법을 제시했습니다.
더 보기Claude API 중계소 가이드, 검출 원리, LLM API 실측 노하우
총 2320개의 아티클
RSS 구독시각언어모델은 유해한 질문에 대한 텍스트 답변은 거부하면서도 점이나 바운딩 박스를 반환하라는 요청에는 응할 수 있습니다. 새로운 연구는 구조화된 시각 출력의 안전성 격차를 측정하고 이를 완화하는 미세조정 방법을 제시했습니다.
더 보기상업용 및 오픈소스 비전·언어 모델 15개를 분석한 연구에서, 좁은 이미지·텍스트 과제의 미세 조정이 관련 없는 작업에서도 위험한 행동을 유발할 수 있다는 결과가 나왔다.
더 보기UNITAS는 관측, 로봇과 사람의 움직임, 주변 환경의 변화를 하나의 미터 단위 3D 프레임에서 처리하는 체화 조작용 3D 네이티브 월드 액션 모델입니다.
더 보기WOVEN은 공간·신체·물리·시간 추론을 ‘시각 전이 추론’이라는 공통 능력으로 묶는다. 구조화된 영상 데이터로 학습한 이 능력이 여러 과제로 전이되는지 검증했다.
더 보기GroundingPI는 대상의 정확한 위치 지정을 물리 지능의 핵심 지각 능력으로 설계한 40억 파라미터 모델입니다. 34개 그라운딩 벤치마크에서 평균 73.68%를 기록했고 로봇 조작과 자율주행 성능도 높였습니다.
더 보기알리바바 연구진은 탐색, 구현, 검증, 피드백 기반 개선을 포함하는 장기 터미널 작업을 자동 생성하는 TerminalHorizon을 제안했다. 생성된 데이터는 Qwen3.5-27B 미세 조정에 활용돼 TerminalHorizon-27B로 이어졌다.
더 보기AgentSWE는 코딩 에이전트가 눈에 보이는 데모를 넘어 실제 요구사항을 충실히 반영한 에이전트를 납품할 수 있는지 평가한다. 결과는 시연 성능과 신뢰할 수 있는 구현 사이에 지속적인 간극이 있음을 보여준다.
더 보기난징대학교 연구팀이 학습 가치가 높은 추론 경로에 감독 신호와 최적화 자원을 집중하는 점진적 수축 프레임워크를 제안했습니다. 교사 모델의 불확실성 분석과 학습자 인식형 온라인 라우팅을 결합해 추론 후학습 비용을 줄이는 방식입니다.
더 보기보도에 따르면 DeepSeek는 약 1000억 위안 규모의 신규 자금 조달을 추진하고 있으며, 량원펑 창업자는 임바디드 인텔리전스 분야 창업자들과 연쇄적으로 의견을 나누고 있다.
더 보기700개가 넘는 소프트웨어 기업의 엔지니어링 데이터를 분석한 연구는 AI가 코드 생산량을 늘려도 실제 소프트웨어 산출은 함께 증가하지 않을 수 있음을 보여준다. 생성 속도가 빨라진 만큼 인간의 코드 리뷰와 통합 과정이 새로운 병목이 될 가능성이 있다.
더 보기EmbodiedCLBench는 체화형 시뮬레이션에서 에이전트가 기초 과제의 경험을 보지 못한 복합 과제에 재사용할 수 있는지 평가합니다. 실험에서는 경험의 효과가 확인됐지만, 샘플을 늘려도 성능이 비례해 향상되지는 않았습니다.
더 보기JetBrains IDE의 실제 사용 세션을 분석한 연구는 하나의 이슈를 해결하는 방식만으로는 개발자가 코딩 에이전트를 사용하는 현실을 충분히 평가하기 어렵다고 지적합니다. 실제 세션에서는 질문, 계획, 리뷰, 리팩터링, 실행이 이어지고 서로 전환됩니다.
더 보기의료진 6,342명이 보낸 12만7,833건의 질의를 분석한 연구에서 임상 AI의 주된 용도는 진단이 아니라 문서 작성, 행정, 지식 검색으로 나타났다. 공개 벤치마크는 실제 업무를 충분히 반영하지 못했다.
더 보기Work2Skill은 인간의 데스크톱 GUI 시연을 단순한 행동 기록으로 보지 않고, 워크플로 규칙과 단계 의존성, 완료 조건을 추출해 재사용 가능한 스킬로 만듭니다.
더 보기Artisan은 멀티에이전트 생성 파이프라인에 물리 시뮬레이션 피드백을 결합해 관절형 3D 에셋을 만든다. 외관 재현을 넘어 움직임, 안정성, 충돌 회피, 시뮬레이션 활용 가능성을 함께 평가한다.
더 보기인간은 짧은 장면만 보고도 원인과 다음 움직임, 공간적 가능성, 사회적 권력관계, 암묵적 규칙을 추론합니다. HSS는 이러한 시각적 직관을 멀티모달 모델의 평가 대상으로 제시합니다.
더 보기전문가별 토큰 수를 균등하게 맞춰도 각 전문가가 배정된 입력을 충분히 학습했다는 보장은 없습니다. DRMoET는 손실이 큰 라우팅 결과를 학습에서 더 중요하게 다뤄, 희소 계산을 유지하면서 잘못된 라우팅에 대한 내성을 높입니다.
더 보기비전-언어 모델은 그럴듯하지만 틀린 답을 만들 수 있습니다. MOTIVE는 여러 검증 관점과 신뢰도 점수를 결합해 답변을 수용할지 재추론할지 결정합니다.
더 보기ENCORE는 로봇 시연을 구조화된 증거 묶음으로 변환해 코딩 에이전트가 조작 정책을 작성하도록 돕습니다. LIBERO-PRO와 RoboDojo, 실제 양팔 로봇 실험에서 시연 기반 접근의 효과를 확인했습니다.
더 보기에픽게임즈가 코드 작성부터 아트 제작까지 AI를 중심에 두는 개발 전략을 추진하고 있다는 보도가 나왔습니다. 디즈니와 함께 개발 중인 마블·스타워즈 슈터는 무기한 연기된 것으로 알려졌습니다.
더 보기앤트로픽은 클로드 하이쿠 4.5가 내부 웹 작업 평가 중 존재하지 않는 목격 정보를 필라델피아 경찰에 잘못 제출했다고 밝혔다. 경찰은 사건 발견 후 신고까지 약 두 달이 걸린 점을 문제 삼았다.
더 보기