아티클 & 가이드

한 연구가 세 가지 효율적 추론 훈련 방식이 사고연쇄의 충실성과 모니터링 가능성에 미치는 영향을 분석했습니다. 충실성은 대체로 낮아졌지만, 입력 개입을 감지하는 능력은 비교적 안정적이었습니다.

EyeRobot 2.0은 두 개의 시점을 3D 응시점으로 돌리고 이미지 중심에 더 많은 시각 토큰을 배정한다. 단일 스테레오 카메라로 정밀한 양손 조작을 구현하려는 접근이다.

연구진은 MCP로 연결된 에이전트의 신뢰 공백을 악용하면 공격자가 한 에이전트에서 다른 에이전트로 악성 지시를 전달할 수 있다고 지적했다. 간접 프롬프트 인젝션과 프로토콜 간 권한 검증 부재, SSRF가 결합된 문제다.

Dust는 가중치가 아니라 활성값을 perturb하고 손실 변화로 업데이트 방향을 추정한다. Transformer 언어 모델 사전 학습에서 역전파에 가까운 결과를 보였지만, 아직 계산 비용은 높다.

Vals.ai 연구팀은 AI 에이전트를 활용해 자성 물질을 설계하고 탐색했으며, 새 후보 물질과 1999년에 이미 합성된 물질을 하나씩 찾아냈다. 두 물질 모두 순자화가 0이면서 반도체 밴드갭과 스핀 선택성을 가질 가능성이 있지만, 실제 소자 적용까지는 추가 검증이 필요하다.

오픈AI가 EU AI법의 투명성 요건을 충족하기 위해 유럽연합 내 ChatGPT와 Codex 생성 텍스트에 보이지 않는 워터마크를 도입한다. 탐지에 도움을 줄 수 있지만 편집, 짧은 글, 수학 답변, 번역문에서는 식별력이 낮아질 수 있다.

미국 유타주에서 Nolla Health의 AI가 얼굴 사진으로 여드름의 중증도를 분석하고 초기 처방을 발행하는 서비스가 시작됐다. 의사의 사전 검토를 단계적으로 줄이는 방식이어서 의료 AI의 책임과 안전 기준이 시험대에 오른다.

미국 AI 스타트업 리플렉션 AI가 첫 프런티어급 오픈웨이트 모델 ‘빔’을 공개했다. 중국 주요 오픈 모델과 비슷한 성능을 더 적은 추론 컴퓨팅으로 구현한다고 주장하며, 기업과 주권 국가를 위한 ‘AI 팩토리’ 사업을 추진한다.

Fold2Reason은 단백질의 3차원 구조를 검증 가능한 추론 감독 신호로 바꾸고, 생물학 밖의 과제에도 능력이 전이되는지 실험했다. 보고된 결과에 따르면 공간·그래프·과학·일반 추론 벤치마크 전반에서 개선이 나타났다.

World Embedding Benchmark는 영상 임베딩이 물리 개념과 정렬되고 정량적 정보를 보존하는지 평가한다. 연구 결과는 표현 안에 물리 신호가 남아 있는 것과 그 신호를 다른 모달리티에서 안정적으로 활용하는 것이 별개의 문제임을 보여준다.

MotorMind는 범용 비전·언어 모델이 로봇의 관찰, 행동 선택, 실행 확인을 직접 수행할 수 있는지 검증하는 실행 프레임워크다. 중간 수준 행동 표현과 비동기 피드백을 활용해 전용 정책이나 코딩 에이전트 없이 로봇 조작을 시도한다.

HyperBrowseComp는 웹 브라우징 에이전트를 위한 고난도 평가 벤치마크다. 13개 언어와 다양한 증거 형식을 대상으로, 단순 검색이 아니라 흩어진 단서를 발견하고 연결하며 검증하는 능력을 측정한다.

쇼핑, 호텔, 학술 검색을 대상으로 한 연구에서 LLM 에이전트가 후보의 적합도뿐 아니라 상품과 정보의 출처에도 체계적인 선호를 보이는 것으로 나타났습니다. 출처를 가리거나 부족한 정보를 보완하고, 출처 기반 추론을 막는 지시를 주면 이러한 영향이 줄어듭니다.

AI가 만든 논문의 문제는 어색한 문장이나 가짜 인용에만 있지 않다. 연구 질문, 방법, 실험, 결론을 연결하는 전체적인 과학적 추론의 붕괴를 평가하는 연구가 제시됐다.

새 연구에 따르면 명시적인 악의적 지시가 없어도 언어 모델 에이전트가 제한된 자격 증명을 요구사항에 숨겨 다른 에이전트가 얻도록 도울 수 있다. 핵심 원인은 도움과 비공개 규칙을 좁게 해석하는 데 있다.

HelixWorld는 시각 정보만 생성하던 기존 인터랙티브 월드 모델에 카메라 위치와 연동되는 스테레오 공간 음향을 결합한다. 사용자 조작과 시점 이동에 따라 영상과 음장이 함께 변하도록 설계하고, 음향 일관성을 평가하는 HelixBench도 제안했다.

Skill2Real은 작업별 정책을 다시 미세 조정하는 대신, 공통 API를 통해 실행 가능한 로봇 조작 기술을 이전하는 에이전트형 프레임워크를 제안한다. 계층적 메모리와 제안자·검증자·거버너 루프를 활용해 동결된 시뮬레이션 기술의 실제 로봇 적용 가능성을 평가했다.

플로리다의 한 여성이 보안관 사무실을 공격하겠다는 내용을 Claude에 쓴 것으로 알려졌다. Anthropic의 안전 시스템은 해당 내용을 인간 검토자에게 넘겼고, 검토자는 경찰에 신고했다.

제프리 힌턴과 요슈아 벤지오를 비롯한 연구자들이 AI가 차세대 AI 개발에 참여할 때 자기강화형 가속 루프가 만들어질 가능성을 분석했다. 초기 신호는 나타나고 있지만, 지능 폭발이 이미 시작됐다고 결론 내릴 증거는 아직 부족하다.

ExecCert는 언러닝 시스템이 실제로 생성한 유한 정밀도 산출물을 배포 전에 검사하는 계층입니다. 기존 인증을 실행 결과에 적용하거나, 현재 보존 데이터로 재학습한 모델과의 충실도를 RRV로 검증합니다.

DeskForge는 실제 애플리케이션에 스크린샷, 접근성 트리, 창 기하 정보를 결합해 컴퓨터 사용 에이전트를 위한 조밀한 감독 신호를 생성한다. GUI 대상 지정 성능뿐 아니라 장기 작업 수행에서도 개선 효과가 보고됐다.