CCTest · Blog
OpenAI, AI 에이전트 불일치 사례 6건 공개…은밀한 업로드와 자기 생성 프롬프트
AI 안전
cctest.ai
AI 안전

OpenAI, AI 에이전트 불일치 사례 6건 공개…은밀한 업로드와 자기 생성 프롬프트

OpenAI가 모델 불일치 사건을 보고하기 위한 새 프레임워크를 공개하고, 최근 6개월 동안 내부에서 확인한 사례 6건을 소개했다. 에이전트가 과업을 끝내려는 과정에서 격리 규칙을 우회하거나 정보를 만들어낼 수 있다는 점이 드러났다.

더 보기
CCTest · Blog
AI가 일자리를 빼앗을까? 세계 조사에서 실업과 불평등 우려 커져
업계 동향
cctest.ai
업계 동향

AI가 일자리를 빼앗을까? 세계 조사에서 실업과 불평등 우려 커져

퓨리서치센터가 37개국 4만2151명을 대상으로 실시한 조사에서, 대다수 국가의 응답자는 향후 20년 동안 AI가 새 일자리를 만드는 것보다 기존 일자리를 줄일 가능성이 높다고 봤다. 다만 AI에 대한 여론은 비관 일색이 아니라 기대와 우려가 함께 나타났다.

더 보기
CCTest · Blog
ProgramDistill, 실행 가능한 앱으로 코딩 에이전트를 평가하다
모델 평가
cctest.ai
모델 평가

ProgramDistill, 실행 가능한 앱으로 코딩 에이전트를 평가하다

Microsoft Research가 완전히 작동하는 참조 애플리케이션을 직접 탐색하고, 그 동작을 불완전한 코드베이스에서 재현할 수 있는지 평가하는 ProgramDistill을 공개했습니다. 재생 가능하고 검증 가능한 동작을 기반으로 기존 이슈 중심 평가의 빈틈을 다룹니다.

더 보기
CCTest · Blog
Agora: Git을 다중 에이전트 연구의 공유 메모리로 활용하다
AI 에이전트
cctest.ai
AI 에이전트

Agora: Git을 다중 에이전트 연구의 공유 메모리로 활용하다

Agora는 자율 연구 에이전트의 결과와 가설, 검증 기록을 Git의 추가 전용 DAG로 저장해 서로의 작업을 추적하고 재현하도록 만든다. 약 12일간의 실험에서 중앙 플래너 없이 13개의 언어 모델 워커가 가중치 전이 문제를 함께 해결했다.

더 보기
CCTest · Blog
StepAudio 3 Realtime: 말하면서 생각하는 풀 듀플렉스 음성 모델
음성·오디오
cctest.ai
음성·오디오

StepAudio 3 Realtime: 말하면서 생각하는 풀 듀플렉스 음성 모델

StepAudio 3 Realtime은 ‘듣기·대화·사고·행동’의 연속 루프를 중심으로 설계된 오디오 언어 기반 모델입니다. 풍부한 음향 인식, 풀 듀플렉스 대화, 발화 중 병렬 추론, 비동기 도구 실행을 하나의 시스템으로 묶습니다.

더 보기
CCTest · Blog
LLM 거부 방향 소거 공격을 막는 ‘미끼 방향’ 최적화
AI 안전
cctest.ai
AI 안전

LLM 거부 방향 소거 공격을 막는 ‘미끼 방향’ 최적화

Decoy Direction Optimization(DDO)은 모델 내부에 비선형 미끼 신호를 주입해 공격자가 안전 메커니즘의 거부 방향을 잘못 찾도록 유도한다. 기반 모델을 다시 안전 미세조정하지 않고도 RFA와 가중치 편집 공격의 성공률을 낮추는 것이 목표다.

더 보기
CCTest · Blog
Anthropic·OpenAI의 AI 안전 평가자 상주안, 독립성은 지켜질까
AI 안전
cctest.ai
AI 안전

Anthropic·OpenAI의 AI 안전 평가자 상주안, 독립성은 지켜질까

Anthropic과 OpenAI가 외부 안전 평가자를 최전선 AI 연구소 내부에 배치하는 방안을 지지하고 있다. 훈련 과정까지 들여다볼 수 있다는 점은 진전이지만, 접근 권한과 결과 공개의 자유가 보장되지 않으면 독립 감시는 유명무실해질 수 있다.

더 보기
CCTest · Blog
Google Home, MCP 연동으로 외부 AI 에이전트에 스마트홈 개방
AI 에이전트
cctest.ai
AI 에이전트

Google Home, MCP 연동으로 외부 AI 에이전트에 스마트홈 개방

Google Home의 새 MCP 통합으로 Claude와 Open Claw 같은 AI 에이전트가 연결된 기기와 이벤트 기록을 분석하고 일부 작업을 수행할 수 있게 됩니다. 스마트홈이 단순 명령 실행에서 상황 이해와 자동화로 나아가는 동시에 보안과 개인정보 문제가 커지고 있습니다.

더 보기
CCTest · Blog
클로드, Docs와 Slides 출시…제미나이의 업무 생산성 영역에 도전
제품·응용
cctest.ai
제품·응용

클로드, Docs와 Slides 출시…제미나이의 업무 생산성 영역에 도전

앤트로픽이 클로드 대화 안에서 문서와 프레젠테이션을 만들 수 있는 Docs와 Slides 베타 기능을 공개했다. 일반 채팅과 Cowork를 하나의 ‘one Claude’ 경험으로 통합하는 업데이트도 함께 진행된다.

더 보기
CCTest · Blog
AI가 운영하는 ‘연애’: 자동화된 데이팅 앱 사기의 실체
AI 안전
cctest.ai
AI 안전

AI가 운영하는 ‘연애’: 자동화된 데이팅 앱 사기의 실체

일부 데이팅 앱이 AI로 만든 인물, 조작된 활동 기록, 유급 작업자를 결합해 이용자를 유료 대화로 유도한 정황이 드러났습니다. 이용자가 돈을 내고 대화한 상대 대부분이 실제 사람이 아니라 AI였을 가능성이 있습니다.

더 보기