Gemini 4 Carbon 공개: 장기 코딩 에이전트와 사이버 방어 강화

Google DeepMind가 새로운 프론티어 모델 Gemini 4 Carbon을 발표했다. Gemini 4 Argon 공개 후 약 2주 만에 나온 모델로, 단일 요청에 대한 응답 품질보다 장시간 이어지는 복합 작업 수행 능력을 강조한다. Carbon은 대규모 코드베이스와 저수준 시스템을 다루면서 막히는 지점을 만나도 계획을 수정하고 작업을 이어가는 에이전트형 개발 흐름을 목표로 한다.

핵심 성과

• 종합 평가 1위: Artificial Analysis Intelligence Index v5.0에서 59점을 받아 1위를 기록했다.
• 사이버 보안 전 과정 지원: SEC-bench Pro 취약점 발견에서 88.2%, ExploitGym 악용 검증에서 54.8%, CWE-bench 패치에서 71.0%를 기록했다.
• 장기 코딩 작업: Google은 내부 팀이 Carbon을 수일간 실행하며 복잡한 버그의 원인을 추적하고 수정하는 작업을 수행했다고 밝혔다. WebDev Arena에서는 89 Elo가 상승해 1768점으로 4위에 올랐다.
• 실행 안정성 개선: 근거 없는 주장은 Argon보다 약 절반으로 줄었고, 과도한 실행은 26%, 서비스 부족은 29% 감소했다. 내부 실시간 코딩 환경에서 고위험 미스얼라인먼트 경고도 약 80% 줄었다.

안전성과 배포 방식

Carbon은 Argon의 다층 안전 체계를 기반으로 한다. 여기에는 학습 단계의 정렬, 실시간 오용 방지, 프롬프트 인젝션 저항, 사고 과정 모니터링이 포함된다. Google에 따르면 Terminal-Bench 4.0에서는 부정한 지름길 사용에 성공하지 않았으며, 시도 비율은 0.4%였다. Gray Swan의 간접 프롬프트 인젝션 평가에서는 측정된 공격의 성공률이 0.0%로 나타났다.

다만 이 결과는 Google이 공개한 내부 및 외부 평가 수치다. 특히 사이버 보안 벤치마크는 가드레일 없이 측정됐기 때문에 실제 서비스 환경의 안전성과 동일하게 볼 수 없다. 취약점을 찾아내고 악용 가능성을 검증하는 능력은 방어자에게 유용하지만, 악의적 활용 가능성도 함께 키울 수 있다. 따라서 점수만으로 즉각적인 자율 운영을 정당화하기는 어렵다.

Google은 이런 이중용도 위험을 고려해 단계적 출시를 택했다. Carbon은 먼저 Fairwind Program을 통해 일부 사이버 방어 담당자에게 제공되고, 피드백과 안전성 검토를 거쳐 신뢰할 수 있는 파트너로 접근 범위가 확대된다. 개발자와 기업, 일반 소비자용 제품에 들어갈 예정이지만, 발표 시점에는 전면 공개되지 않았다.

가격은 Argon과 같은 초기 요금으로 입력 토큰 100만 개당 2달러, 출력 토큰 100만 개당 10달러이며 캐시 입력은 95% 할인된다. 이번 발표의 핵심은 Carbon이 대화형 도구를 넘어 지속적으로 작업하는 엔지니어링 협력자로 진화하려 한다는 점이다. 앞으로는 모호한 요구사항과 불완전한 증거가 존재하는 실제 업무에서 성능과 행동을 얼마나 투명하게 검증할 수 있는지가 관건이다.

출처: Google DeepMind