Anthropic의 Claude, 암호분석에 투입되다: AI는 어디까지 왔나

들어가며

Anthropic의 최신 암호분석 성과를 둘러싼 논의는 AI가 얼마나 높은 수준의 전문 연구에 접근할 수 있는지를 다시 묻게 한다. OSChina 요약에 따르면, 암호학자 Matthew Green은 Anthropic의 결과를 검토한 뒤 이에 대한 글을 썼다. Anthropic은 아직 공개되지 않은 Claude Mythos 모델을 암호분석에 투입했고, 그 결과로 후양자 서명 방식 HAWK에 대한 공격과 축소 라운드 AES에 대한 개선된 공격을 제시한 것으로 알려졌다.

다만 이 사안을 해석할 때는 주의가 필요하다. 현재 제공된 소재에는 원문 전체, 논문 세부 내용, 파라미터, 증명, 재현 절차가 포함되어 있지 않다. 따라서 이를 곧바로 “AI가 현대 암호를 깨뜨렸다”는 의미로 받아들이기는 어렵다. 더 정확한 해석은 최첨단 모델이 암호분석이라는 매우 전문적인 연구 영역에서 의미 있는 보조 역할을 하기 시작했을 가능성이 있다는 것이다.

핵심 포인트

• 대상이 중요하다: HAWK는 후양자 암호 분야와 관련된 서명 방식이며, 양자컴퓨팅 시대를 대비하는 보안 연구에서 중요한 평가 대상이다. AES는 현대 대칭키 암호의 대표적 알고리즘이지만, 이번에 언급된 것은 표준 전체 AES가 아니라 축소 라운드 버전이다.
• 공격의 의미는 맥락에 달려 있다: 축소 라운드 알고리즘에 대한 공격은 보안 여유와 분석 방법을 이해하는 데 중요하지만, 실제 배포된 시스템이 깨졌다는 뜻은 아니다. 특정 암호 방식에 대한 공격 역시 적용 조건과 파라미터를 확인해야 정확히 평가할 수 있다.
• AI의 역할이 달라질 수 있다: 지금까지 대규모 언어 모델은 문헌 검색, 코드 작성, 증명 보조 같은 도구로 주로 논의됐다. Anthropic의 결과가 검증된다면, 모델이 공격 경로를 탐색하고 기존 기법을 조합하며 후보 아이디어를 제안하는 데 더 능동적으로 기여할 수 있음을 보여준다.
• 전문가 검증은 필수다: Matthew Green이 이 결과에 주목했다는 사실은 암호학계의 엄격한 검토가 뒤따를 것임을 의미한다. 암호학에서는 그럴듯한 설명만으로는 부족하며, 형식적 논증과 동료 검토, 재현 가능한 검증이 필요하다.

의미와 영향

이번 논의의 본질은 “AI가 암호를 해독했다”는 자극적인 이야기보다 연구 워크플로의 변화에 가깝다. 암호분석은 깊은 수학적 직관, 축적된 문헌 지식, 구현과 실험 경험을 요구한다. 모델이 유망한 탐색 방향을 제시할 수 있다면 연구자는 실패 가능성이 높은 경로를 더 빨리 제외하고, 복잡한 조합 공간에서 새로운 단서를 찾을 수 있다.

그러나 한계도 분명하다. 암호의 안전성은 정밀한 정의와 엄격한 증명 위에 세워진다. AI가 생성한 가설은 검증 가능한 수학적 논리나 실험 결과로 전환되어야만 의미를 갖는다. 특히 후양자 암호는 표준화와 산업 적용이 맞물린 영역이므로, 공격 주장에 대한 과장은 피해야 한다.

Anthropic의 시도는 AI for Science의 고난도 사례다. 단순한 질의응답이 아니라 전문가 수준의 연구 문제에 모델을 투입했기 때문이다. 최종적으로 큰 돌파구로 평가되든 제한적인 실증으로 남든, 보안 연구자들은 앞으로 AI를 방어 도구이자 공격 탐색을 가속하는 새로운 참여자로 고려해야 할 가능성이 커지고 있다.

출처: OSChina