Anthropic이 지난 6월 9일 최신 모델 Claude Fable 5를 공개했습니다. 기존 최고 성능 모델이었던 Mythos 5에 안전장치를 추가해 일반에 처음 공개한 버전으로, 각종 업계 벤치마크에서 최고 수준을 기록하며 화려하게 등장했습니다. AI 커뮤니티는 들썩였고, 사용자들은 앞다퉈 테스트를 시작했습니다. 그런데 딱 3일 뒤, 조용히 사라졌습니다.
미국 정부의 편지 한 장
6월 12일, Anthropic은 미국 정부로부터 Fable 5와 Mythos 5에 대한 외국 국적자 접근을 즉시 차단하라는 공문을 받았습니다. 미국 정부는 해당 모델에서 발견된 탈옥(Jailbreak) 취약점이 국가안보에 위협이 될 수 있다고 판단한 것으로 알려졌습니다.
이번 사태는 다소 아이러니한 곳에서 시작됐습니다. Anthropic의 최대 투자자이기도 한 AWS 연구진이 안전성 테스트 과정에서 취약점을 발견했고, 이를 미국 정부에 보고한 것입니다. 이후 정부는 해당 사안을 국가안보 이슈로 검토한 뒤 Anthropic에 접근 제한 조치를 요구했습니다.
핵심은 세 가지입니다.
AWS 연구진이 Fable 5 안전성 테스트 과정에서 취약점을 발견
미국 정부가 이를 국가안보 위협으로 판단
Anthropic에 외국 국적자 접근 차단을 요구
하지만 Anthropic 입장에서는 예상치 못한 문제가 있었습니다. 특정 국가나 외국인 사용자만 선별적으로 차단하는 것이 기술적으로 쉽지 않았기 때문입니다.
결국 Anthropic은 보다 강력한 조치를 선택했습니다.
Fable 5 및 Mythos 5 서비스 전면 중단
한국, 일본, EU, 대만, 싱가포르 등 동맹국도 동일하게 적용
전 세계 사용자가 일시적으로 서비스 이용 불가
이번 사건은 단순한 서비스 장애가 아니라, AI 모델의 보안 취약점이 국가안보 이슈로 연결될 수 있음을 보여준 사례로 평가받고 있습니다.
Anthropic의 반박: "그 정도 취약점은 다들 있어요"
Anthropic은 공식 블로그를 통해 "해당 취약점은 비교적 제한적이며, 다른 공개 AI 모델에서도 동일하게 발견되는 수준"이라고 반박했습니다. 또한 "이 기준을 업계 전체에 적용한다면 사실상 대부분의 프론티어 AI 모델 배포가 중단될 것"이라고 주장했습니다.
반면 미국 정부는 Anthropic이 모델 수정 또는 서비스 중단 요구를 거부했다고 맞서고 있습니다. 현재까지 구체적인 지시 내용과 취약점 검증 결과는 공개되지 않았습니다.
논란이 이어지는 가운데 Anthropic은 사과문을 발표하고 환불 절차를 진행 중이며, AI 커뮤니티에서는 서비스 복구 여부에 대한 관심이 계속 높아지고 있습니다.
안전을 강조해온 Anthropic의 딜레마
이번 사건은 Anthropic이 그동안 강조해 온 AI 안전 전략에도 적지 않은 타격을 주고 있습니다. Anthropic은 신규 모델 공개 과정에서 강력한 안전 장치를 적용하고, 일부 기능은 제한적으로 공개하는 등 '안전 우선' 기조를 유지해 왔습니다.
그러나 이번에는 바로 그 안전 문제가 서비스 중단의 원인이 되면서, AI 안전성을 어떻게 평가하고 규제할 것인지에 대한 논쟁도 함께 커지고 있습니다.
진짜 논란은 따로 있다
이번 사태를 계기로 AI 업계에서는 또 다른 논쟁이 제기되고 있습니다. 중국 유출 방지를 명분으로 한 조치가 한국·일본·EU 등 동맹국 사용자에게까지 적용된 것이 과연 불가피한 안보 조치였는지에 대한 의문입니다.
한편 이번 사건은 특정 기업의 AI 서비스에 대한 의존 위험을 다시 한번 보여줬습니다. 실제로 사건 직후 오픈소스 AI와 소버린 AI에 대한 관심이 높아졌으며, 중국 문샷 AI는 같은 날 오픈소스 코딩 모델 Kimi K2.7-Code를 공개했습니다.
결국 이번 논란은 단순한 서비스 중단을 넘어, AI 주권(AI Sovereignty)과 기술 통제권에 대한 논의로 확산되고 있습니다.
어느 쪽이 사실이든 이번 사건이 남긴 메시지는 명확합니다. AI 기술이 아무리 발전해도, 정책과 규제라는 변수 앞에선 하루아침에 멈출 수 있다는 것. 우리가 업무에 쓰는 AI 서비스가 언제든 사라질 수 있다면, 기업들은 어떤 대비를 해야 할까요? 특정 AI에 과도하게 의존하는 구조는 이제 리스크로 봐야 할지도 모릅니다.
