미 정부, Anthropic 의 Fable 5·Mythos 5 를 정지시키다 — '좁은 jailbreak' 가 전선이 된 순간
미 정부, Anthropic 의 Fable 5·Mythos 5 를 정지시키다 — ‘좁은 jailbreak’ 가 전선이 된 순간
미국 정부가 frontier AI 모델 두 개를 단번에 시장에서 거두어들였다. 이것은 AI 안전의 새 표준인가, 산업 전체의 모델 배포를 멈춰 세우는 첫 번째 도미노인가.
도입 — 6 월 12 일 오후 5 시 21 분, 한 통의 지시
2026 년 6 월 12 일 미 동부 시간 오후 5 시 21 분, Anthropic 은 미국 정부로부터 한 통의 지시 (directive) 를 받았다. 자사의 frontier 급 모델 두 개 — Fable 5 와 Mythos 5 — 의 일반 접근을 즉시 정지하라는 것이었다. 다음 날 (6 월 13 일 KST 오전) Anthropic 은 공식 블로그에 이를 공지했고, Hacker News 의 첫 페이지에 2513 점을 받으며 댓글 1816 개를 모았다. 같은 주의 어떤 뉴스 — Mozilla 의 핵심 인력 이탈, 희토류 없는 Renault 전기 모터, CRISPR 의 새 암 치료법 — 도 같은 자리에 미치지 못했다. AI 산업에서 한 번도 발생한 적 없는 사건이 발생했다는 사실 자체가 이 점수의 근거다.
지시의 법적 근거는 “국가안보 권한 (national security authorities)” 이라는 단어 하나로 묶였다. 어느 부처가 지시를 보냈는지, 어떤 EO (행정명령) 의 어떤 조항에 근거했는지는 공개되지 않았다. Anthropic 의 표현으로는, 정부가 “Fable 5 를 우회하거나 jailbreak 할 수 있는 방법” 을 발견했고, 그것이 “사이버보안 취약점을 노출시킬 수 있다” 고 판단한 것이 발단이었다. Anthropic 은 지시에 따르겠다고 밝혔다. 그러나 비례성에는 분명한 이의를 제기했다. “좁은 잠재적 jailbreak 하나가 상용 모델 리콜의 근거가 되어야 한다는 데 우리는 동의하지 않는다. 이 기준이 업계 전반에 적용된다면, 사실상 모든 새 모델 배포가 멈출 것이다.” 두 문장이 이 사건의 분기점이다. 정부의 한 통의 지시가 산업 전체의 출시 기준을 다시 그릴 수 있다는 가능성이 처음으로 가시화되었다.
사건의 풍경 — 무엇이, 언제, 어떻게 정지되었는가
지시의 효과는 즉각적이었다. 6 월 12 일 오후 5 시 21 분 이후, Fable 5 와 Mythos 5 의 모든 API 접근이 끊겼다. 영향 범위는 전 세계 모든 고객, 외국인, 그리고 Anthropic 자체 직원까지 포함되었다. Claude 4.7, Opus 4.7, Sonnet 4.6 같은 다른 모델은 영향 없이 계속 제공된다. 즉, 지시는 frontier 급 두 모델에 정확히 핀포인트로 떨어졌다. 정부 측이 “이 두 모델의 어떤 capability 가 문제다” 라고 식별할 수 있을 만큼 구체적인 평가가 사전에 이루어졌다는 의미다.
기술적으로 어떤 capability 가 문제였는가에 관한 추정은 HN 댓글에서 활발히 이어졌다. 가장 설득력 있는 시안은 사용자 rileyphone 의 한 줄에 있다. “Mythos 는 다른 모델이 못 찾는 zero-day 를 찾을 수 있는 것이 분명하다.” Anthropic 의 공식 표현 — “사이버보안 취약점 노출” — 과 정확히 합치하는 가설이다. Mythos 5 가 자율적으로 소프트웨어 zero-day 를 발견할 수 있다면, 그 capability 가 일반 공개되어 있는 상태는 곧 모든 인터넷 인프라의 취약점 사냥이 일반 사용자에게 열려 있는 상태와 같다. 그것이 미 정부가 정지를 결정한 첫 번째 시안이다. 같은 주에 LWN 이 “Fedora 의 AI 에이전트 소동” 을 정리한 사실도 이 가설을 뒷받침한다. 자율 AI 에이전트가 오픈소스 인프라에 침투할 수 있다는 사실이 정부 측 위협 모델에 들어왔다고 보는 것이 자연스럽다.
다른 추정도 있다. 사용자 mrandish 는 더 정치적인 시안을 던졌다. “DoD 가 Mythos 접근을 몇 주간 보류해 둔 뒤, Anthropic 의 사용 정책 (Acceptable Use Policy) 이 자율 무기와 감시를 제한한 것에 대한 보복으로 이 지시를 내렸을 가능성이 있다.” 사용자 vovavili 는 더 가시 돋친 표현을 썼다. “행정부가 협력하지 않는 회사를 처벌하기로 결정한 것이다.” 두 시안 모두 직접적 증거는 없다. 그러나 가설로서의 무게는 가볍지 않다. Anthropic 의 사용 정책은 다른 frontier lab 보다 명시적으로 군사·감시 용도에 선을 그어 두었고, 그것이 정부와의 협상에서 마찰점이 되어 온 것은 공공연한 사실이다.
법적·역사적 비교는 사용자 geuis 의 댓글이 가장 정확하다. “1990 년대 NSA 가 SSL 의 암호화 강도를 제한한 일 — Crypto Wars — 의 반복이다.” 그 비유는 깊다. 1990 년대 미국 정부는 강한 암호화 (40 비트 초과) 의 수출을 무기 수출과 동일하게 다루었고, Netscape 와 RSA 의 강한 암호화 export 를 막았다. 그 결과 1995 년의 PGP 사건, 1996 년의 Junger 판결, 2000 년의 export 규제 자유화까지 이어지는 5 년의 법정 다툼이 일어났다. 같은 풍경이 frontier AI 모델에 옮겨졌다고 보는 것이 geuis 의 입장이다. 다만 차이가 있다. 이번에는 export 가 아니라 domestic 접근까지 정지되었다. Crypto Wars 보다 한 발 더 나간 단계다.
Anthropic 의 입장은 가시적인 두 부분으로 갈린다. 한쪽에서는 지시에 따른다고 명시했다. 다른 쪽에서는 그 지시의 비례성과 절차에 명확한 이의를 제기했다. “투명하고 법규에 근거한 거버넌스 프로세스가 필요하며, 그것이 기술적 사실에 기반해야 한다” 는 표현이 그 핵심이다. 즉 이번 지시는 그 두 조건을 모두 충족하지 못했다고 본 것이다. 어느 부처가 지시를 내렸는지, 어떤 법률 조항이 근거인지, 어떤 기술 평가가 사실적 기반인지 — 셋 다 공개되지 않았다.
안전·검열·산업 — 세 갈래의 해석
이 사건의 무게는 세 갈래의 해석 가운데 어디에 서느냐에 따라 달라진다.
첫째, AI 안전의 새 표준이라는 해석. 미 정부의 입장에서 보면, frontier 모델의 자율 zero-day 발견 capability 는 진짜 위협이다. 같은 capability 가 국가 행위자의 손에 들어가면 critical infrastructure 의 한 줄짜리 명령으로 비활성화될 수 있다. 그것을 막기 위해서는 그 capability 가 일반 시장에 풀린 모델로 존재해서는 안 된다. 이 해석에서 이번 지시는 AI 안전의 첫 번째 명시적 규제 행위로 기록된다. 그동안 백서, 행정명령, 비공개 협의로 작동해 온 AI 안전 거버넌스가 처음으로 “특정 모델의 시장 회수” 라는 가시적 행위로 옮겨왔다.
둘째, 검열의 시작이라는 해석. 사용자 libraryofbabel 의 한 줄이 이 입장을 정확히 짚는다. “이것은 정부가 강력한 LLM 을 일반 공중에게 제공하는 것을 제한하기 시작하는 시점이 될 수 있다.” 동기의 정당성과 무관하게, 이 지시는 새 선례다. frontier 모델을 시장에서 거두어들이는 권한이 행정부에 있다는 사실이 처음으로 가시화되었다. 다음번 지시가 어떤 모델의 어떤 capability 를 향할지를 시장이 미리 알 수 없다. 모델 회사들은 capability 의 한계를 정부의 지시 가능성을 염두에 두고 사전 조정 (preemptive trimming) 하게 된다. 이는 미국 자체 frontier 모델의 기술적 상한을 행정부가 결정할 수 있게 된다는 의미다.
셋째, 산업 거버넌스의 비대칭이라는 해석. Anthropic 의 자체 표현 — “이 기준이 업계 전반에 적용된다면, 모든 새 모델 배포가 멈출 것이다” — 가 정확히 이 입장이다. 사용자 locknitpicker 의 지적이 더 날카롭다. “벤치마크상으로는 GPT-5.5 와 Gemini 3.1 이 Claude Fable 을 능가한다. 왜 Fable 만 정지되었는가?” Anthropic 본인이 자기 글에서 “GPT-5.5 도 비슷한 사이버보안 capability 를 갖는 공공 모델” 이라고 명시했다. 그렇다면 같은 capability 의 다른 모델은 왜 지시 대상이 아닌가. 이 비대칭이 두 번째 가설 (정치적 보복) 의 근거가 된다. 안전의 일관된 기준이 작동했다면 같은 capability 의 다른 모델도 같은 지시를 받아야 한다. 받지 않았다는 사실이 의도를 의심하게 만든다.
또 다른 시안은 사용자 ls612 의 한 줄이다. “중국 lab 들이 open-weights 모델을 푸는 것은 추론 컴퓨팅이 부족하기 때문이다. 미국 모델을 제한하면 중국 경쟁사를 의도치 않게 이롭게 한다.” 이 시안은 산업 경쟁의 관점이다. DeepSeek, Qwen, Yi, Kimi 같은 중국 frontier 모델이 open-weights 로 풀려 있는 시대에, 미국 frontier 모델을 closed 하게 만드는 지시는 글로벌 시장에서 미국 산업의 자기 손발 묶기다. AI 의 strategic competition 에서 미국이 자기 자산을 줄이는 결정이 국가안보 명분으로 정당화된다는 모순이 이 입장의 핵심이다.
세 갈래 해석 가운데 어디로 가든, 합의된 한 가지는 있다. 이번 사건은 AI 산업의 거버넌스 구조에 새 변수 — “특정 모델의 정부 지시 정지” — 를 도입했다. 그 변수가 시장에 정착하는 방식에 따라 향후 18 개월의 산업 풍경이 다르게 그려진다.
향후 18 개월의 풍경 — 산업, 사용자, 경쟁국에게의 함의
세 갈래의 풍경을 그려 보자.
산업 측. 모든 frontier lab 은 이제 자기 모델의 capability profile 을 사전에 정부와 비공식 협의하는 단계를 추가하게 된다. OpenAI, Google, Anthropic, Meta, xAI 모두가 동일한 처지다. 한 모델을 launch 하기 전, “이 모델의 어떤 capability 가 정부 지시의 대상이 될 가능성이 있는가” 를 자체 평가해야 한다. 이 평가가 RLHF 단계 또는 mid-training 단계의 capability trimming 으로 이어질 가능성이 높다. 그것이 미국 frontier 모델의 진짜 상한을 행정부가 결정하게 만드는 메커니즘이다. Anthropic 의 글에 있는 “투명한 거버넌스 프로세스” 요구는 이 메커니즘이 비공식적·임의적으로 작동하는 것을 막아 달라는 호소다.
사용자 측. 가장 큰 손실은 Fable 5 와 Mythos 5 를 의존하던 연구자와 기업이다. 사용자 dagss 의 댓글이 그 손실의 모양을 정확히 보여 준다. “Fable 은 마치 다른 사람이 Opus 를 나 대신 지도해 주는 것 같았다.” Fable 의 특정 capability — 보통 reasoning · 도구 사용의 정확도 — 가 동급 다른 모델과 미세하게 다른 자리에 있었고, 그 차이가 일부 워크로드의 의존 대상이었다. 다른 모델로의 전환 비용은 작지 않다. 같은 손실이 보안 연구 커뮤니티에 떨어진다. zero-day 발견 capability 가 정부 지시의 근거였다면, 같은 capability 를 합법적으로 활용해 온 화이트해커와 보안 연구자도 그 도구를 잃었다. 한 도구의 정지가 양쪽 진영 모두에 그 도구의 부재를 만든다.
경쟁국 측. 중국의 Qwen, DeepSeek, Kimi 가 이번 지시에서 누리는 상대적 우위는 명확하다. 미국 frontier 모델의 capability 상한이 행정부의 검토를 거치는 동안, 중국 모델은 그 검토 없이 시장에 풀린다. 그 비대칭이 AI strategic competition 의 흐름을 어떻게 바꾸는가가 다음 12 개월의 핵심 변수다. 사용자 blueblisters 의 입장은 정반대다. “미국은 여전히 가장 큰 단일 시장이다. 자동화가 본격화되면 미국이 상상할 수 없는 규모로 부유해진다. 수출 규제는 단기 비용을 감수하더라도 장기적인 국가 통제력을 위한 합리적 거래다.” 두 입장이 시장에서 부딪히는 자리가 6 개월 뒤 nvidia 의 H200 / B100 수출 정책 갱신과 함께 가시화될 것이다.
마지막으로, 사용자 robwhales74 가 짚은 모순을 잊을 수 없다. “이 정지는 아이러니하게 Anthropic 의 안전 최우선 메시지를 정당화한다. 동시에 원칙적 입장이 국가 행위에서 어떤 면제도 주지 않는다는 사실을 보여 준다.” Anthropic 은 frontier lab 가운데 가장 명시적으로 AI 안전을 사업 정체성에 새긴 회사다. 그 회사가 가장 먼저 정부 지시 정지의 대상이 되었다는 사실은 두 가지를 동시에 말한다. 첫째, Anthropic 의 안전 우려가 정부에서도 진지하게 받아들여졌다는 신호. 둘째, 그 진지함이 회사 측의 자율적 거버넌스를 신뢰하는 형태가 아니라 정부의 직접 개입으로 표현된다는 신호. 후자는 Anthropic 의 전략이 의도한 것과 정확히 반대다.
결론 — 첫 번째 도미노인가, 한 번뿐인 사건인가
미국 정부가 frontier AI 모델 두 개를 시장에서 거두어들였다. 이것은 AI 안전의 새 표준인가, 산업 전체의 모델 배포를 멈춰 세우는 첫 번째 도미노인가. 답은 다음 12 개월에 결정된다. 두 번째 지시가 GPT-5.5 또는 Gemini 3.1 에 떨어지는가가 첫 번째 분기점이다. 떨어진다면 안전 표준의 일관된 적용으로 해석할 여지가 생긴다. 떨어지지 않는다면 locknitpicker 의 의심 — “왜 Fable 만인가” — 이 이번 사건의 진짜 정체를 가르킨다. 두 갈래 모두가 향후 18 개월의 frontier 모델 풍경을 다르게 그린다.
Anthropic 의 호소 — “투명하고 법규에 근거한 거버넌스 프로세스” — 가 그저 한 회사의 절박한 호소가 아니라 산업 전체의 합의된 요구가 되는 자리에서, 미국의 AI 거버넌스가 임의적 행정 행위가 아닌 명문화된 절차로 옮겨갈 가능성이 열린다. 그것은 정부와 frontier lab 모두에게 더 안정된 게임이다. 그러나 그 자리에 닿기까지는 시간이 더 걸린다. 그동안 모든 frontier lab 은 자신의 모델 launch 마다 “다음 정지의 대상은 우리가 아닐까” 를 자문하게 된다. 6 월 12 일 오후 5 시 21 분이 그 자문의 시작이었다.
출처: