미국 정부의 Fable 5 및 Mythos 5 접근 중단 지시에 대한 성명

2026-06-12

요약

앤트로픽은 미국 정부가 국가 안보를 이유로 Fable 5와 Mythos 5 모델 접근을 전면 중단하라는 지시를 내렸으며, 이는 사소하고 비범용적인 '탈옥' 가능성에 기반한 조치로 보이고, 앤트로픽은 이에 동의하지 않고 최대한 빠른 복원을 위해 노력하고 있다고 밝혔어요.

인사이트

미국 정부는 국가 안보를 이유로 앤트로픽의 Fable 5와 Mythos 5 모델의 접근을 전면 중단하라는 수출 통제 지시를 내렸어요.
앤트로픽은 정부의 지시에 따라 모델 접근을 중단했지만, 발견된 '탈옥' 방법이 좁고 비범용적이며 다른 모델에서도 비슷한 기능이 가능하다는 점에서 상업용 모델 리콜의 정당성에 대해 동의하지 않고 있어요.
앤트로픽은 정부의 조치가 투명하고 공정하며 기술적 사실에 근거해야 하는 AI 모델 규제의 원칙에 부합하지 않는다고 비판하며, 이는 미래 선도 모델 배포에 중대한 영향을 미칠 수 있다고 경고했어요.

왜 중요한가

이번 사건은 AI 모델의 안전성, 국가 안보, 그리고 규제 기관의 개입이 첨단 AI 개발 및 배포에 미치는 영향을 명확히 보여줍니다. 특히, '탈옥'과 같은 취약점 발견 시 모델 중단이 합당한지에 대한 논쟁을 촉발하며, AI 규제 프레임워크가 기술적 현실과 시장 파급력을 고려하여 더욱 신중하게 설계되어야 함을 시사해요. 이는 AI 거버넌스의 중요한 선례가 될 수 있습니다.

#AI규제 #모델안전성 #생성형AI

미국 정부의 Fable 5 및 Mythos 5 접근 중단 지시에 대한 성명

미국 정부가 국가 안보를 이유로 Fable 5와 Mythos 5에 대한 접근을 중단하라는 수출 통제 지시를 내렸어요. 이 지시는 미국 안팎에 있는 모든 외국인, 심지어 외국인인 앤트로픽 직원까지도 모델에 접근할 수 없게 한다는 내용이에요. 이 명령 때문에 앤트로픽은 규정을 준수하기 위해 모든 고객에게 Fable 5와 Mythos 5 사용을 갑자기 중단해야 했어요. 다른 앤트로픽 모델들은 접근이 그대로 유지되니 걱정하지 마세요.

앤트로픽은 오늘 오후 5시 21분(동부 표준시)에 정부로부터 이 지시를 받았어요. 공문에는 국가 안보 우려에 대한 구체적인 내용은 없었고요. 앤트로픽이 이해하기로는, 정부가 Fable 5를 우회하거나 "탈옥(jailbreak)"하는 방법을 알게 되었다고 생각하는 것 같아요. 앤트로픽은 이 특정 기술이 이전에 알려졌던 사소한 취약점 몇 개를 식별하는 데 사용되는 시연을 검토했어요. 이 취약점들은 모두 비교적 간단해 보였고, 다른 공개 모델들도 우회 방법 없이 이런 취약점을 발견할 수 있다는 것을 확인했어요.

앤트로픽은 Fable의 안전 장치와 관련해 런칭 블로그 게시물에서 다음과 같은 입장을 밝힌 바 있어요:

앤트로픽은 Fable이 사이버 보안(및 기타) 관련 작업에 오용될 가능성을 크게 줄여주는 강력한 안전 장치를 마련해 두었어요. 사실, 앤트로픽의 안전 장치들은 너무 강력해서 많은 사용자가 지나치게 광범위하다고 불평하기도 했어요.
Fable 출시를 앞둔 몇 주 동안, 앤트로픽은 미국 정부, 영국 AISI, 여러 민간 제3자 기관 및 내부 팀과 협력하여 Fable의 안전 장치를 수천 시간 동안 레드팀(red-team) 테스트했어요.
이 테스트 결과, Fable의 안전 장치가 이전에 배포된 어떤 모델보다 훨씬 더 효과적이라는 것을 보여줬어요.
아직까지 어떤 테스터도 범용 탈옥(universal jailbreak)—즉 모델의 안전 장치를 매우 광범위하게 우회하여 다양한 사이버 기능을 해제할 수 있는 탈옥 방법—을 찾지 못했어요.
앤트로픽은 현재 어떤 모델 제공업체도 완벽한 탈옥 방지 기능을 갖추는 것은 불가능하다고 생각해요. 업계에서 사용되는 모든 안전 장치는 *비범용 탈옥(non-universal jailbreak)*에 취약하고(특정 상황에서 일부 사이버 정보를 얻을 수 있는), 미래에는 범용 탈옥도 결국 발견될 가능성이 높아요. 앤트로픽은 Fable 5를 출시할 때 이 점을 분명히 밝혔어요.
오늘날 완벽한 탈옥 방지가 불가능해 보이는 만큼, 앤트로픽은 Fable 5에 심층 방어(defense in depth) 전략을 채택했어요. 앤트로픽은 탈옥이 좁거나(비범용 탈옥의 경우) 생산하는 데 매우 비용이 많이 들도록(범용 탈옥의 경우) 만들고, 이를 철저한 모니터링과 결합하여 모든 성공적인 공격을 신속하게 감지하고 차단하는 것을 목표로 했어요. 앤트로픽이 Fable 고객 데이터의 30일 보존을 요구하는 이유도 바로 여기에 있어요. 이는 고객들에게 실질적인 비용 부담이 있지만, 탈옥을 연구하고 완화하는 데 도움이 되거든요.
앤트로픽은 이 심층 방어 전략을 지지해요. 이 전략은 Fable이 초래하는 위험을 줄여주며, 업계 전반에 이미 배포된 기존 모델의 위험과 비슷한 수준으로 만들어요.
심지어 앤트로픽은 유해한 결과로 이어진 우려스러운 비범용 잠재적 탈옥에 대한 공개조차 받은 적이 없어요. 앤트로픽에 공개된 잠재적 탈옥들은 모두 완전히 무해한 반응이거나, Mythos에만 특화된 성능 향상을 제공하지 않는 사소한 발견들이에요.

현재까지 정부는 앤트로픽에 잠재적인 좁고 비범용적인 탈옥에 대한 구두 증거만을 제시했어요. 이 탈옥은 본질적으로 모델에게 특정 코드 베이스를 읽고 소프트웨어 결함을 수정하도록 요청하는 방식이에요. 앤트로픽이 이해하기로는, 하나의 잠재적 탈옥이 정부와 공유된 것 같아요. 앤트로픽은 정부 지시의 근거라고 생각되는 보고서를 검토했고, 그 보고서에 나타난 기능 수준이 다른 모델(OpenAI의 GPT-5.5 포함)에서도 널리 이용 가능하며, 시스템을 안전하게 지키는 방어자들이 매일 사용하고 있다는 점을 확인했어요. 앤트로픽은 앞으로 24시간 이내에 더 자세한 내용을 공유할 예정이에요.

앤트로픽은 정부의 법적 지시를 준수하며 모든 사용자에 대해 Fable 5와 Mythos 5 접근을 중단하고 있어요. 하지만 앤트로픽은 좁은 잠재적 탈옥 발견이 수억 명에게 배포된 상업용 모델을 리콜할 이유가 된다는 데에는 동의하지 않아요. 만약 이런 기준이 업계 전반에 적용된다면, 모든 선도 모델 제공업체의 새로운 모델 배포가 사실상 중단될 것이라고 앤트로픽은 생각해요.

앤트로픽이 공개적으로 밝혔듯이, 정부는 투명하고 공정하며 명확하고 기술적 사실에 근거한 법적 절차의 일환으로 안전하지 않은 배포를 차단할 능력을 가져야 한다고 믿어요. 이번 조치는 이러한 원칙을 따르지 않고 있어요.

고객 여러분께 이런 불편을 드리게 되어 죄송해요. 앤트로픽은 이번 일이 오해에서 비롯된 것이라고 생각하며, 가능한 한 빨리 접근을 복원하기 위해 노력하고 있어요.

미국 정부의 Fable 5 및 Mythos 5 접근 중단 지시에 대한 성명

요약

인사이트

왜 중요한가

미국 정부의 Fable 5 및 Mythos 5 접근 중단 지시에 대한 성명

관련 콘텐츠

첫 번째 앤트로픽 공개 기록 결과

TCS와 앤트로픽, 규제 산업에 클로드(Claude) 제공 위해 파트너십 체결

DXC, 은행, 항공사 및 기타 규제 산업이 의존하는 시스템에 클로드(Claude) 통합 예정