클로드 페이블 5, 다시 돌아왔어요!

2026-06-24

요약

미국 정부의 수출 통제와 탈옥 이슈로 일시 중단되었던 클로드 페이블 5와 미토스 5 모델이 다시 사용 가능해졌어요. 앤트로픽은 강화된 안전장치와 업계 전반의 '탈옥' 평가 프레임워크 구축, 그리고 정부와의 협력을 통해 AI 안전을 강화하고 있답니다.

인사이트

클로드 페이블 5 및 미토스 5 모델이 정부의 수출 통제 해제 및 강화된 안전장치 적용으로 인해 다시 배포되었어요.
앤트로픽은 '방어 심층(defense in depth)' 방식과 확대된 '안전 마진(safety margin)'을 포함한 강력한 안전 분류기를 통해 모델의 오용을 방지하고 탈옥을 완화하고 있어요.
AI 모델의 '탈옥' 심각도를 객관적으로 평가할 수 있는 산업 표준 프레임워크 구축을 위해 아마존, 마이크로소프트, 구글 등과 협력 중이며, 미국 정부와의 AI 보안 협력도 강화하고 있어요.

왜 중요한가

이번 사례는 정부 규제가 최첨단 AI 모델의 배포에 얼마나 빠르게 영향을 미칠 수 있는지 보여주는 중요한 사건이에요. 모델의 안전성, 특히 '탈옥'과 같은 잠재적 위협에 대한 견고한 대응책 마련이 필수적이며, 이를 위한 업계 전반의 통일된 표준과 정부-산업 간의 긴밀한 협력이 AI의 안전하고 책임감 있는 개발 및 활용에 얼마나 중요한지 강조하고 있어요.

#AI #클라우드 #생성형AI

페이블 5, 다시 돌아왔어요!

6월 12일 금요일, 미국 정부가 앤트로픽의 최신 모델인 클로드 페이블 5와 클로드 미토스 5에 수출 통제를 적용했어요. 이로 인해 앤트로픽은 미국 내외의 외국인에게 모델 접근을 제한해야 했어요. 이 명령이 즉시 발효되었고, 실시간으로 국적을 확인할 확실한 방법이 없어서, 모든 사용자의 두 모델 접근을 중단했죠.

오늘, 6월 30일부로, 페이블 5와 미토스 5에 대한 수출 통제가 해제되었어요.

페이블 5는 내일, 7월 1일 수요일부터 클로드 플랫폼, Claude.ai, 클로드 코드, 클로드 코워크를 통해 전 세계 사용자에게 제공될 예정이에요. Pro, Max, Team 및 일부 Enterprise 플랜1의 경우, 페이블 5는 7월 7일까지 주간 사용 한도의 최대 50%까지 포함될 예정이며, 그 이후에는 사용 크레딧을 통해 사용할 수 있어요. 앤트로픽은 AWS, Google Cloud, Microsoft Foundry에서 가능한 한 빨리 접근을 다시 활성화할 예정이에요.

앤트로픽은 6월 26일 미국 정부의 승인에 따라 미국 내 일부 조직에 미토스 5 접근도 복원했어요. 글래스윙 프로그램에 참여하는 더 넓은 범위의 국내외 파트너들에게 접근을 확대하기 위해 정부와 계속 협력하고 있어요.

이 글의 나머지 부분에서는 네 가지 영역에 대한 추가 세부 정보와 업데이트를 제공해 드릴게요.

사건의 타임라인 및 안전장치 업데이트. 수출 통제 지침으로 이어진 사건들과 앤트로픽이 새로운 안전장치로 어떻게 문제를 해결했는지 설명해 드릴게요.
안전장치에 대한 앤트로픽의 일반적인 접근 방식. 모델의 잠재적으로 위험한 사이버보안 사용을 탐지하기 위해 안전 분류기를 어떻게 사용하는지 더 자세한 맥락을 제공해 드릴게요.
공유된 산업 프레임워크. 건설적인 해결책을 찾았지만, 이번 일로 AI 모델의 잠재적인 '탈옥'(모델의 안전장치를 우회하는 기술)을 평가하고 수정할 일관된 방법이 업계에 필요하다는 게 명확해졌어요.2 특정 탈옥의 심각성을 판단하는 공유된 표준은 AI 개발자들이 새로운 발견을 긴급하게 처리하고, 더 안전하게 고성능 모델을 출시하며, 위험 수준을 정부 및 산업 파트너에게 일관되게 전달하는 데 도움이 될 거예요. 아마존, 마이크로소프트, 구글 및 다른 글래스윙 파트너들과 함께, 앤트로픽은 이런 프레임워크 개발을 시작했고, 아래에서 자세히 설명해 드릴게요.
더 깊은 정부 협력. 앤트로픽은 새로운 사전 출시 테스트, 정보 공유 및 연구 협력을 통해 미국 정부와의 협력 수준도 강화하고 있어요. 마지막 섹션에서 이 더 깊은 협력에 대해 설명해 드릴게요.

타임라인 및 안전장치 업데이트

앤트로픽은 6월 9일 화요일에 페이블 5와 미토스 5를 출시했어요. 두 모델 모두 동일한 기본 모델을 공유하지만, 페이블 5는 일반적인 사용에 더 안전하도록 강력한 안전장치를 적용하여 출시되었죠. 안전장치가 더 적은 미토스 5는 국방 사이버보안 목적으로 소수의 신뢰할 수 있는 프로젝트 글래스윙 파트너에게만 공개되었어요.

6월 12일의 수출 통제 지침은 정부가 아마존 연구원들이 페이블 5의 안전장치를 우회하는 방법을 찾아냈다는 보고서를 알게 된 후에 내려졌어요. 이 보고서에는 모델이 여러 소프트웨어 취약점을 식별하는 내용이 담겨 있었어요. 한 경우에는 모델이 해당 취약점이 어떻게 악용될 수 있는지 보여주는 코드를 생성했고요. 지난 2주 동안, 앤트로픽은 정부 및 아마존을 포함한 다른 파트너들과 긴밀히 협력하여 보고서와 증거를 검토했어요.

앤트로픽의 테스트 결과, 클로드 오푸스 4.8, GPT-5.5, 키미 K2.7을 포함한 다른 덜 강력한 모델들도 보고서에서 페이블 5가 식별했던 것과 동일한 취약점을 식별할 수 있다는 것을 확인했어요. 단일 취약점의 악용 방법을 시연하는 부분에서는 앤트로픽이 테스트한 모든 모델(클로드 하이쿠 4.5, 소넷 4.6, 오푸스 4.6, 오푸스 4.7, 오푸스 4.8, GPT-5.4, GPT-5.5, 키미 K2.7 포함)이 페이블 5와 동일한 시연을 생성할 수 있었어요.

중요한 점은, 보고된 기술이 미토스 수준의 고유한 사이버 기능을 노출하지 않았다는 거예요. 이 동작은 페이블 5 안전장치의 경계선 케이스를 반영했어요. 아래에서 설명하겠지만, 위험할 가능성이 낮지만 만약을 위해 안전장치에 의해 차단되는 작업들이 있거든요. 보고된 기술은 이러한 동작 중 하나에 접근을 허용했지만, 이는 일상적인 방어 사이버보안 작업에만 관련된 것이었어요.

그럼에도 불구하고, 앤트로픽은 보고된 우회 문제를 신속하게 해결했어요. 정부와 긴밀히 협력해서, 앤트로픽은 보고서에 설명된 동작을 표적으로 삼아 차단하는 향상된 안전 분류기를 훈련했어요. 페이블 5에 대한 요청이 차단되면 사용자에게 알림이 가고, 해당 요청은 대신 오푸스 4.8로 전송될 거예요.

새로운 분류기는 아마존 보고서에 설명된 특정 기술이 99% 이상의 경우에서 차단됨을 의미해요. 아주 적은 비율의 경우에 모델이 사이버 공격자에게 도움이 될 만큼 상세하지 않은 정보를 제공할 수도 있어요. 아래에서 설명하겠지만, 모델의 안전장치는 모든 저위험 일상 사이버 방어 기능을 차단할 것으로 예상되지 않아요. 잠재적으로 해로울 수 있는 기능만 차단하는 거죠. 미국 상무부 AI 표준 및 혁신 센터(CAISI)의 연구원들은 앤트로픽의 이전 안전장치와 새로운 안전장치 모두를 테스트했으며, 그들이 매우 강력하다는 데 동의했어요.

새로운 분류기는 또한 일상적인 코딩 및 디버깅 작업 중 무해한 요청을 더 자주 플래그 지정하는 대가로 작동해요. 모든 안전장치와 마찬가지로, 앤트로픽은 이것을 계속해서 개선하여 실제 오용과 합법적인 요청을 더 잘 구별하고 오탐지를 줄일 거예요.

사이버보안 안전장치에 대한 앤트로픽의 접근 방식

클로드 미토스 5는 다른 어떤 모델보다, 그리고 대부분의 숙련된 인간 보안 전문가들보다 소프트웨어 취약점을 더 효과적으로 찾고 악용할 수 있어요. 이러한 엄청난 사이버보안 능력은 사이버 공격에 오용하려는 악의적인 행위자들에게 미토스 5를 특별히 매력적으로 만들죠.

하지만 클로드 페이블 5는 그런 독특한 공격 능력을 제공하지 않아요. 앤트로픽이 모델에 적용한 안전장치 중 가장 강력한 것을 적용해서 출시했기 때문이에요. 출시 한 달 전, 앤트로픽은 이 문제에 전념하는 연구원과 엔지니어 수를 두 배로 늘리기 위해 앤트로픽 내 여러 팀에서 인력을 재배치했어요.

페이블 5는 다양한 안전 메커니즘을 가지고 출시되었는데, 각각은 완벽한 방어를 제공하지 않지만, 결합하면 모델을 오용하기 매우 어렵게 만들어요('방어 심층(defense in depth)' 접근 방식이라고도 불리죠). 일부 방어는 모델이 위험한 요청에 대한 지원을 거부하도록 훈련하는 것을 포함하고요. 다른 방어는 오용 패턴을 소급하여 분석하는 것을 포함해요.

특히 중요한 안전 메커니즘 중 하나는 '분류기(classifiers)'라는 거예요. 이들은 상호작용 중에 모델이 잠재적으로 해로운 사이버보안 작업을 수행하도록 요청받거나(또는 잠재적으로 해로운 결과물을 생성할 때) 이를 감지하는 더 작은 자동화된 AI 시스템이죠. 이런 일이 발생하면, 분류기는 모델이 요청에 응답하는 것을 차단해요. 이 분류기들의 궁극적인 목표는 모델이 고유하게 위험한 행동에 참여하는 것을 방지하는 거예요.

모든 안전 메커니즘처럼, 분류기도 실수를 할 수 있어요. 잠재적으로 위험한 콘텐츠를 놓치기도 하고, 어떤 경우에는 의도적으로 '탈옥(jailbreak)'될 수도 있어요. 즉, 사용자가 특이한 방식으로 모델에 프롬프트를 보내 분류기를 속이고 시스템이 차단했어야 할 해로운 결과물을 모델이 생성하도록 할 수 있는 거죠.

그래서 앤트로픽은 안전 분류기가 분명히 무해하다고 알려진 요청에서도 작동하도록 의도적으로 설정했어요. 이 '안전 마진(safety margin)' 접근 방식은 요청이 분류기 트리거를 피하려면 매우 명확하게 안전해야 한다는 것을 의미해요(아래 다이어그램의 A행 참조). 사용자들은 이 안전 마진을 모델이 합리적이고 무해한 일부 요청에 응답하기를 거부하는 것으로 경험할 수 있어요.

페이블 5의 경우, 앤트로픽은 이 안전 마진을 이전의 어떤 출시보다 훨씬 크게 만들었어요(B행). 즉, 더 많은 무해한 요청이 차단될 수 있다는 뜻이죠. 앤트로픽은 이런 종류의 오탐지가 사용자들에게 실망을 줄 수 있다는 것을 이해했지만, 모델의 다른 기능을 널리 사용할 수 있도록 하기 위해 이런 절충을 선택했어요.

AI 모델의 안전 마진을 보여주는 다이어그램이에요. 다양한 크기의 안전 마진(A, B)과 사소한 탈옥(C)의 영향을 보여주고 있어요. — An illustration of our cybersecurity safety classifiers. When a request is made to the model, the classifiers detect whether it is benign (and allowed), or potentially harmful (and blocked). The classifiers block ambiguous requests (those that are clearly to do with cybersecurity but could potentially be for defensive purposes, like finding security vulnerabilities) and harmful requests (those that are clearly dangerous, such as a request to build a chain of software exploits). As shown in row A, we also include a “safety margin”, where the classifier will block requests that are probably benign but have some small chance of being harmful. This increases our confidence that all harmful requests will be blocked. For Fable 5 (row B) we made the safety margin even larger, meaning that more benign requests would be blocked—but fewer genuinely harmful requests would be missed. “Vulns” = vulnerabilities.

안전 마진은 또한 탈옥을 완화하는 데 도움이 돼요. 많은 탈옥은 좁은 범위에 국한되어 있어요. 매우 특정 모델 동작만을 차단 해제할 뿐, 그 이상은 아니죠. 어떤 경우에는 가상의 사용자가 사소한 방식으로 모델을 탈옥하여 안전 마진(또는 때로는 모호하게 해로운 행동)에 침투할 수 있지만, 앤트로픽이 차단하고자 하는 핵심적인 해로운 행동까지는 아니에요(아래 C행 참조). 앤트로픽은 지금까지 보고된 페이블 5의 탈옥이 이 사소한 범주에 속한다고 보고 있어요.

더 심각한 탈옥은 더 해로운 행동을 차단 해제해요. 좁은 범위의 해로운 탈옥(D행)은 일부 특정 해로운 행동을 유발할 수 있어요. 이러한 탈옥은 일반적으로 심각도가 낮거나 중간 정도인데, 그 이유는 좁은 범위가 공격자를 제한하기 때문이에요. 가장 우려되는 범주는 '보편적인 탈옥(universal jailbreak)'(E행)으로, 이는 광범위한 해로운 행동을 차단 해제하는 거죠.

심각도와 폭에 따른 AI 모델 탈옥의 다양한 유형을 보여주는 다이어그램이에요. 좁은 범위의 해로운 탈옥부터 보편적으로 해로운 탈옥까지를 나타내고 있어요. — How jailbreaks interact with our safety classifiers. In the case of a minor jailbreak (row C), the classifiers do not block the request, but the request is still within our safety margin (and is thus very unlikely to be harmful). In a narrow harmful jailbreak (row D), the prompt breaches the classifiers and unblocks a specific harmful behavior from the model. In a universal jailbreak (row E), a prompt unblocks an entire class of harmful behaviors.

앤트로픽이 페이블 5를 출시할 때 언급했듯이, 어떤 AI 모델이든 탈옥에 완전히 견고(즉, 영향을 받지 않도록)하게 만드는 것은 아마도 불가능할 거예요.3 앤트로픽은 자사 모델에서 일부 탈옥이 발견될 것으로 예상하고 있으며, 그 심각성은 다양할 거예요. 많은 사소한 탈옥이 있을 것이고, 일부 좁은 범위의 해로운 탈옥도 있겠죠. 이 글을 쓰는 시점에는 페이블 5에 대한 보편적인 탈옥은 발견되지 않았지만, 전문가 안전 연구원들은 계속해서 레드팀 테스트를 하고 있어요. 앤트로픽은 앤트로픽과 안전 파트너들이 악의적인 행위자들이 해를 입히기 전에 주요 탈옥을 가장 먼저 찾아내고 수정할 수 있도록 노력하고 있어요.

위에 설명된 신중한 접근 방식은 대부분의 탈옥이 위험한 행동을 성공적으로 차단 해제하지 못한다는 것을 의미해요. 앤트로픽의 분류기는 성공적인 탈옥을 매우 비싸고 노력이 많이 들게 만들며, 설령 탈옥이 성공하더라도 추가적인 방어 계층이 추가적인 완화를 제공해요. 앤트로픽은 새로운 탈옥 기술에 대해 더 많이 알게 됨에 따라 분류기를 계속 업데이트할 거예요.

탈옥에 대한 합의된 산업 프레임워크

현재 AI 업계에는 AI 탈옥의 심각성을 객관적인 용어로 설명하는 데 대한 합의가 없어요. 이는 새로운 탈옥 기술이 발견될 때마다 상당한 불확실성을 더해요. 개발자들은 어떤 발견에 가장 시급하게 집중해야 할지에 대한 합의된 표준이 없고, 정부는 언제 조치를 취해야 할지에 대한 합의된 표준이 없는 거죠.4

강력한 사이버보안(및 기타) 기능을 가진 더 많은 모델이 훈련되고 평가되며 출시됨에 따라 이 문제는 앞으로 몇 달 안에 더욱 심각해질 거예요. AI 탈옥을 평가하는 공통 표준은 앤트로픽과 다른 회사들이 새로운 모델을 안전하게 출시하고, 사용자들이 고급 기능을 최대한 활용할 수 있도록 도울 거예요.

따라서 앤트로픽은 아마존, 마이크로소프트, 구글 및 다른 글래스윙 파트너들과 협력하여 AI 탈옥의 심각성을 평가하고 AI 개발자들이 이에 어떻게 대응해야 하는지에 대한 합의된 프레임워크를 개발하고 있어요. 다른 산업 파트너 및 모델 제공업체들도 이 노력에 동참해 주시기를 초대해요.

현재 앤트로픽의 제안은 주어진 탈옥을 아래 네 가지 다른 기준으로 점수 매기는 거예요. 처음 두 가지는 탈옥이 공격자에게 제공하는 것을 설명하고, 나머지 두 가지는 탈옥이 얼마나 빨리 실제 문제로 이어질 수 있는지를 설명하죠.

기능 획득(Capability gain). 탈옥이 사용자에게 기존 도구를 얼마나 뛰어넘는 기능을 제공하나요? 기존에 널리 사용 가능한 도구(다른 약한 AI 모델 포함)가 탈옥된 모델과 동일한 기능을 제공할 수 있다면 점수는 낮을 거예요. 반면, 탈옥이 도메인 전문가조차도 크게 가속화할 수 있는 모델 기능을 차단 해제한다면 점수는 높을 거예요.
기능 획득의 폭(Breadth of capability gain). 동일한 탈옥 기술이 얼마나 많은 개별적인 공격 작업에 작동하나요? 탈옥이 모델이 좁은 표적만을 추구하도록 허용하는 경우는 점수가 낮을 거예요. 동일한 탈옥 기술이 여러 다른 표적이나 기술에 작동하는 경우는 점수가 높을 거예요.
무기화 용이성(Ease of weaponization). 탈옥을 공격으로 전환하는 데 얼마나 많은 인간의 노력이 필요한가요? 탈옥이 숙련된 프롬프트와 많은 재시도를 포함한다면 점수는 낮을 거예요. 탈옥이 단일 프롬프트 또는 첫 번째나 두 번째 시도에 작동한다면 점수는 높을 거예요.
발견 가능성(Discoverability). 누군가가 이 기술을 얼마나 쉽게 얻을 수 있나요? 전문가 지식이 필요한 경우 점수는 낮을 거예요. 이미 널리 알려져 있고 온라인에서 사용 가능하다면 점수는 높을 거예요.

앤트로픽은 새로 발견된 탈옥에 대한 대응을 조정하기 위해 이 심각도 프레임워크를 사용할 것을 제안해요. 가장 심각한 등급의 탈옥(예를 들어, 다른 특성 외에도 중요한 전력망이나 은행 시스템에 파괴적인 영향을 적극적으로 미치는 데 사용되는 탈옥)에 대해서는 심각성이 확인되는 즉시 예비 완화 조치를 배포하기 시작할 거예요. 또한 앤트로픽은 주요 탈옥 제보 채널을 24시간 모니터링할 팀을 만들고 있어요.

탈옥을 점수 매기는 어떤 방법이든 완벽하지는 않을 거예요. 그럼에도 불구하고, 공통 프레임워크를 통해 주어진 발견의 대략적인 심각성을 전달할 수 있다는 데 가치가 있어요. 이것은 진행 중인 작업이에요. 더 많은 파트너로부터 피드백을 받음에 따라 프레임워크는 시간이 지남에 따라 발전할 것으로 예상해요.

앤트로픽은 제안된 프레임워크에 대한 더 자세한 내용을 곧 공유할 예정이에요. 그동안 앤트로픽은 새로운 해커원 프로그램도 시작해요. 보안 연구원들은 (사용 가능해진) 페이블 5에서 발견한 잠재적인 사이버 탈옥을 앤트로픽의 검토를 위해 제출할 수 있어요.

첨단 AI 보안을 위한 미국 정부와의 협력

지난 10주 동안 앤트로픽은 미국 정부와 긴밀히 협력하여 6월 2일자 행정 명령인 첨단 인공지능 혁신 및 보안 촉진에 반영된 접근 방식을 개발해 왔어요. 앤트로픽의 참여는 국가 사이버 국장실, 과학기술정책실, 재무부, 상무부(CAISI 포함), 그리고 관련 국가 안보 기관에 걸쳐 있었어요.

앤트로픽은 거의 2년 동안 이어진 미국 정부 파트너들과의 사전 배포 테스트 및 평가 협력을 바탕으로 이 작업을 계속할 것을 약속해요. 아래의 약속들은 기존 작업과 위에 언급된 프레임워크가 완성됨에 따라 정부 협력을 확대하기 위한 앤트로픽의 새로운 제안을 모두 반영하고 있어요.

사전 출시 정부 접근 및 평가. 국가 안보와 관련된 영역에서 기능적 한계를 실질적으로 발전시키는 모델에 대해, 앤트로픽은 지정된 정부 파트너에게 모델과 그에 수반되는 안전장치에 대한 확대된 조기 접근 권한을 제공할 거예요. 그런 다음 파트너들은 광범위한 출시 전에 독립적인 기능 평가를 수행하고 앤트로픽의 가드레일을 테스트할 수 있어요. 앤트로픽은 이 테스트 기간 동안 정부 평가자들과 함께 일할 전담 기술 인력을 배치할 거예요.
안전장치에 대한 신속한 정보 공유. 중요한 탈옥이나 오용 패턴이 식별되면, 앤트로픽은 신속하게 조사하고 분류하며 적절한 정부 관계자에게 통보할 거예요. 앤트로픽은 이에 대응하여 구축하는 새로운 안전장치들을 공유해서 정부에서 독립적으로 테스트할 수 있도록 할 거예요. 또한 앤트로픽은 정부 파트너들에게 출판 전에 앤트로픽의 위협 인텔리전스 보고서를 제공하고 6월 2일 행정 명령 섹션 2(d)에 따라 설립된 범기관 사이버보안 취약점 클리어링하우스에 참여할 거예요.
공동 연구를 위한 전담 자원. 앤트로픽은 AI 보안에 대한 정부 파트너들과의 공동 작업을 실질적으로 확대하고 있어요. 앤트로픽은 정부의 공동 우선순위에 따라 전담 팀을 구성하고, 정부의 테스트 및 연구를 지원하기 위해 상당한 컴퓨팅 자원을 할당하며, AI 평가의 최신 기술 발전을 돕기 위해 앤트로픽의 안전 및 레드팀 전문 지식을 제공할 거예요.
공통 산업 기준. 앤트로픽은 정부 및 동료 산업체와 협력하여 프론티어 모델 제공업체를 위한 공유되고 자발적인 보안 및 평가 표준을 향해 나아갈 거예요. 앤트로픽은 정부가 해당 분야 전반에 적용할 수 있는 평가, 도구, 모범 사례를 제공할 거예요.

앤트로픽은 이러한 협력과 제안된 합의된 산업 프레임워크가 전체 산업을 위한 체계적인 규칙의 기반이 되고, 심지어 AI의 위험과 이점에 대한 효과적인 글로벌 조정을 위한 템플릿의 시작이 될 수 있기를 바라고 있어요.

이러한 규칙은 강력한 규제로 성문화되어 프론티어 모델 개발자 전반에 걸쳐 공평하게 적용되어야 해요. AI 출시에 대한 정부의 개입은 사이버 방어자 및 기타 이해관계자들이 강력한 모델에 대한 접근에 필요한 확실성을 제공하는 견고하고 투명한 프로세스를 필요로 해요.

앤트로픽은 위에서 설명한 방식으로 정부와의 협력을 심화하기를 기대하고 있어요. 또한 앤트로픽은 이번 중단 사태를 인내해 준 사용자들과 페이블 5 및 미토스 5를 다시 사용할 수 있게 함께 노력해 준 연구원 및 산업 파트너들에게도 감사하고 있어요.

각주

표준 Enterprise 계정의 경우, 페이블 5 허용량은 포함되지 않아요. 모든 페이블 5 사용량은 사용 크레딧을 통해 청구돼요. 크레딧이 활성화되지 않으면 페이블 5는 사용자에게 작동하지 않을 거예요. 프리미엄 Enterprise 계정의 경우, 7월 7일까지 페이블 5가 구독에 포함돼요. 추가 비용 없이 각 멤버의 계정 사용량에서 차감돼요. 7월 7일 이후에는 크레딧을 활성화하여 페이블 5를 계속 사용할 수 있어요. 크레딧이 활성화되지 않으면 페이블 5는 더 이상 사용자에게 작동하지 않을 거예요.
때때로 '우회(bypass)'라는 용어가 '탈옥(jailbreak)' 대신 사용되기도 한다는 점을 유의해 주세요. 현재 목적으로는 이들을 동의어로 간주하지만, 이 글의 나머지 부분에서는 (a) 이 용어가 더 일반적으로 사용되고 (b) 앤트로픽이 이전 작업에서 사용한 용어와 일치하기 때문에 '탈옥'을 사용할 거예요.
마찬가지로, 어떤 소프트웨어도 취약점에서 자유롭지 않아요(비록 일반적으로 소프트웨어 취약점은 LLM 탈옥보다 더 쉽게 발견되고 패치될 수 있지만요).
다른 보안 연구 분야에서는 합의된 표준이 있어요. 예를 들어, 공통 취약점 점수 시스템(CVSS)은 특정 소프트웨어 취약점의 심각도를 평가하는 일반적인 방법이에요.