프로젝트 글래스윙 확장하기

프로젝트 글래스윙은 전 세계의 가장 중요한 소프트웨어를 안전하게 지키기 위한 앤트로픽의 협력 프로젝트예요. 4월 초에 앤트로픽은 약 50개의 초기 파트너사들이 클로드 Mythos 프리뷰에 접근할 수 있게 됐다고 발표했고요. 그 후로 파트너사들은 이 모델을 배포해서 자신들의 코드베이스에서 취약점을 스캔하고 있어요. 앤트로픽은 최근 이 파트너들이 지금까지 10,000개가 넘는 '높음' 또는 '치명적' 등급의 보안 결함을 찾아냈다고 설명했어요.

이제 프로젝트 글래스윙을 확장하고 있어요. 지난 몇 주 동안 프로젝트 글래스윙 파트너사들, 보안 업계, 오픈소스 소프트웨어 관리자들, 그리고 미국 정부와 긴밀히 협력한 끝에, 앤트로픽은 약 150개의 새로운 기관으로 파트너십을 확대하고 있어요. 이 새로운 기관들은 접근 권한을 얻기 전에 앤트로픽의 보안 요구 사항을 충족해야 할 거예요.

이 새로운 그룹에 속한 기관들은 15개국 이상에 기반을 두고 있고, 대부분은 훨씬 더 많은 곳에 필수적인 인프라를 제공하고 있어요. (앞으로는 지리적 범위를 훨씬 더 넓힐 계획이에요.) 이 그룹에는 전력, 수도, 헬스케어, 통신, 하드웨어처럼 초기 파트너 그룹에서는 잘 다루지 못했던 여러 산업 분야가 포함되어 있어요. 그리고 많은 새로운 파트너사들이 벤더사인데요. 이들은 정부를 포함해 전 세계의 수많은 다른 기관들이 의존하는 코드베이스를 관리하는 기업이나 비영리 단체들이에요.

각 파트너사들이 공통적으로 가지고 있는 건, 만약 이들의 코드베이스에 대한 공격이 성공하면 재앙적인 결과를 초래할 수 있다는 점이에요. 대부분의 파트너사 경우, 대규모 공격이 발생하면 1억 명 이상의 사람들에게 영향을 미칠 수 있고, 이는 전 세계 및 국가 안보 모두에 중요한 영향을 미칠 수 있다고 앤트로픽은 예상하고 있어요.

이번 확장은 앤트로픽의 장기적인 목표를 향한 다음 단계예요. 그 목표는 AI가 모든 소프트웨어를 더 안전하게 만들고, AI가 사이버 보안의 핵심 전제들을 어떻게 바꿀 수 있는지 업계가 적응하도록 돕는 것이죠.

프로젝트 글래스윙의 역할

프로젝트 글래스윙과 클로드 Mythos 프리뷰의 역량은 소프트웨어 업계와 정부 모두에서 AI가 사이버 보안을 어떻게 변화시키고 있는지에 대한 광범위한 논의를 불러일으켰어요. 이러한 논의들은 앤트로픽이 프로그램을 확장하는 방식에 영향을 주었고요. 또한 프로젝트 글래스윙의 근본적인 목적에 대한 앤트로픽의 생각을 형성하는 데도 도움이 되었어요.

강력한 사이버 역량을 가진 저렴하고 빠른 AI 모델이 곧 등장할 거예요. 앤트로픽은 프로젝트 글래스윙이 기관들이 이러한 현실을 반영하는 운영 표준으로 나아가도록 자극하기를 바라고 있어요.

Mythos 프리뷰는 앤트로픽이 한동안 경고해왔던 장기적인 추세를 계속 보여주고 있어요. 6개월에서 12개월 이내에 다른 많은 AI 회사들도 Mythos급 모델을 보유하게 될 것이고, 오용을 방지할 안전장치 없이 이를 출시할 수도 있다고 앤트로픽은 예상하고 있어요. 그런 세상에서는 사이버 공격이 훨씬 더 자주, 그리고 훨씬 더 예측 불가능한 형태로 발생할 수 있어요. 사이버 방어자들이 속도를 유지하며 적응하는 것이 필수적이에요.

앤트로픽은 자신들의 역할을 두 가지로 보고 있어요. 첫째, 더 나은 모델, 도구, 공통 인프라에 안전하게 광범위한 접근을 제공함으로써 소프트웨어 업계가 적응하도록 돕는 것. 둘째, 앤트로픽이 제공하는 지원을 취약점 발견에서부터 공개, 수정, 그리고 패치된 소프트웨어 배포로 점차 전환하는 거예요. 이제 이 각각에 대해 하나씩 이야기해볼게요.

사이버 방어자 지원하기

지금까지 기업, 비영리 단체, 관리자, 그리고 연구원들은 빠르게 움직여왔어요. 프로젝트 글래스윙이 시작된 첫 몇 주 안에, 각 멤버들은 Mythos 프리뷰를 대규모로 사용하기 시작했고, 다른 파트너들과 정보 및 모범 사례를 공유했으며, 제3자들과 협력하여 모델의 발견 사항들을 분류했어요. 새로운 도구에 적응하는 이러한 조직들의 방법은 사이버 공격에 취약한 수백만 조직과 개발자들에게 널리 복제될 수 있고, 또 그렇게 되어야만 해요.

이를 지원하기 위해 앤트로픽은 최근 클로드 시큐리티(Claude Security)를 출시했어요. 이 제품은 클로드 오푸스 4.8과 같은 앤트로픽의 최신 공개 프론티어 모델을 사용해서 코드베이스를 스캔하고 패치를 제안해 줘요. 또한, 신뢰할 수 있는 보안 팀의 요청이 있을 경우, 프로젝트 글래스윙 파트너들이 취약점을 더 빨리 찾도록 돕기 위해 앤트로픽이 개발한 도구들도 공개하고 있어요.

앤트로픽은 훨씬 더 나아갈 계획이에요. 장기적인 목표는 강력한 사이버 모델 시대에 새로운 이니셔티브, 표준, 인프라를 만드는 데 업계를 지원하는 것이죠.

패치 및 기타 보안 작업 가속화

이전에 논의했듯이, 사이버 보안의 병목 현상은 이제 Mythos급 모델이 찾아낼 수 있는 수많은 취약점들을 검증하고, 공개하고, 패치하는 데 있어요.

Mythos 프리뷰 자체도 도움이 될 수 있어요. 프로젝트 글래스윙의 많은 파트너사들은 이제 이 모델을 사용해서 패치를 작성하고, 취약점이 처음부터 나타나는 것을 방지하는 사전 출시 확인에도 활용하고 있어요. Mythos 프리뷰와 같은 모델은 침투 테스트(사이버 공격을 시뮬레이션하여 취약점이 어떻게 악용될 수 있는지 식별하는 것), 위협 탐지 및 대응 자동화, 그리고 메모리 안전 언어로 레거시 코드베이스를 재구축하는 등, 다른 많은 방어 작업에도 사용할 수 있어요.

앤트로픽은 오픈소스 소프트웨어의 취약점 검토 및 패치 작업을 어떻게 대폭 확장할 수 있을지에 대해 제3자들과 논의하고 있어요. 또한 오픈소스 관리자들에게 취약점을 공개하는 방법에 대한 아이디어와 모범 사례를 공유하기 위해 노력하고 있고요. 이는 보고서 분류 및 조치를 더 쉽게 만들기 위함이에요.

앞으로의 길

다가올 이 도전의 규모를 해결하기 위해서는 수십만 개의 조직, 연구원, 관리자들이 가장 진보된 사이버 역량과 도구에 접근해야 할 거예요.

앤트로픽은 Mythos 수준의 역량을 일반 대중에게 안전하게 출시하기 위해 최대한 빨리 노력하고 있어요. 그러기 위해서는 모델의 사이버 역량이 오용되는 것을 막을 수 있는 매우 견고한 안전장치가 필요할 텐데요. 이러한 안전장치들은 앤트로픽(그리고 앤트로픽이 알기로는 다른 모든 AI 개발자들도) 아직 개발하지 못했어요. 사이버 보안은 유용하고 파괴적인 용도를 모두 가지고 있기 때문에, 강력하면서도 정밀한 안전장치를 만드는 것은 큰 과제예요.

한편, 앤트로픽은 프로젝트 글래스윙을 더욱 확장할 계획이에요. 추가적인 필수 인프라 제공업체, 중요한 오픈소스 소프트웨어 관리자, 그리고 안전성 테스터들을 우선순위에 둘 거고요. 이번 확장과 마찬가지로 미래의 확장도 미국 및 해외 조직을 모두 포함할 예정이에요. 또한 앤트로픽의 '사이버 검증 프로그램(Cyber Verification Program)'을 확대해서, 더 많은 조직에 특정 사이버 방어 작업을 위한 Mythos급 역량을 부여할 계획도 가지고 있어요.

미래에는 프론티어 모델 출시의 중요성이 점점 더 커질 거예요. 사이버 보안과 같이 공격자와 방어자 모두에게 힘을 실어줄 수 있는 많은 분야를 포함해서, 모든 영역에서 역량은 계속 향상될 거고요. 앤트로픽이 이와 같은 도전에 직면하게 될 마지막 순간은 아닐 거예요. 하지만 프로젝트 글래스윙은 모델이 중요한 역량 임계값을 넘어설 때 어떻게 대응해야 하는지에 대해 많은 것을 가르쳐 주었어요. 만약 성공한다면, 방어자들이 영구적인 우위를 가질 수 있도록 돕고 싶어요.

관련 콘텐츠

앤트로픽, SEC에 S-1 초안을 기밀 제출했어요

앤트로픽이 증권거래위원회(SEC)에 S-1 등록 신청서 초안을 기밀로 제출했어요. 더 읽어보기

앤트로픽, 9,650억 달러의 사후 평가액으로 시리즈 H 펀딩에서 650억 달러 유치했어요

앤트로픽이 알티미터 캐피탈, 드래고니어, 그리녹스, 세쿼이아 캐피탈 주도로 시리즈 H 펀딩에서 650억 달러를 유치했어요. 더 읽어보기

클로드 오푸스 4.8 소개

코딩, 에이전트틱 작업, 전문적인 업무 전반에서 더 강력한 성능을 보여주며, 장기 실행 작업도 일관성 있게 처리할 수 있는 오푸스(Opus)급 모델의 업그레이드 버전이에요. 더 읽어보기