AI 기반 사이버 위협 매핑: LLM ATT&CK Navigator에서 얻은 인사이트

프론티어 레드팀 뉴스레터를 구독해 보세요

최신 레드팀 연구 결과와 정보를 받아볼 수 있어요.

카일라 구루, 알렉스 모익스, 제이콥 클라인

앤트로픽 팀은 지난 한 해 동안 위협 행위자들이 어떻게 AI를 무기 삼아 사이버 작전을 수행하는지 조사했어요. 오늘, 저희는 이러한 실제 공격들을 사이버 공격자들이 사용하는 전술 및 기법 데이터베이스인 MITRE ATT&CK® 프레임워크에 매핑한 새로운 분석 결과를 공유할게요. 이렇게 해보니, 사이버 보안에 대한 전통적인 가정에 도전하는 패턴들이 드러났어요. 예를 들어, 위협 행위자가 제기하는 위험 수준은 기술적 정교함이나 기법의 폭 같은 지표로 평가될 수 있다는 점이죠. 앤트로픽 팀은 버라이즌과 협력해서 이 결과 중 일부를 2026 버라이즌 데이터 유출 조사 보고서(DBIR)에 포함시켰고요, 이 보고서는 AI 기반 사이버 작전에서 발견되는 추세에 대한 더 심층적인 분석을 제공하기 위해 발행하는 거예요.[1]

새 탭에서 대화형 Navigator 열기.

이번 연구를 위해 앤트로픽 팀은 2025년 3월부터 2026년 3월까지 1년간 악성 사이버 활동과 관련된 계정 832개를 분석했어요. 앤트로픽은 이용 정책을 위반한 이 계정들이 클로드를 사용하지 못하도록 차단했죠. 이 분석에 포함된 계정들은 해당 기간 동안 앤트로픽 팀이 조사하고 차단한 계정들 중 일부일 뿐이에요. 악성 활동에 대한 충분한 세부 정보가 있어서 그들의 기법을 MITRE ATT&CK 프레임워크에 매핑할 수 있었기 때문에 이 계정들을 선택했어요.

앤트로픽 팀이 분석한 832개 계정은 초기 정찰부터 최종 영향 단계까지 프레임워크 전체의 14가지 전술과 482개의 고유한 세부 기법에 AI 모델을 활용하고 있었어요.[2] 앤트로픽 팀은 또한 AI 지원이 이 공격자들이 공격을 계획하는 데 얼마나 도움이 되었는지 평가하기 위한 위험 점수 프레임워크(이 게시물에서 나중에 설명할게요)를 개발했어요. 가장 놀라운 점은, 중위험 또는 고위험으로 분류된 공격자의 비율이 연중 상반기와 하반기 사이에 33%에서 56%로 급증했다는 사실이에요. 이는 AI가 공격자들이 점점 더 정교한 사이버 작전을 더 쉽게 수행하도록 돕고 있다는 것을 시사해요.

앤트로픽 팀의 분석에서 세 가지 주요 발견 사항이 있어요:

클로드 미소스 프리뷰가 최첨단 AI 사이버 역량이 어디로 향하고 있는지—가장 숙련된 인간 연구자에 버금가는 수준으로 취약점을 찾아내고 악용할 수 있는 모델들—를 보여주지만, 이 보고서는 위협 행위자들이 오늘날 일반적으로 사용 가능한 모델들을 어떻게 오용하고 있는지 알려줘요. 또한, 위협 행위자들이 가까운 미래에 점점 더 강력해지는 모델들을 어떻게 오용할지 예측할 수 있는 가이드 역할을 해서, 방어자들이 그들보다 앞서나갈 기회를 제공하죠.

앤트로픽 팀은 이 분석 및 다른 분석들에서 얻은 교훈을 바탕으로 클로드의 오용을 방지하기 위해 클로드를 개발하고 있어요. 예를 들어, 최고 위험군 공격자를 탐지하기 위해 클로드에 내장된 분류기(classifier)를 업데이트했고, 이 분석에서 밝혀진 고위험 행동 지표를 다루도록 탐지 프로브를 확장했어요. 이러한 발견들은 저위험과 고위험 공격자를 가르는 경계선이 더 이상 기술적 능력에 있는 것이 아니라 '오케스트레이션'에 있다는 사실을 보여줘요. 그리고 우리 모두가 의존하는 방어, 탐지, 그리고 공유 프레임워크가 공격이 진화하는 속도만큼이나 빠르게 발전해야 할 것이라는 점을 시사하죠.

이 보고서의 결과는 2025년 3월부터 2026년 3월 사이에 앤트로픽의 이용 정책 중 사이버 관련 부분을 위반하여 앤트로픽 팀이 차단한 832개 계정에서 나왔어요. 앤트로픽 팀은 자동화된 안전 장치와 위협 인텔리전스 팀의 조사를 조합해서 이 계정들을 식별했죠. 각 계정에 대해 관찰된 활동 요약을 작성했고, 그 요약에 설명된 전술, 기법, 절차(TTP)를 추출해서 당시 최신 버전인 MITRE ATT&CK 프레임워크 (V18)에 매핑했어요. 총 482개의 고유한 기법과 14가지 모든 ATT&CK 전술에 걸쳐 13,873건의 행동이 관찰되었어요.

앤트로픽 팀은 아래에 설명할 AI 위험 활성화 점수(ARiES)라는 새로운 방법론을 기반으로 각 공격자에게 0점부터 100점까지(0점이 최저 위험, 100점이 최고 위험) 위험 점수를 부여했어요. 이어지는 분석에서 공격자가 식별되지 않도록 데이터를 익명화했답니다.

이 분석의 일환으로, 앤트로픽 팀은 LLM ATT&CK Navigator를 개발했어요. 이건 관찰된 AI 기반 오용 패턴을 MITRE ATT&CK 프레임워크에 매핑하고, 공격자에게 ARiES 위험 점수를 할당하는 대화형 프레임워크예요. ARiES는 공격자의 위협 프로필, 요청된 피해에 대한 모델의 기여도, 그리고 관찰되거나 잠재적인 영향이라는 세 가지 신호를 기반으로 하는 복합 점수예요. 클로드(Claude.ai), 클로드 코드(Claude Code), 그리고 앤트로픽 API 전반에 걸친 공격자의 활동을 기반으로 계산되며, 앤트로픽의 안전 분류기뿐만 아니라 오픈소스 및 내부 위협 인텔리전스 지표를 활용해요. 점수가 높을수록 AI를 활용하는 공격자의 위험도가 높다는 의미예요.

앤트로픽 팀의 프레임워크는 개별 기법과 계정 모두를 다음 세 가지 차원에서 점수화해요:

이 구성 요소들을 종합하면 0점부터 100점까지의 총 위험 점수가 나오고요, 이를 통해 위협 행위자와 기법을 저위험, 중위험, 고위험, 그리고 치명적 위험 등급으로 분류할 수 있어요.

관찰된 13,873가지 기법에 대한 앤트로픽 팀의 경험적 분석은 공격자들이 공격 수명 주기 전반에 걸쳐 AI를 어떻게 사용하는지, 그리고 모델이 오늘날 가장 흔히 사용되는 기법이 무엇인지에 대한 명확한 패턴을 보여줘요.

앤트로픽 팀이 관찰한 가장 흔한 기법군은 ATT&CK ID T1587 (역량 개발)이었는데, 분석 대상 832명 중 574명, 즉 69%의 공격자가 사용했어요. 이 행동의 대부분은 T1587.001 (악성 코드 개발)로 나타났고, 560명의 공격자가 이를 활용했죠. 실제로 앤트로픽 팀은 위협 행위자들이 모델을 오용해서 실행할 맞춤형 스크립트를 만들고 다듬거나, DLL 인젝션 코드를 자세한 구현 지침과 함께 작성하고, 캔버스 핑거프린팅 회피 및 자동화된 계정 관리에도 사용하는 것을 확인했어요.

그다음으로 흔한 기법들은 T1027 (난독화된 파일 또는 정보)로 64.7%의 위협 행위자가 사용했고, T1005 (로컬 시스템 데이터)는 55.9%가, T1562 (방어 손상)는 54.9%의 위협 행위자가 사용했어요. 이 주요 기법들을 종합해 보면, 위협 행위자들이 LLM의 도움을 받아 공격 시작 전 도구를 만들고, 그 도구를 탐지하기 어렵게 만들며, 손상된 시스템에서 데이터를 수집하는 데 주로 집중하고 있다는 것을 알 수 있어요.

반면에, 공격자들이 일단 목표 네트워크에 침투한 후에는 실시간으로 적응하며 의사결정을 내리는 데 LLM을 사용하는 경우는 훨씬 적었어요. 예를 들어, 832명의 위협 행위자 중 54명(6.5%)만이 내부망 이동에 모델을 사용했고, RDP, SSH, SMB와 같은 원격 서비스에는 12명 미만의 공격자만 모델을 사용했죠. 권한 상승 및 영향 단계에 LLM을 사용하는 공격자는 22.5%에 불과했어요.

액티브 디렉토리 악용, 케르베로스 티켓 공격, 클라우드 인프라 조작(AWS, Azure, GCP), 컨테이너 이스케이프와 같이 실제 사이버 공격의 주요 기법군들은 데이터세트 내에서 눈에 띄게 적은 비중을 차지했어요.

앤트로픽 팀이 연구한 1년 동안 주요 기법과 공격자들이 이를 사용한 빈도는 크게 변하지 않았어요. 이 기간의 상반기와 하반기 모두 모델이 사용되는 기법의 중간값은 16개였죠. 하지만 연중 하반기에는 미묘한 방향성 변화가 관찰되었어요. 위협 행위자들이 독립형 악성코드나 난독화 스크립트를 만드는 데 모델을 덜 사용하고, 사이버 공격의 특정 운영 단계와 목표물 내 탐색 및 수집 기법에 더 많이 활용하는 추세였어요. 특히 T1087 (계정 발견) 발생률이 8.9% 증가했고, T1020 (자동화된 데이터 유출)이 6.2% 증가한 반면, T1587 (역량 개발)은 12%, T1566 (피싱)은 8.6% 감소했어요.

방어 회피는 데이터세트에서 가장 큰 단일 전술 카테고리였어요. 앤트로픽 팀이 연구한 공격자들의 84.4% 행동에서 이 전술이 나타났죠. MITRE는 "방어 회피" 아래에 64가지 기법을 정의하고 있는데(엔터프라이즈 및 모바일 특정 프레임워크를 포함해서요), 앤트로픽 팀의 데이터세트에서는 이 중 32가지 기법이 관찰되었어요. 엔터프라이즈용 25가지, 모바일용 7가지였죠.

이 전술 내에서 관찰된 주요 기법들은 다음과 같아요:

덜 자주 사용되는 전술로는 영향 (2.8%), 데이터 유출 (2.8%), 권한 상승 (2.4%), 내부망 이동 (0.7%) 등이 있어요. 이들을 모두 합쳐도 전체 관찰의 8.7%에 불과하며, 방어 회피 단독으로보다도 적어요. 이러한 행동들은 모두 공격 수명 주기의 후반에 발생하는데요, 이는 위협 행위자들이 공격 초기 단계에서 모델을 더 많이 사용하고, 일단 네트워크에 침투하여 실제 환경의 조건에 적응해야 하는 후반 단계에서는 덜 사용한다는 것을 시사해요. 이 패턴은 앤트로픽 팀이 연구한 1년 동안 안정적으로 유지되었어요.

내부망 이동과 같은 전술은 앤트로픽 팀의 데이터세트에서 훨씬 덜 만연했지만, 최고 ARiES 위험 점수와 높은 상관관계를 보였어요. 이는 최고 위험군 공격자들이 사이버 공격의 후반 단계에서 모델을 사용할 가능성이 가장 높다는 것을 의미하죠. AI를 사용해서 내부망 이동을 수행하는 공격자들은 그렇게 AI 도구를 사용하지 않는 공격자들보다 평균 10.5점 더 높은 위험 점수를 받았어요. 이는 사이버 공격 준비에 AI를 사용하는 것에서 벗어나 실제 네트워크 운영에서 행동을 취하는 데 AI를 사용하는 것이 높은 AI 활성화의 핵심 지표라는 것을 시사해요.

전반적으로, 위험 점수가 가장 높은 공격자들은 원격 서비스, 자격 증명 덤프, 웹 셸 배포, 내부 네트워크 및 계정 발견과 같은 침투 후 수동 조작(hands-on-keyboard) 기법에 AI를 가장 많이 사용했어요. 내부망 이동은 고위험 공격자를 식별하는 가장 강력한 지표였는데요. 내부망 이동을 사용한 데이터세트 내 54명의 공격자는 평균 위험 점수가 56.4점으로, 전체 평균인 46.8점보다 거의 10점 높았어요. 다른 어떤 기법도 이런 예측력에 근접하지 못했죠.

기법 수준에서 보면, 최고 위험군 공격자들이 가장 흔히 사용한 기법은 T1021 (원격 서비스: SSH/SMB), T1078.003 (유효 계정), T1003 (OS 자격 증명 덤프), T1560 (수집된 데이터 아카이브), T1505.003 (웹 셸)이었어요. 이 모든 기법들은 전체 공격자 집단에 비해 최고 위험군 공격자들 사이에서 3~5배 더 흔하게 나타났어요.

한편, 가장 널리 퍼진 전술(방어 회피 및 자원 개발 등)과 일반적인 기법(자격 증명 스터핑 및 스피어 피싱 등)은 최고 위험군 공격자와 최저 위험군 공격자 모두에게서 거의 같은 빈도로 사용되었는데, 이러한 전술이 워낙 흔하다는 점을 고려하면 놀라운 일은 아니에요. 종합적으로 보면, 이 데이터는 대부분의 위협 행위자들이 공격 준비 단계에서 악성 코드와 같은 아티팩트를 만드는 데 AI를 사용하지만, 최고 위험군 공격자들은 공격 준비 단계뿐만 아니라 침투된 네트워크 내부에서의 수동 조작 작업 중에도 모델을 사용하고 있다는 것을 시사해요.

앤트로픽 팀은 또한 위협 인텔리전스 팀이 일반적으로 위협 행위자를 평가할 때 의존하는 속성들—예를 들어, 평가된 기술 능력, 인터페이스 선택, 사용된 기법의 수 등—이 AI 모델이 특정 위협 행위자에게 제공할 수 있는 '능력 향상'을 예측하는 데는 약한 지표라는 것을 발견했어요. 순환 논리를 피하기 위해 복합 점수에서 기술적 정교함을 제거했을 때, 이는 나머지 위험 구성 요소와 r = 0.28이라는 낮은 상관관계를 보였어요. 실제로 이 특성을 완전히 제거하더라도 상위 6명의 공격자 순위는 동일했어요(832명 전체에 대해 스피어만 ρ = 0.96). 고위험군 집단은 기술적 정교함 요소의 부산물이 아니라는 거죠.

기법 커버리지의 폭과 위험 점수 간의 상관관계도 약한 양의 상관관계(r = 0.27)만 보였어요. 대부분의 공격자들은 여러 기법에 모델을 사용하고 있었죠. 사실, 앤트로픽 팀 데이터세트의 중간값 공격자는 16가지의 서로 다른 MITRE ATT&CK 기법을 전개했는데, 이는 5년 전이라면 자원이 풍부하고 기술적으로 성숙한 작전을 의미했을 법한 광범위한 수준이었어요.

마지막으로, 인터페이스 선택도 비슷한 이야기를 들려줘요. 이번 연구에서 공격자의 80%가 클로드 코드(Claude Code)를 오용했는데, 이는 에이전트 도구가 차별화된 수단이라기보다는 기본 접근 모드가 되고 있다는 것을 보여줘요. 대화형 인터페이스, API 또는 에이전트 코딩 도구에만 국한된 공격자들도 통계적으로 구별할 수 없는 위험 프로필을 보였어요.

이것이 우리에게 말해주는 것은, AI로부터 가장 큰 이득을 얻는 악성 행위자들이 반드시 다른 공격자들보다 기술적으로 더 정교한 것도 아니고, 코딩 도구를 사용하거나 공격 전체 단계에 걸쳐 클로드를 사용하는 것도 아니라는 점이에요. 오히려 그들은 단순히 클로드를 더 많은 '수동 조작(hands-on)' 기법에 사용했을 뿐이에요.

위에서 논의했듯이, AI 활성화 점수에서 중위험 또는 그 이상을 받은 공격자의 비율은 연구 첫 6개월 동안 약 33.5%에서 두 번째 6개월 동안 약 56.1%로 증가했어요. 1년도 채 안 되는 기간에 1.7배 증가한 셈이죠. 이 두 기간 사이에 집단은 약 22.6%포인트 이동했어요. 첫 6개월 동안은 대부분의 공격자가 낮은 위험 점수를 가졌지만, 두 번째 6개월 동안에는 대부분이 중간 위험 점수를 가지게 되었어요.

향상된 위협 탐지 기법도 이러한 증가에 기여했을 수 있지만, 앤트로픽 팀은 모델에 더 많은 운영적, 네트워크 내 작업을 요청하는 공격자 수가 늘고 있다는 것을 확인했어요. 이런 작업들은 예전에는 훨씬 적은 수의 고위험군 공격자 집단에서만 나타났던 것들이었죠. 연구의 두 번째 6개월 동안, 앤트로픽 팀은 악용 도구, C2 인프라, 원격 액세스 트로이 목마를 만드는 데 모델을 사용하는 더 전문화된 공격자들을 보았어요. 하지만 준비 작업뿐만 아니라 실제 운영에도 모델을 사용하는 저숙련 및 중숙련 공격자들도 더 많이 발견했죠. 첫 6개월에서 두 번째 6개월로 T1087 (계정 발견) 기법이 8.9% 증가하고 T1020 (자동화된 데이터 유출) 기법이 6.2% 증가한 것도 이와 일치해요. 즉, 더 자주 발생하고 있는 기법들은 공격자가 이미 네트워크에 접근했음을 의미하는 것들이라는 거죠.

이것이 수비자들에게 의미하는 바는 다음과 같아요. AI를 활용하는 공격자 집단이 증가할 뿐만 아니라, 공격자들 스스로 더 숙련될 필요 없이 앤트로픽 팀의 프레임워크에서 가장 위험한 활동들로 이동하고 있다는 거예요. 만약 이런 추세가 계속된다면, 이러한 운영 기법들은 더 이상 차별화 요소가 되지 않고 내일의 기본값이 될 거예요. 그러면 우리는 가장 위험한 공격자들을 측정하는 새로운 방법을 찾아야 할 거예요. 다음 섹션에서는 앞으로 어떻게 이 작업을 수행할 수 있을지 논의할게요.

최고 위험군 위협 행위자들을 살펴보는 것은 AI 기반 사이버 작전의 위험을 공격 기법의 수, 유형 또는 폭을 기반으로 계산하는 것이 불충분하다는 것을 다시 한번 강조해요. 앤트로픽 팀은 또한 위협 행위자들이 실제 운영에서 이러한 기법들을 서로 연결해서 사용할 수 있도록 구축하는 '스캐폴딩(scaffolding)'을 이해하는 방법도 필요해요. 이것은 인간의 개입 없이 AI 모델을 사용해 사이버 공격의 많은 부분을 자율적으로 실행할 수 있게 해주거든요.

앤트로픽 팀이 2025년 11월에 보고했던 AI 기반 사이버 스파이 캠페인을 조율했던 위협 행위자(GTG-1002로 명명)의 행동을 분석해 보면, 이 공격자는 최대 위험 점수인 100점을 달성했고, 여러 국가의 정부 및 중요 인프라 목표물을 성공적으로 침해했으며, 클로드 코드를 조언자가 아닌 자율적인 운영자로 사용하기 위한 스캐폴딩을 개발했어요. 하지만 이들의 전반적인 MITRE 프로필—13가지 전술에 걸친 30가지 기법—은 이 데이터세트 내 수십 명의 '중간' 위험 공격자들과 비슷했어요. 중간값 공격자는 16가지 기법을 사용하고요, 여러 저위험 공격자들도 30가지 이상을 사용했죠. 다시 말해, 기법 수나 전술 유형만으로는 GTG-1002를 앤트로픽 팀이 지금까지 관찰한 가장 고위험 공격자로 만든 이유를 설명할 수 없었어요.

이 공격자의 높은 위험 점수를 '진정으로' 설명하는 것은 그들이 사용한 점점 더 에이전틱(agentic)한 구성 요소들이었어요. 즉, 목표 달성을 위해 어떻게 기법들을 조율하고 연결할 수 있었는지에 대한 부분이죠. GTG-1002는 칼리 리눅스(Kali Linux) 머신에서 실행되는 클로드 코드(Claude Code)를 무기화했고, 오픈소스 침투 테스트 도구를 MCP(Model Context Protocol) 서버로 통합했어요. 이는 AI를 단순히 코드 작성 도우미가 아니라 자율적인 공격 플랫폼으로 효과적으로 바꾼 것이었어요. AI는 단순히 명령을 제안하거나 공격 스크립트를 생성하는 것을 넘어, 자율적으로 명령을 실행하고 공격 환경에 대해 추론했죠. 그들의 '에이전틱함'을 나타내는 일부 징후들은 앤트로픽 팀이 추적하는 기법 유형을 통해 간접적으로 나타나요. GTG-1002는 T1021.004 (원격 서비스: SSH), T1210 (원격 서비스 악용), T1560 (수집된 데이터 아카이브)과 같은 운영 기법들을 사용했어요. 하지만 주요 차별점은 다음과 같았어요:

GTG-1002의 활동은 AI 에이전트를 사용해서 사이버 공격 수명 주기의 여러 단계—정찰, 악용, 내부망 이동, 데이터 유출—를 자율적으로 일관된 작전으로 연결하고, 무엇을 할지, 어떤 데이터를 수집할지에 대해 실시간으로 결정했다는 점에서 신기했어요. 이는 기법 빈도 테이블로는 포착할 수 없는 AI 기반 능력 향상의 차원이며, 에이전틱 도구가 성숙해짐에 따라 가장 중요해질 것으로 예상되는 차원이기도 해요.

이 보고서의 발견 사항들은 앤트로픽 팀이 AI 기반 사이버 오용을 탐지, 조사, 그리고 방해하는 방식을 형성했어요.

첫째, 앤트로픽 팀의 위험 점수는 최고 위험군 공격자들이 항상 가장 시끄럽거나 가장 다작인 것은 아니라는 것을 보여줘요. 그들은 종종 사용하는 기법의 유형과 양적인 측면에서 평범해 보이지만, 대신 AI를 오케스트레이션하여 전체 사이버 작전을 수행하는 방식에서 차별화된다는 거죠. 앤트로픽 팀은 이에 맞춰 탐지 시스템을 업데이트하고, 높은 ARiES 점수와 상관관계가 있는 기법들을 포착하기 위해 분류기 및 탐지 프로브를 확장하고 있어요. 또한 다단계 자율 실행, AI 지향 피벗 결정, MCP 서버 및 유사 인터페이스를 통한 도구 증강 작업과 같이 MITRE에 깔끔하게 매핑되지 않는 에이전틱 오용 패턴에 대한 탐지 신호도 개발하고 있어요.

둘째, 앤트로픽 팀은 가장 강력한 모델에 실시간 사이버 안전 장치를 도입했어요. 이는 요청 수준에서 금지된 활동(예: 랜섬웨어 개발 또는 대량 데이터 유출)을 자동으로 탐지하고 차단해요. 또한 사이버 공격자와 수비자 모두가 수행할 수 있는 고위험 이중 사용 활동들을 사이버 검증 프로그램(CVP)을 통해 처리하고 있는데, 이 프로그램을 통해 방어 실무자들은 작업에 앤트로픽 팀의 모델을 계속 사용할 수 있어요.

셋째, 프로젝트 글래스윙(Project Glasswing)을 통해 앤트로픽 팀은 가장 강력한 모델의 공격적인 사이버 역량을 일반 대중에게 공개하기 전에 연구하고 있어요. 이는 위협 행위자들이 AI 사이버 역량을 사용하기 전에 우리가 AI 사이버 역량이 어디로 향하고 있는지 이해하고, 그러한 오용이 발생하기 전에 안전 장치를 설계할 수 있도록 하기 위함이에요.

마지막으로, 2026년 데이터 유출 조사 보고서에 대한 버라이즌과의 협력에 이어, 앤트로픽 팀은 현재 MITRE와 ATT&CK 프레임워크가 이 분석에서 관찰된 AI 네이티브 운영 행동을 어떻게 포착할 수 있을지에 대해 활발히 논의하고 있어요. 또한 앤트로픽 팀은 기술적 지표, 위협 행위자들이 사용하는 전술, 기법, 절차(TTP), 그리고 조사 결과를 정부 및 산업 파트너들과 지속적으로 공유하고 있어요.

가장 위험한 공격자들은 이제 AI를 단순히 공격을 가능하게 하는 도구를 만드는 것을 넘어 공격을 '오케스트레이션'하는 데 사용하고 있어요. 하지만 위협 조사관들이 위협을 추적하는 데 사용하는 프레임워크는 아직 이런 변화를 따라잡지 못하고 있죠. 기술적으로 정교한 공격자에게 의존하는 전통적인 프레임워크는 저숙련 공격자들이 전문가 수준의 도구를 만들고, 지휘하고, 운영할 수 있게 되면 실패할 거예요.

이러한 활동을 1년간 매핑하고 버라이즌과 협력한 결과 얻은 한 가지 분명한 교훈은, 우리가 공유하는 위협 용어를 확장해야 한다는 점이에요. MITRE ATT&CK는 공격자들이 실행하는 개별 기법을 포착하지만, 최고 위험군 공격자를 다른 공격자들과 구별하는 행동들—예를 들어, 전체 킬체인의 에이전틱 오케스트레이션이나 목표물의 자율적인 선택—은 아직 이 분류 체계에 포착되지 않고 있어요.

앤트로픽 팀은 다음 단계로 ATT&CK 프레임워크에 새로운 교차 카테고리를 추가해서, 위협 조사관들이 여러 기법을 연결하는 에이전틱하고 자율적이며 의사결정적인 행동들을 식별하는 데 도움이 될 것이라고 생각해요. 이는 수비자들이 실제 환경에서 공격자들이 AI 도구를 사용하는 방식에 발맞춰 나갈 수 있는 용어를 제공할 거예요.

동시에, 수비자들도 공격자들처럼 정교하고 긴급하게 AI를 사용하고, 조직 간에 위협 인텔리전스를 공유하며, 소프트웨어 취약점을 식별하는 시간부터 패치하는 시간까지를 단축해야 한다는 점은 분명해요. 산업계로서 우리는 안전하지 않은 코드에 대해 훨씬 더 관대하지 않아야 해요. 과도기는 어려울 거예요. 하지만 산업계, 정부, 시민사회가 현재 상황을 마땅히 그래야 할 만큼 긴급하게 다룬다면, 앤트로픽 팀은 능력 있는 AI 시스템이 장기적으로는 공격자보다 수비자에게 더 많은 이점을 줄 것이라고 믿어요. 새로운 코드가 배포되기 전에 버그를 찾아내고, 사회가 의존하는 시스템을 더욱 안전하게 만들 수 있겠죠. 그 결과는 더 잘 방어된 인프라와 실질적으로 사기 및 남용이 줄어든 디지털 환경이 될 수 있어요. 위협 환경이 진화함에 따라 앤트로픽 팀이 배우는 것들을 계속해서 공개할 거예요.

[1] DBIR을 위해 앤트로픽 팀은 11개월간의 위협 행위자 데이터를 분석했으며, 이 보고서에서는 12개월로 반올림하여 분석했어요.

[2] 앤트로픽 팀은 MITRE의 엔터프라이즈 및 모바일 기법 매트릭스 모두에서 세부 기법들을 관찰했어요. 엔터프라이즈 기법이 관찰의 99%를 차지했어요.

사이버 보안 분야에서 실제 피해의 상당 부분은 N-day 취약점, 즉 이미 공개되었지만 일부 장치에서만 패치된 취약점에서 발생해요. 이 게시물에서는 대규모 언어 모델(LLM)이 N-day 익스플로잇 개발 프로세스를 얼마나 가속화하고 자동화할 수 있는지 평가해 볼 거예요.

최신 레드팀 연구 결과와 정보를 받아볼 수 있어요.