핵심 기반 시설 방어에 AI를 활용해요

프론티어 레드팀 뉴스레터를 구독해 보세요

최신 레드팀 연구 결과와 소식을 받아보세요.

사이버 공격은 전력망이나 연료 파이프라인 같은 핵심 기반 시설에 심각한 실제 피해를 입혔고, 급수 시스템까지 침투해서 엄청난 위험을 초래할 가능성이 있어요. AI 모델의 역량이 발전하면서, 이런 목표물을 노리는 공격자 수가 늘어날 수도 있죠. 하지만 AI는 핵심 기반 시설의 방어자들이 공격자들이 악용할 만한 취약점을 미리 파악하고, 실제로 공격받기 전에 막는 데 도움을 줄 수도 있어요. Anthropic은 퍼시픽 노스웨스트 국립 연구소(PNNL)와 협력해서 AI의 이런 방어적 활용 가능성을 탐색하고 있어요. PNNL 연구팀은 클로드를 이용해서 실제와 거의 똑같은 수처리 시설 시뮬레이션 환경에서 사이버 공격을 모의 실험했는데, 인간 전문가가 하는 것보다 훨씬 짧은 시간 안에 끝냈어요. 이는 AI가 사이버 방어자들이 레드팀 훈련을 더 빨리 반복할 수 있도록 돕는다는 개념 증명 역할을 하는 셈이에요. 이번 연구는 AI가 방어를 가속화할 수 있는 잠재력과, AI를 국가 안보에 활용하는 데 있어 민관 협력의 가치를 모두 보여줘요.

이번 연구 프로젝트에서 PNNL은 AI를 활용해서 '적대자 에뮬레이션' 작업을 가속화하는 데 집중했어요. 적대자 에뮬레이션은 특정 위협 행위자나 특정 공격을 네트워크에 대해 모델링해서 방어 체계를 이해하고 개선하는 작업이에요. 이런 공격들을 모의 실험하면 시스템의 취약점과 탐지 사각지대에 대한 귀중한 통찰력을 얻을 수 있어요. 방어 체계를 조정한 후에 다시 공격을 모의 실험할 수 있으면, 변경 사항의 효과를 평가하는 데 도움이 되죠.

PNNL은 클로드를 위한 “스캐폴드(scaffold)”를 개발해서 이 적대자 에뮬레이션 과정을 자동화하고 가속화했어요. 이 스캐폴드를 통해 자연어 프롬프트가 복잡한 공격 체인으로 빠르게 변환될 수 있었는데, 부분적으로는 모델이 컴퓨터 네트워크에서 더 쉽게 행동을 취할 수 있도록 미리 정의된 코드 기반의 “도구들” 덕분이었어요. 연구원들은 이 에이전트에게 수처리 시설의 사이버-물리 모델에 대한 공격을 모의 실험하도록 지시했어요. 이 모델은 PNNL이 미국 국토안보부 사이버 보안 및 기반 시설 보안국을 대신해서 운영하는 제어 환경 연구소 자원 플랫폼 중 하나예요. PNNL은 이 덕분에 공격 재구축 작업이 몇 주가 걸리던 것을 세 시간 만에 완료할 수 있었다고 평가하고 있어요.

이 테스트 과정 중 한 번의 실행에서 클로드는 놀라운 독창성을 보여줬어요. 연구원들이 스캐폴드의 일부로 만든 미리 정의된 도구 중 하나는 Windows의 '사용자 계정 컨트롤(UAC)'이라는 보안 기능을 우회하는 메커니즘이었어요. 하지만 이 메커니즘은 항상 신뢰할 수 있는 건 아니었고, 때로는 실패하기도 했죠. 클로드는 자신의 도구 사용 시도가 실패했다는 보고를 통해 이런 실패 중 하나를 감지하고, 목표를 달성하기 위해 다른 알려진 UAC 우회 기술을 찾아 사용했어요.

모델이 계속 발전하면서 이런 종류의 독창성과 창의력은 더욱 커질 거라고 기대하고 있어요. 2025년 여름에 진행된 이 시뮬레이션에서는 Anthropic의 최신 프론티어 모델은 아닌 클로드 소넷 4(Claude Sonnet 4)를 사용했어요. 모델 역량의 개선은 공격자와 방어자 모두에게 도움이 될 수 있기 때문에, 핵심 기반 시설의 보안을 개선하는 이런 작업은 정말 중요해요.

이번 연구는 사이버 방어를 위한 AI 활용에 대한 창의적인 사고와 실험을 촉구하는 Anthropic의 요청을 실제로 구현한 거예요. 사이버 분야에서 AI의 이중 용도적 특성과 사이버 공간에서 공격자들이 AI를 더 많이 사용하고 있다는 점을 고려할 때, 이 단계는 아주 중요하죠.

이것은 또한 Anthropic과 같은 최첨단 AI 연구소와 정부의 과학, 공학, 국가 안보 분야 우수 센터 간에 증가하는 협력 사례 중 하나이기도 해요. Anthropic은 이전에 AI와 관련된 잠재적인 핵 위험에 대한 평가 및 완화책 개발을 위해 국립 핵 안보국(National Nuclear Security Administration)과 협력했어요. Anthropic은 또한 미국 에너지부(DOE)의 제네시스 미션의 민간 부문 협력사 중 하나인데요, 이 미션은 DOE 국립 연구소와 최첨단 AI 기업의 전문 지식과 과학 도구를 활용해서 국가 안보를 위한 과학적 돌파구를 마련하는 것을 목표로 해요.

이번 연구에서 Anthropic은 클로드를 통해 최첨단 모델 인텔리전스에 대한 접근성을 제공했고, PNNL은 AI 기업이 확보하기 어려운 전문 지식과 사이버-물리 자산을 가지고 있어서 더 현실적인 테스트 환경을 제공할 수 있었어요. 달리 말하면, 어느 한쪽만으로는 이런 종류의 실험을 할 수 없었다는 얘기죠. 이것이 Anthropic이 추진하는 민관 협력의 핵심 논리예요. Anthropic은 이러한 상호 보완성을 계속 찾아나갈 것이고, AI가 핵심 기반 시설과 안보 및 안정성의 다른 기둥들을 보호하는 데 사용되도록 한다는 공동의 사명을 위해 국립 연구소와 같은 뛰어난 기관들과 계속 협력할 기회를 환영해요.

PNNL의 Loc Truong과 Kristopher Willis에게 이 프로젝트를 이끌어주고 이 글을 위한 데이터를 공유해 주셔서 감사드려요. 이 프로젝트에 대한 자세한 내용은 PNNL 웹사이트에서 확인할 수 있어요.

최신 경제 지수 보고서에서 Anthropic은 처음으로 시간 단위로 샘플링해서 질문했어요: 사람들이 언제 클로드를 찾는지, 클로드를 가지고 무엇을 만들어내는지, 그리고 AI가 업무에 미치는 영향을 어떻게 인식하는지요?

Anthropic은 클로드가 Anthropic 직원들이 정교한 로봇 작업을 수행하는 데 도움이 되는지 최신 테스트 결과를 보고했어요. 클로드 오푸스 4.7이 인간의 도움 없이 작동했을 때, 참가자들이 1년도 안 되어 완료했던 모든 작업에서 가장 빠른 인간 팀보다 약 20배 더 빨랐다는 것을 발견했어요.

이 보고서는 2025년 10월부터 2026년 4월 사이에 약 23만 5천 명의 사람들의 약 40만 건의 대화형 세션을 개인 정보 보호 방식으로 분석한 결과를 바탕으로, 클로드 코드가 실제로 어떻게 사용되는지에 대한 증거를 제공해요.

Anthropic의 최신 레드팀 연구 결과와 소식을 받아보세요.