앤트로픽 인스티튜트의 중점 연구 분야

앤트로픽 인스티튜트(TAI)는 최첨단 연구소 내부에서 얻을 수 있는 정보들을 활용해서 AI가 세상에 미치는 영향을 조사하고, 그 배운 점들을 대중과 공유할 거예요. 여기서 우리는 연구 의제를 이끄는 질문들을 공개하고 있어요.

앤트로픽 인스티튜트의 연구 의제는 네 가지 중점 연구 분야에 초점을 맞추고 있어요:

• 경제적 확산
• 위협 및 회복력
• 현실 세계의 AI 시스템
• AI 주도 R&D

AI 안전에 대한 핵심 관점에서 앤트로픽은 효과적인 안전 연구를 위해서는 최첨단 AI 시스템과의 긴밀한 접촉이 필요하다고 썼어요. 이와 동일한 논리가 AI가 안보, 경제, 사회에 미치는 영향에 대한 효과적인 연구에도 적용돼요.

앤트로픽에서는 소프트웨어 엔지니어링 같은 직업이 급진적으로 변화하고 있다는 초기 증거들을 보고 있어요. 앤트로픽 내부 경제가 변화하기 시작하고, 앤트로픽이 만드는 시스템에서 새로운 위협이 출현하며, AI가 AI 자체의 연구 개발 속도를 높이는 데 기여하는 초기 징후들을 관찰하고 있죠. AI 발전의 모든 이점을 실현하기 위해, 앤트로픽은 가능한 한 많은 정보를 공유하고 싶어요. 이러한 역학 관계가 외부 세계를 어떻게 형성할지, 그리고 대중이 이러한 변화를 어떻게 이끌어갈 수 있을지에 대해 연구하고 있어요.

앤트로픽 인스티튜트는 최첨단 연구소 내부의 위치에서 AI의 실제 세계 영향들을 연구하고, 그 결과들을 발표해서 외부 기관, 정부, 그리고 대중이 AI 개발에 대해 더 나은 결정을 내릴 수 있도록 도울 거예요.

앤트로픽은 개별 연구자들과 기관들이 이러한 연구 질문들을 다루기 쉽도록 연구, 데이터, 도구들을 공유할 예정이에요. 특히, 앤트로픽은 다음을 공유할 거예요:

• 노동 시장에 미치는 영향과 AI 사용에 대해 앤트로픽이 보고 있는 것을 앤트로픽 경제 지수에서 더 세분화된 정보로 더 높은 주기로 공유할 거예요. 앤트로픽은 중대한 변화와 혼란에 대한 조기 경보 신호가 되려고 노력할 거예요.
• 새로운 AI 기반 보안 위험에 직면하여 회복력 투자가 가장 필요한 사회적 영역에 대한 연구를 제공할 거예요.
• 새로운 AI 도구 덕분에 앤트로픽의 작업 속도가 얼마나 빨라졌는지에 대한 더 자세한 정보와 잠재적인 AI 시스템의 재귀적 자기 개선(recursive self-improvement)이 가져올 영향에 대한 아이디어를 공유할 거예요.

앤트로픽 인스티튜트는 앤트로픽이 내리는 결정에 영향을 줄 거예요. 이는 앤트로픽이 평소에는 공개하지 않았을 데이터를 세상에 공유하거나(경제 지수처럼), 기술을 다른 방식으로 출시하는 모습으로 나타날 수 있어요(프로젝트 글래스윙과 같은 이니셔티브에 활용되는 사이버 위협 분석처럼) .

앤트로픽 인스티튜트가 개발한 작업들이 앤트로픽의 장기 이익 신탁(LTBT)에 중요한 입력 자료로 점점 더 많이 활용될 것으로 기대하고 있어요. LTBT의 임무는 앤트로픽이 인류의 장기적인 이익을 위해 지속적으로 행동을 최적화하도록 보장하는 것이거든요. 앤트로픽은 LTBT뿐만 아니라 앤트로픽 전 직원의 참여를 통해 이 연구 의제를 개발했어요.

이것은 고정된 의제가 아닌 '살아있는' 의제예요. 증거가 축적됨에 따라 이러한 질문들을 계속해서 다듬을 것이고, 오늘 여기에 포함되지 않은 새로운 질문들이 나올 것으로 예상하고 있어요. 이 의제에 대한 피드백을 환영하며, 대화를 통해 배우는 바에 따라 수정해나갈 거예요.

만약 이 질문들 중 일부를 해결하는 데 기여하고 싶다면, 앤트로픽 펠로우(Anthropic Fellow) 신청을 환영해요. 펠로우십은 앤트로픽 인스티튜트 팀원들의 멘토링을 받으며 이 질문들 중 하나 이상을 다룰 수 있는 4개월간의 유급 기회예요. 더 자세한 정보와 다음 기수 지원은 여기에서 확인할 수 있어요.

앤트로픽의 연구 의제:

최종 업데이트: 2026년 5월 7일

경제적 확산

점점 더 강력해지는 AI 시스템의 배포가 경제를 어떻게 변화시키는지 이해하는 것이 아주 중요해요. 또한, AI를 대중에게 이로운 방식으로 배포할 수 있도록 필요한 경제 데이터와 예측 능력을 개발해야 해요.

이 연구 분야의 질문에 답하기 위해, 앤트로픽은 앤트로픽 경제 지수 내의 데이터를 더욱 발전시킬 거예요. 또한, 일자리 감소, 전례 없는 경제 성장 또는 기타 효과 등 강력한 AI가 사회에 어떻게 영향을 미칠 수 있는지 모델을 더 정교하게 다듬기 위한 다른 방법들도 탐색할 예정이에요.

AI 채택 및 확산

누가 AI를 채택하나요? AI 개발은 소수의 국가에 있는 소수의 회사에 집중되어 있지만, 배포는 전 세계적으로 이루어지고 있어요. 어떤 요인이 한 국가, 지역 또는 도시가 AI에 접근할 수 있는지 결정할까요? 만약 접근할 수 있다면, AI로부터 어떻게 경제적 가치를 포착할 수 있을까요? 어떤 정책과 비즈니스 모델이 이런 균형을 의미 있게 변화시킬까요? 무료 또는 공개 가중치(open weight) 모델은 이러한 역학 관계에 어떻게 기여할까요?

기업의 AI 채택: 기업 수준에서 AI 채택을 유발하는 요인은 무엇이며, 그 결과는 어떻게 될까요? AI는 기업이나 팀이 가장 효율적일 수 있는 규모를 어떻게 변화시킬까요? 기업 전반에서 AI 사용은 얼마나 집중되어 있을까요? AI 채택 집중도 변화가 마크업(markup)과 노동 분배율(labor share)에 어떻게 반영될까요? 만약 3명으로 이루어진 팀이나 회사가 예전에는 300명이 필요했던 일을 이제 할 수 있다면, 산업 조직에는 어떤 일이 일어날까요? 아니면, 기업들이 지식을 더 쉽게 중앙 집중화할 수 있고 규모의 이점이 있다면, 직원들을 체계적으로 감시하려는 더 크고 광범위한 기업들을 보게 될까요?

AI는 범용 기술일까요? AI는 사회적 수익이 사적 수익을 초과하는 곳에서는 가장 느리게 채택되고, 고수익 상업 응용 분야에서 가장 빠르게 채택되는 이전의 “범용 기술” 패턴을 따르고 있을까요? 이러한 역학 관계를 변화시킬 수 있는 정책이나 결정이 있을까요?

생산성 및 경제 성장

생산성 성장: AI가 경제 전반의 혁신율과 생산성 성장에 어떤 영향을 미칠까요?

이익 공유: AI 개발 및 배포로 인한 이익을 더 광범위하게 확산시킬 수 있는 효과적인 사전 또는 재분배 메커니즘은 무엇일까요?

시장의 거래 비용: AI가 시장의 교환 시스템과 거래 비용에 어떻게 영향을 미칠까요? 나를 대신하여 협상할 수 있는 에이전트에 대한 접근이 시장 효율성과 공평한 결과를 향상시키는 때는 언제일까요? 그렇지 않은 때는 언제일까요?

광범위한 노동 시장 영향

AI와 일자리: AI는 경제의 여러 분야에서 일자리와 고용을 어떻게 변화시킬까요? AI가 기존 경제 부문을 자동화함에 따라 어떤 새로운 업무와 일자리가 생겨날 수 있을까요? 이러한 변화는 지역과 국가에 따라 어떻게 달라질까요? 앤트로픽의 경제 지수 설문조사는 사람들이 AI가 자신의 업무에 어떻게 영향을 미치는지, 그리고 미래에 무엇을 기대하는지에 대한 월별 신호를 제공할 거예요. 앤트로픽은 또한 더 높은 빈도의 세분화된 데이터를 공유하기 위해 경제 지수를 업데이트하고 있어요.

AI 확산을 조절할 수 있을까요? 중앙은행은 정책 금리나 선제적 안내(forward guidance) 같은 “다이얼”을 통해 인플레이션을 완화하려고 노력해요. AI 회사들이 (정부와 협력하여 산업 수준에서) AI 확산 속도를 부문별로 제어하기 위해 돌릴 수 있는 유사한 다이얼이 있을까요? 그것들을 돌리는 것이 명확한 공공의 이익이 될까요?

일자리와 직장의 미래

직업에 대한 노동자의 관점: 경제 전반의 노동자들은 자신의 직업 변화를 어떻게 경험하고 있을까요? 이들은 이러한 변화에 얼마나 많은 영향력을 가지고 있으며, '노동자'의 힘은 보존되거나 변형될 수 있을까요?

전문가 양성 과정: 많은 직업은 미래의 고위 실무자를 양성하기 위해 주니어 직무(예: 법률 보조원, 주니어 분석가, 어소시에이트 개발자)에 의존하고 있어요. 만약 AI가 역사적으로 전문성을 구축하던 업무들을 흡수한다면, 사람들은 애초에 어떻게 전문가가 될 수 있을까요? 이는 특정 분야에서 고위 판단력의 장기적인 공급에 어떤 의미를 가질까요?

미래를 위한 학습: 사람들이 미래를 위해 어떤 것을 공부해야 잘 대비할 수 있을까요? 미래의 직업은 무엇일까요? AI는 무언가를 배우고 전문성을 개발하는 것이 무엇을 의미하는지 어떻게 변화시킬까요?

유급 노동의 역할: 만약 AI가 인간 삶에서 유급 노동의 중요성을 크게 줄인다면, 사람들은 시간과 노력을 다른 의미 있는 활동으로 재분배할 수 있는 어떤 조건에서 가능해질까요? 그리고 과거 또는 현재에 일이 부족하거나 선택 사항이었던 인구 집단으로부터 무엇을 배울 수 있을까요? 사회는 이 전환을 어떻게 헤쳐나갈까요?

위협 및 회복력

AI 시스템은 이중 용도 역량을 포함해 여러 역량을 동시에 발전시키는 경향이 있어요. 생물학에서 더 능숙해진 AI 시스템은 생물학 무기를 만드는 데도 더 능숙해지죠. 컴퓨터 프로그래밍에 능숙한 AI 시스템은 컴퓨터 해킹에도 더 능숙해져요. 만약 AI 시스템에 의해 위협이 악화될 가능성을 더 잘 이해할 수 있다면, 사회는 이렇게 변화된 위협 환경에 더 쉽게 회복력을 가질 수 있을 거예요.

앤트로픽은 이러한 질문들을 던져, 혁신적인 AI에 직면한 세계의 회복력을 향상시키기 위한 파트너십을 개발하고, 새롭게 출현할 수 있는 위협에 대한 조기 경보 시스템을 구축하는 데 기여하고 싶어요. 이러한 질문들 중 상당수는 프론티어 레드팀의 연구 의제를 이끌어갈 예정이에요.

위험 및 이중 용도 역량 평가:

이중 용도 기술: 강력한 AI는 본질적으로 이중 용도 기술이에요. 건강과 교육을 향상시키는 데 사용되는 동일한 도구가 감시와 억압을 가능하게 할 수도 있죠. 이런 일이 발생하고 있는지, 그리고 어떻게 발생하고 있는지 이해하기 위한 관측 가능성(observability) 도구를 구축할 수 있을까요?

위험을 적절하게 평가하기: AI 시스템에서 예상되는 위협에 대한 사회적 회복력을 향상시키기 위한 효과적이고 시장 주도적인 접근 방식은 무엇일까요? 새로운 위험 평가 방법, 또는 예측 가능한 위협(향상된 AI 사이버 공격 역량과 같은)이 도래하기 전에 회복력을 개선하기 위한 기술 도구와 인간 조직을 개발할 수 있을까요?

공격-방어 균형: AI 기반 역량이 사이버 및 생물학 분야에서 공격자에게 구조적으로 유리하게 작용할까요? AI가 지휘 및 통제 시스템 통합 증가와 같은 더 전통적인 영역에 적용될 때 공격자에게 이점을 줄까요? 더 일반적으로, AI는 인간 갈등의 특성을 어떻게 변화시킬까요?

위험 완화책 수립:

위기 시나리오 계획: 냉전 시대에 미국 대통령은 핵 위기 상황 발생 시 크렘린과 직접 연결되는 핫라인을 가지고 있었어요. AI 시스템과 관련된 위기 시나리오가 발생할 경우 어떤 지정학적 인프라가 필요할까요? 이 인프라는 국가 대 국가가 아니라, 기업 대 국가 또는 기업 대 기업이 될 수도 있을 거예요.

더 빠른 방어 메커니즘: AI 역량은 몇 달 만에 발전할 수 있어요. 규제, 보험, 인프라 대응은 수년의 시간 척도로 작동하죠. 이 격차를 어떻게 줄일 수 있을까요? 자동 패치, AI 기반 위협 탐지 또는 사전 배치된 대응 역량과 같은 방어 메커니즘이 AI 기반 공격의 속도와 규모에 맞출 수 있을까요? 아니면 이러한 비대칭성이 구조적인 걸까요? 그리고 이러한 방어 메커니즘을 가능한 한 효과적으로 어떻게 배포할 수 있을까요?

감시를 위한 지능 역량

AI가 감시에 미치는 영향: AI는 감시 방식에 어떻게 변화를 가져올까요? 감시를 더 저렴하게 만들까요, 더 효과적으로 만들까요, 아니면 둘 다 만들까요?

현실 세계의 AI 시스템

사람과 조직이 AI 시스템과 상호작용하는 방식은 사회 변화의 주요 원천이 될 거예요. AI 시스템이 그들과 상호작용하는 사람과 기관을 어떻게 변화시킬 수 있는지 이해하는 것은 앤트로픽 사회적 영향 팀의 핵심 중점 연구 분야예요. 이러한 변화를 연구하기 위해, 앤트로픽은 플랫폼의 더 나은 관측 가능성을 위한 소프트웨어부터 대규모 질적 설문조사를 수행하는 도구에 이르기까지, 기존 도구를 발전시키고 새로운 도구를 구축하여 연구를 수행하고 있어요.

AI가 개인과 사회에 미치는 영향:

집단 인식론: 인구의 상당 부분이 동일한 소수의 모델을 참고할 때, 우리의 인식론에는 어떤 일이 일어날까요? 공유된 AI 사용으로 인한 믿음, 글쓰기 스타일, 문제 해결 방식의 대규모 변화를 측정할 수 있는 방법을 찾을 수 있을까요?

비판적 사고: AI 시스템이 더욱 유능해지고 신뢰를 얻게 되면서, AI 판단에 대한 의존도 증가로 인해 발생할 수 있는 인간의 비판적 사고 능력 저하를 어떻게 감지하고 피할 수 있을까요?

기술 인터페이스: 기술의 인터페이스는 사람들이 기술과 상호작용하는 방식을 결정할 수 있어요. 텔레비전은 사람들을 수동적인 시청자로 만들고, 컴퓨터는 사람들이 생성적인 창조자가 되기 쉽게 만들죠. AI 시스템이 인간의 주체성을 향상시키고 증진하도록 만들려면 어떤 인터페이스를 구축할 수 있을까요?

인간-AI 시스템 관리: 인간과 AI 시스템이 혼합된 팀을 인간이 어떻게 효과적으로 관리할 수 있을까요? 그리고 이것이 역전될 수도 있는데, AI 시스템이 인간, AI 또는 이 둘의 조합으로 구성된 팀을 어떻게 관리할 수 있을까요?

AI의 중대한 영향 식별:

행동적 영향: 소셜 미디어가 사람들의 행동 변화를 이끌어냈던 것과 마찬가지로, AI도 인간의 행동을 형성할 수 있어요. 어떤 종류의 모니터링이나 측정이 이러한 역학 관계에 대해 연구자들에게 정보를 제공할 수 있을까요?

연구 활성화: 최첨단 AI 회사뿐만 아니라 광범위한 사람들이 실제 AI 사용을 쉽게 연구할 수 있도록 하는 투명성 체제와 도구가 있을까요?

AI 모델 이해 및 거버넌스:

시스템 “가치”: AI 시스템의 명시된 ‘가치’는 무엇이며, 이것이 시스템이 훈련된 방식과 어떻게 관련이 있을까요? 더 구체적으로, AI ‘헌법(constitution)’이 배포된 모델의 행동에 미치는 영향을 어떻게 측정할 수 있을까요? 앤트로픽은 이러한 질문들에 대한 이전연구를 확장할 거예요.

자율 에이전트 거버넌스: 기존 법률, 거버넌스 시스템, 책임 메커니즘 중 어떤 부분이 자율 AI 에이전트에 적용될 수 있을까요? 예를 들어, 해상법이 버려진 선박을 다루는 방식은 인간의 감독 없이 작동하는 에이전트를 법이 어떻게 다룰지에 대한 관련성이 있어요. 반대로, 이미 AI 에이전트에 적용되지만 적용되어서는 안 되는 기존 법률의 측면도 있을까요?

에이전트의 신뢰성: 자율 AI 에이전트의 어떤 측면이 기존 법률, 거버넌스 시스템, 책임 메커니즘에 맞게 조정될 수 있을까요? 예를 들어, AI 에이전트가 직접적인 인간 통제 없이도 신뢰할 수 있게 고유한 신원을 출력하도록 보장할 수 있을까요?

AI의 AI 거버넌스: AI 시스템을 거버넌스하는 데 AI를 얼마나 효과적으로 사용할 수 있을까요? 인간이 비교 우위를 갖거나 '개입해야 할' 법적 또는 규범적 요구 사항이 있는 AI 감독 영역은 무엇일까요?

에이전트 상호작용: AI 에이전트들이 서로 상호작용하는 방식에서 어떤 종류의 규범이 나타날까요? 서로 다른 에이전트가 어떻게 다른 선호도를 표현하고, 이것이 다른 에이전트에게 어떤 영향을 미칠 수 있을까요?

AI 주도 R&D

AI 시스템이 강력해질수록 과학자들은 AI를 이용해 더 많은 연구를 수행하고 있어요. 이는 더 많은 과학 연구가 인간의 적극적인 감독 없이 자율적으로 또는 반자율적으로 이루어진다는 뜻이죠. AI 연구 자체에서도 점점 더 강력한 시스템이 차세대 버전의 AI를 개발하는 데 사용될 수 있어요. 앤트로픽은 이를 때때로 “AI 주도 AI R&D(AI-driven AI R&D)”라고 불러요.

AI 주도 AI R&D는 더 똑똑하고 유능한 시스템을 만드는 과정에서 얻게 되는 “자연스러운 배당금”일 수 있어요. 코딩 역량의 발전이 이중 용도 사이버 역량으로 이어지고, 과학 역량의 발전이 이중 용도 생물학 역량으로 이어질 수 있는 것과 같은 방식으로, 복잡한 기술 작업의 발전은 AI 시스템을 개발할 수 있는 AI 시스템을 자연스럽게 만들어낼 수 있어요.

AI 주도 AI R&D는 그 자체로 상당한 위험성을 내포하고 있어요. 정책 입안자들이 활용할 수 있는 수단을 평가할 때, AI 발전 속도가 어떻게 변하고 있는지, 그리고 AI 연구가 복리 효과를 보이기 시작할지 이해하는 것이 중요할 거예요.

AI의 AI R&D 활용

AI R&D의 거버넌스: AI 시스템이 스스로를 자율적으로 개발하고 개선하는 데 사용된다면, 인간은 이러한 시스템에 대해 어떻게 의미 있는 가시성과 통제력을 행사할 수 있을까요? 궁극적으로 이 시스템들을 무엇이 거버넌스하게 될까요?

비상 훈련 시나리오: 지능 폭발에 대비한 “비상 훈련(fire drill)”을 어떻게 실시할 수 있을까요? 연구소 리더십, 이사회, 정부의 의사결정을 실제로 시험하는 탁상 훈련(tabletop exercise)은 어떤 모습일까요?

AI R&D를 위한 원격 측정: AI 연구 개발의 총체적인 속도를 어떻게 측정할 수 있을까요? 이 정보를 수집하려면 어떤 종류의 원격 측정(telemetry)과 기본 기술적 여건이 존재해야 할까요? AI R&D 관련 지표들이 재귀적 자기 개선(recursive self-improvement)에 대한 조기 경보 신호로 어떻게 작용할 수 있을까요?

AI 가속 제어: 만약 지능 폭발이 임박했다면, 폭발 속도를 늦추거나 다른 방식으로 변화시키는 데 어떤 개입 지점이 도움이 될까요? 인간이 개입할 수 있다고 가정할 때, 어떤 주체(정부? 기업?)가 이 역량을 행사해야 할까요?

일반적인 R&D를 위한 AI, 즉 다른 분야에서의 AI 주도 연구:

기술 트리: AI는 데이터 가용성, 평가 신호, 그리고 얼마나 많은 지식이 암묵적이거나 제도적으로 제한되는지에 따라 일부 과학 분야의 속도를 다른 분야보다 훨씬 빠르게 만들고 있어요. 이러한 기울기는 얼마나 불균등하며, 과학 발전 구성의 변화가 어떤 인간 문제가 먼저 해결될지에 대해 무엇을 의미할까요?

들쭉날쭉한 개척지: 모델 역량은 일부 영역에서 다른 영역보다 더 강력해요. 신약 개발이나 재료 과학처럼 큰 긍정적 외부 효과를 가진 분야는 그 가치에 비해 투자를 덜 받고 있죠. 시장은 사적 수익에 따라 모델 개선 방향을 이끌지만, 사회적 외부 효과를 해결하기 위해 모델 성능을 어떻게 개선할 수 있을까요?

관련 콘텐츠

사람들이 클로드에게 개인적인 조언을 구하는 방법

더 읽어보기

BioMysteryBench를 이용해 클로드의 생물정보학 연구 역량 평가하기

더 읽어보기

앤트로픽 경제 지수 설문조사 발표

앤트로픽은 앤트로픽 인터뷰어(Anthropic Interviewer)를 통해 매월 진행되는 앤트로픽 경제 지수 설문조사를 시작했어요.

더 읽어보기