장기적 이익 신탁 (Long-Term Benefit Trust)

오늘 앤트로픽은 탄생부터 쭉 개발해온 새로운 지배구조인 **장기적 이익 신탁(Long-Term Benefit Trust, LTBT)**에 대해 좀 더 자세히 알려드리려고 해요. LTBT는 변혁적 AI가 가져올 수 있는 특별한 도전 과제와 장기적인 기회에 대응하기 위해 앤트로픽의 기업 지배구조를 파인튜닝하려는 시도라고 할 수 있죠.

이 신탁은 재정적으로 이해관계가 없는 다섯 명의 독립적인 구성원으로 이루어져 있으며, 앤트로픽 이사회 구성원 중 일부(최종적으로는 이사회 과반수)를 선임하고 해임할 권한을 갖고 있어요. 앤트로픽의 공익법인(Public Benefit Corporation) 지위와 함께, LTBT는 인류의 장기적인 이익을 위해 첨단 AI를 개발하고 유지한다는 앤트로픽의 사명에 맞춰 기업 지배구조를 정렬하는 데 도움을 줘요.

기업 지배구조의 기본

기업은 이사회에 의해 감독되어요. 이사회는 리더십 팀(특히 CEO)을 선임하고 감독하고, 이 리더십 팀은 다시 직원들을 고용하고 관리하죠. 일반적인 기업 지배구조는 이사들이 여러 면에서 주주들에게 책임을 지도록 되어 있어요. 예를 들어:

• 이사는 주주들이 선출하고, 주주들이 해임할 수 있어요.
• 이사는 신탁 의무를 이행하는 데 있어서 주주들에게 법적으로 책임을 져야 하죠.
• 이사들은 보통 회사 주식으로 보수를 받는데, 이는 이사들의 인센티브를 주주들의 재정적 이익과 일치시키는 데 도움이 돼요.

중요한 점은, 이사를 선출하고 해임하며 고소할 권리가 전적으로 주주에게만 있다는 거예요. 그래서 일부 사람들은 기업의 이사들이 주주 외에 고객이나 일반 대중과 같은 다른 이해관계자들을 위해 최적화할 수 있는지 궁금해하기도 하죠. 이 질문은 활발한 논의가 이루어지는 주제이지만, 여기서는 깊이 파고들지는 않을게요. 현재로서는 기업법상 모든 핵심적인 책임 메커니즘이 이사들로 하여금 주주의 재정적 이익을 우선시하도록 한다는 점을 알아두는 것으로 충분해요.

앤트로픽의 기업 지배구조 파인튜닝

기업 지배구조는 수세기 동안 법적 선례와 반복을 거쳐왔고, 그 효과성, 강점, 약점에 대한 견해는 매우 다양해요. 앤트로픽의 관점은 기업 지배구조가 사회적으로 유익한 결과를 만들어낼 수 있는 능력은 비시장적 외부 효과(externalities)에 크게 좌우된다는 점이에요. 외부 효과는 두 당사자 간의 거래가 해당 거래에 동의하지 않은 제3자에게 비용이나 이익을 부과할 때 발생하는 일종의 시장 실패예요. 흔한 비용 사례로는 공장의 오염, 은행의 시스템적 금융 위험, 무기 제조업체의 국가 안보 위험 등이 있죠. 긍정적인 파급 효과의 예로는 교육받은 개인을 넘어 사회 전반에 미치는 교육의 이점, 또는 투자하는 회사를 넘어 전체 산업 분야를 활성화시키는 R&D 투자를 들 수 있어요. 고객, 근로자, 공급업체와 같이 기업과 계약을 맺는 많은 당사자들은 자신들의 교환에 따른 모든 비용과 이익을 반영하는 가격과 조건을 협상하거나 요구할 수 있죠. 하지만 일반 대중과 같은 다른 당사자들은 기업과 직접 계약을 맺지 않기 때문에 자신들이 겪는 비용과 이익에 대해 청구하거나 지불할 수단이 없어요.

외부 효과가 클수록, 일반 대중과 같은 비계약 당사자의 이익을 기업 지배구조가 제대로 보호하지 못할 가능성이 커져요. 앤트로픽은 AI가 전례 없이 큰 외부 효과를 만들어낼 수 있다고 믿고 있어요. 이는 국가 안보 위험, 대규모 경제 혼란, 인류에 대한 근본적인 위협부터 인류의 안전과 건강에 막대한 이익을 가져다주는 것까지 다양하죠. 기술이 너무나 빠르게 발전하고 있어서, 다른 외부 효과가 큰 기업 활동을 제약하는 법률과 사회 규범이 아직 AI를 따라잡지 못했어요. 이 때문에 앤트로픽은 다가올 도전에 대비하기 위해 앤트로픽의 지배구조를 파인튜닝하는 데 투자하게 된 거예요.

분명히 말해서, 앤트로픽이 내리는 대부분의 일상적인 결정에서 공익은 상업적 성공이나 주주 수익과 상충되지 않아요. 오히려 앤트로픽의 경험에 따르면 이 둘은 종종 강력한 시너지 효과를 내곤 해요. 즉, 효과적인 안전 연구를 수행하는 능력은 최첨단 모델을 구축하는 데 달려 있고(이는 상업적 성공으로 인해 자원이 크게 지원되죠), '최고를 향한 경쟁'을 촉진하는 능력은 기술적, 상업적 측면 모두에서 생태계 내에서 실행 가능한 회사로 존재해야 가능하니까요. 앤트로픽은 LTBT가 이러한 일상적인 결정이나 앤트로픽의 일반적인 상업 전략에 개입할 것이라고 예상하지 않아요.

오히려 지배구조 파인튜닝의 필요성은 궁극적으로 극단적인 사건 발생 가능성과 인류의 이익을 염두에 두고 이를 처리해야 할 필요성에서 비롯된 것이며, 앤트로픽은 LTBT가 주로 이러한 장기적인 문제에 초점을 맞출 것으로 예상하고 있어요. 예를 들어, LTBT는 조직의 리더십이 다른 모든 목표보다 시장 선점을 우선시하기보다는, 미래 모델의 치명적인 위험을 신중하게 평가하거나 국가 수준의 보안을 갖추도록 인센티브를 제공하는 역할을 할 수 있죠.

기준: 공익법인(Public Benefit Corporation)

앤트로픽이 이미 공유한 지배구조 특징 중 하나는 앤트로픽이 델라웨어 공익법인(Public Benefit Corporation, PBC)이라는 점이에요. 미국 대부분의 대기업처럼, 앤트로픽도 델라웨어 주에 법인을 설립했는데요. 델라웨어 기업법은 PBC 이사들이 주주의 재정적 이익과 법인 정관에 명시된 공익 목적, 그리고 기업의 행위로 인해 실질적으로 영향을 받는 사람들의 최선의 이익을 균형 있게 고려할 수 있도록 명시적으로 허용하고 있어요. 앤트로픽의 정관에 명시된 공익 목적은 인류의 장기적인 이익을 위한 첨단 AI의 책임감 있는 개발 및 유지예요. 이는 앤트로픽 이사회에 특정 AI 시스템을 배포할지 여부와 같은 결정의 장단기 외부 효과를 앤트로픽 주주의 재정적 이익과 함께 고려할 수 있는 법적 재량권을 부여하고 있죠.

앤트로픽의 PBC 구조가 제공하는 법적 재량권은 앤트로픽의 지배구조를 앤트로픽의 공익 사명과 일치시키는 데 중요해요. 하지만 앤트로픽은 변혁적 AI 개발에서 예상되는 지배구조 문제에 대해 이것만으로는 충분하지 않다고 느꼈어요. PBC 형태는 이사들이 공익과 주주 가치 극대화를 법적으로 균형 있게 고려할 수 있도록 하지만, 기업 이사들이 다른 이해관계자들에게 직접적으로 책임을 지게 하거나 그들의 인센티브를 일반 대중의 이익과 일치시키지는 않거든요. 앤트로픽은 앤트로픽의 결정이 앤트로픽을 훨씬 넘어설 것이라고 예상되는 중요한 시점에서, 앤트로픽 이사들에게 앤트로픽 주주의 재정적 이익과 앤트로픽의 공익 목적을 적절히 균형 있게 조절할 수 있는 필요한 책임과 인센티브를 제공할 구조를 설계하기 시작했어요.

LTBT: 기본 구조 및 특징

앤트로픽 장기적 이익 신탁(LTBT 또는 신탁)은 AI 안전, 국가 안보, 공공 정책 및 사회적 기업 분야의 배경과 전문 지식을 가진 다섯 명의 수탁자로 구성된 독립적인 기관이에요. 신탁의 규정은 수탁자들이 앤트로픽에 대한 재정적 이해관계로부터 독립되도록 설계되었고, 앤트로픽 주주의 이익과 함께 대중의 이익을 균형 있게 고려할 수 있는 충분한 독립성을 부여하도록 되어 있어요.

앤트로픽의 시리즈 C 투자 유치가 마무리되면서, 앤트로픽은 기업 정관을 수정하여 신탁이 독점적으로 보유하는 새로운 종류의 주식(Class T)을 만들었어요.1 이 Class T 주식은 신탁에게 시간 및 자금 조달 기반의 마일스톤에 따라 점진적으로 증가하는 수의 앤트로픽 이사회 구성원을 선임하고 해임할 권한을 부여해요. 어떠한 경우에도 신탁은 4년 이내에 이사회 과반수를 선출하게 될 거예요. 동시에 앤트로픽은 시리즈 C 및 그 이후 투자자들이 선출할 새로운 이사 자리를 만들어, 앤트로픽 투자자들의 관점이 미래에도 이사회에 직접적으로 반영될 수 있도록 했어요.

Class T 주식에는 기업이나 그 사업을 크게 변경할 수 있는 특정 조치에 대해 신탁이 통지를 받아야 하는 '보호 조항'도 포함되어 있어요.

이 신탁은 델라웨어 주의 보통법에 따라 '목적 신탁(purpose trust)'으로 조직되었으며, 그 목적은 앤트로픽의 목적과 동일해요. 신탁은 앤트로픽이 주주의 재정적 이익과 앤트로픽의 행동으로 영향을 받는 사람들의 이익, 그리고 앤트로픽의 공익 목적을 책임감 있게 균형 있게 조절하도록 그 권한을 사용해야 해요.

다른 종류의 주주

장기적 이익 신탁을 설립하면서, 앤트로픽은 사실상 앤트로픽 내에서 다른 종류의 주주를 만들어냈다고 할 수 있어요. 앤트로픽은 계속해서 이사회에 의해 감독될 것이며, 이 이사회는 변혁적 AI로 향하는 과정에서 중요한 결정들을 내릴 것으로 예상하고 있어요. 이러한 결정을 내릴 때, 이사회의 과반수는 궁극적으로 주주뿐만 아니라 신탁에도 책임을 지게 되며, 따라서 공익과 주주 이익의 균형을 적절히 맞출 인센티브를 갖게 될 거예요. 더욱이 이사회는 앤트로픽의 공익 사명에 핵심적인 분야에서 깊은 전문 지식과 경험을 가진 수탁자들의 통찰력으로부터 이점을 얻을 수 있죠. 앤트로픽은 신탁이 제공하는 통찰력과 인센티브가 가장 중요한 순간에 더 나은 의사 결정으로 이어질 것이라고 믿고 있어요.

LTBT의 점진적인 '단계적 도입'은 앤트로픽이 실험적인 구조를 수정할 수 있도록 해줄 것이며, 또한 기업 역사 초반에는 간소화된 지배구조와 너무 많은 이해관계자 없이 가장 잘 기능하는 경우가 많다는 가설을 반영하고 있어요. 반면에 기업이 성숙해지고 사회에 더 큰 영향을 미치게 되면 외부 효과가 점진적으로 더 많이 나타나게 되어 견제와 균형이 더욱 중요해진다는 생각이죠.

기업 지배구조 실험

장기적 이익 신탁은 하나의 실험이에요. 이 디자인은 앤트로픽 리더십 팀이 이 구조를 설계하고 '레드팀' 테스트를 하는 데 도움을 준 국내에서 가장 뛰어난 기업 지배구조 학자들과 실무자들의 통찰력을 바탕으로 신중하게 세워진 가설이에요. 앤트로픽은 아직 이것을 모범 사례로 내세울 준비가 되지 않았어요. 앤트로픽은 실증주의자들이고, 이 방식이 어떻게 작동하는지 직접 보고 싶거든요.

가장 어려운 설계 과제 중 하나는 중요한 상황에서 신탁 구조가 우회 공격에 강해야 한다는 필수 조건과 신탁의 실험적인 본질이라는 현실을 조화시키는 것이었어요. 이 제도가 쉽게 무효화되는 것을 막는 것이 중요하지만, 동시에 이런 종류의 것을 처음부터 제대로 만드는 경우는 드물죠. 그래서 앤트로픽은 내구성과 유연성을 신중하게 균형 잡는 개정 절차를 설계했어요. 앤트로픽은 대부분의 조정이 수탁자들과 앤트로픽 이사회, 또는 수탁자들과 다른 주주들의 합의에 의해 이루어질 것으로 보고 있어요. 하지만 신탁의 실험적인 특성 때문에, 충분히 큰 규모의 초과다수 주주가 동의할 경우 수탁자들의 동의 없이 신탁과 그 권한을 변경할 수 있는 일련의 '안전장치' 조항도 설계해 두었어요. 신탁의 권한이 단계적으로 도입됨에 따라 필요한 초과다수 비율은 증가하는데, 이는 시간이 지남에 따라 앤트로픽이 더 많은 경험을 쌓고 반복의 필요성이 줄어들며, 이해관계가 더욱 커질 것이라는 이론에 기반한 것이죠.

초대 수탁자들을 만나보세요

초대 수탁자들은 다음과 같아요: 제이슨 마세니(Jason Matheny): 랜드 코퍼레이션(RAND Corporation) CEO 카니카 바흘(Kanika Bahl): 에비던스 액션(Evidence Action) CEO 겸 사장 닐 버디 샤(Neil Buddy Shah): 클린턴 건강 접근성 이니셔티브(Clinton Health Access Initiative) CEO (의장) 폴 크리스티아노(Paul Christiano): 정렬 연구 센터(Alignment Research Center) 설립자 잭 로빈슨(Zach Robinson): 이펙티브 벤처스 US(Effective Ventures US) 임시 CEO

앤트로픽 이사회는 1년간의 탐색 및 인터뷰 과정을 거쳐 사려 깊고 강한 인품을 가지며 AI의 위험, 이점, 궤적 및 사회에 미치는 영향에 대해 깊이 이해하는 개인들을 찾아내 이 초대 수탁자들을 선정했어요. 수탁자들은 1년 임기로 봉사하며, 미래의 수탁자들은 수탁자들의 투표로 선출될 예정이에요. 앤트로픽은 이 창립 수탁자 그룹이 신탁의 자리를 수락해 준 것을 영광으로 생각하며, 그들이 귀중한 통찰력과 판단력을 제공해 줄 것이라고 믿고 있어요.

[1] 신탁의 초기 버전은 당시 '장기적 이익 위원회'라고 불렸는데, 2021년 앤트로픽의 시리즈 A 투자 문서에 포함되어 있었어요. 하지만 위원회가 첫 이사를 2023년까지 선출할 예정이 아니었기 때문에, 앤트로픽은 그 사이에 레드팀 테스트를 통해 법적 구조를 개선하고 후보자 선정을 신중하게 고려했어요. 현재의 LTBT가 그 결과예요.

[2] 이 신탁 구조는 예일 로스쿨의 존 몰리(John Morley), 데이비드 버거(David Berger), 에이미 시머먼(Amy Simmerman)을 포함한 윌슨 손시니(Wilson Sonsini)의 다른 변호사들, 그리고 하버드 로스쿨의 노아 펠드먼(Noah Feldman)과 에티컬 컴패스 어드바이저스(Ethical Compass Advisors)의 세스 버먼(Seth Berman)의 헤아릴 수 없는 도움을 받아 설계되고 '레드팀' 테스트를 거쳤어요.

각주

이 페이지가 처음 발행된 이후, 장기적 이익 신탁 구성에 몇 가지 변경 사항이 있었어요.

2023년 12월, 제이슨 마세니는 랜드 코퍼레이션의 정책 관련 이니셔티브와 발생할 수 있는 잠재적 이해 상충을 방지하기 위해 신탁에서 물러났어요. 폴 크리스티아노는 2024년 4월에 미국 AI 안전 연구소의 AI 안전 책임자라는 새로운 역할을 맡기 위해 물러났어요. 2026년 1월에는 카니카 바흘이 새로운 비영리 단체인 AI 접근성 이니셔티브를 시작하기 위해 물러났고, 잭 로빈슨은 비영리 및 자선 활동에 집중하기 위해 물러났습니다.

신미국안보센터(Center for a New American Security) CEO인 리처드 퐁텐(Richard Fontaine)은 2025년 5월에 LTBT에 합류했으며, 카네기 국제평화기금(Carnegie Endowment for International Peace) 총재인 마리아노-플로렌티노 (티노) 쿠엘라(Mariano-Florentino (Tino) Cuéllar)는 2026년 1월에 합류했어요. 추가적인 LTBT 구성원은 적절한 시기에 수탁자들에 의해 선출될 예정이에요.

관련 콘텐츠

창의적인 작업을 위한 클로드

더 읽어보기

앤트로픽, 테오 후르무지스를 호주 및 뉴질랜드 총괄 책임자로 임명하고 시드니 사무소 공식 개소

더 읽어보기

선거 안전 조치에 대한 업데이트

올해 미국 중간 선거와 전 세계 다른 주요 선거에서 클로드가 긍정적인 역할을 하도록 앤트로픽이 무엇을 하고 있는지 설명해 드릴게요.

더 읽어보기