OpenAI의 공개 정책 의제

미션과 원칙

OpenAI의 미션은 인공 일반 지능(AGI)이 모든 인류에게 혜택을 주도록 하는 거예요. OpenAI는 AI를 구축하고 공공 정책에 참여하는 방식을 결정하는 다섯 가지 핵심 원칙에 따라 움직이고 있어요.

1. 민주화. 소수의 손에 이 기술의 힘이 집중되는 것을 막을 거예요.
2. 역량 강화. AI가 모든 사람이 목표를 달성하고, 더 많이 배우고, 더 행복하고 만족스럽게 꿈을 좇을 수 있도록 힘을 실어줄 수 있다고 믿어요. 그리고 사회 전체가 이로 인해 이득을 얻을 거라고 생각해요.
3. 보편적 번영. 모든 사람이 훌륭한 삶을 누릴 수 있는 미래를 원해요.
4. 회복력. AI는 새로운 위험을 가져올 거예요. OpenAI는 다른 회사, 생태계, 정부, 사회와 협력해서 이 문제들을 해결할 거예요.
5. 적응력. 예측 불가능한 미래의 과제에 대응하는 유일한 방법은 더 많이 배우면서 입장을 계속 업데이트할 준비를 하는 거라고 변함없이 믿고 있어요.

AI는 사람들이 일하고, 배우고, 창조하고, 사회에 참여하는 방식을 재편할 잠재력이 있다고 OpenAI는 믿어요. 그리고 민주주의는 기회에 대한 접근성을 넓히고, 위험을 완화하고, 사람들이 원하는 AI 미래를 형성하는 데 실질적인 주체성을 가질 수 있도록 돕는 데 필수적인 역할을 할 거라고 생각해요. 그래서 OpenAI는 기술을 자유롭고 안전하게 접근할 수 있도록 하는 데 전념하고 있어요.

OpenAI의 사용자 기반은 이러한 노력을 잘 보여주고 있어요. OpenAI의 도구를 사용하는 여성과 남성 비율이 비슷하고, 다른 어떤 AI 플랫폼보다 30세 미만 및 30세 이상 사용자가 많으며, 연 소득 10만 달러 미만 사용자가 10만 달러 이상 사용자보다 많아요. 이는 전 세계 노동력 분포와 비슷하다고 볼 수 있어요.

이것이 바로 OpenAI가 전 세계 정부 및 시민 사회와 협력하는 이유예요. 정책 입안자들이 OpenAI의 기술과 그 영향을 이해하도록 돕고, 정부가 기능하고 시민들에게 가치를 제공하는 방식을 개선하고, 사람들이 민주주의 제도에 참여하고 혜택을 받을 수 있는 능력을 확장하며, AGI가 모든 인류에게 혜택을 주도록 한다는 미션을 발전시키는 정책을 만드는 데 기여하고 있어요.

OpenAI의 정책 우선순위

아래 우선순위들은 OpenAI가 자사의 미션과 원칙을 공공 정책으로 어떻게 구현하는지 보여줘요. OpenAI는 AI가 만들어내는 기회와 과제에 정부와 사회가 대응하고, 위험을 완화하고, 기회 접근성을 확대하며, 사람들이 AI 경제에 의미 있게 참여하고 혜택을 받을 수 있도록 돕는 정책을 지지하고 있어요. 이러한 우선순위들은 AGI가 모든 인류에게 혜택을 주도록 한다는 OpenAI의 미션을 발전시키면서, 정부가 시민들을 더 잘 섬길 수 있도록 돕는 것을 목표로 해요. 이 목록은 OpenAI가 현재 가장 활발하게 참여하고 있는 영역 중 일부를 나타내지만, 전부는 아니에요. AI가 발전함에 따라 OpenAI의 정책 우선순위와 참여 영역도 계속해서 진화할 것으로 예상하고 있어요.

안전

최첨단 AI의 안전 문제는 국가 안보와 공공 안전에 직결된다고 OpenAI는 믿어요. 특히 가장 발전된 범용 AI 모델은 사이버, 화학, 생물, 방사능, 핵(CBRN) 무기와 관련된 위험을 초래할 수 있기 때문이에요. 미국에서는 캘리포니아 SB 53, 뉴욕 RAISE Act, 일리노이 SB 315와 같이 투명성, 재앙적 위험 평가 및 안전 사고에 대한 공개 보고, 내부 고발자 보호, 그리고 안전 및 보안 책임을 다하지 못한 개발자에 대한 책임 강화를 강조하는 공통 프레임워크를 만들기 위한 주(州) 차원의 노력을 지지하고 있어요. 이러한 주 차원의 접근 방식은 파편화를 줄이고 궁극적으로 연방 프레임워크로 나아갈 수 있는 조화로운 표준을 확립하는 데 도움이 될 수 있어요.

또한 OpenAI는 주(州)의 최첨단 AI 안전 법률에 반영된 새로운 합의를 활용하고, 미국 연방 정부의 최첨단 AI 안전을 위한 주요 기관인 AI 표준 및 혁신 센터(CAISI)를 강화하며, 최첨단 AI가 제기하는 국가 안보 및 공공 안전 문제를 해결하기 위해 정부 전반에 걸쳐 더 광범위한 회복력 계획을 동원하는 포괄적인 연방 프레임워크를 구축하기 위한 의회의 조치를 지지하고 있어요. 이 프레임워크는 CAISI가 가장 유능한 최첨단 모델에 대한 평가를 수행하고, CAISI가 독립적인 평가 생태계를 구축하도록 지시하며, 재귀적 자기 개선(RSI)을 향한 진행 상황 모니터링을 우선시해야 한다고 생각해요. 포괄적인 연방 프레임워크가 마련되면, 동일한 최첨단 AI 안전 위험을 규제하려는 주(州) 법률의 선점(preemption)을 지지해요.

또한 미국 연방 정부가 공통 국제 표준을 설정하는 데 주도적인 역할을 하도록 지지하며, OpenAI는 EU AI Act 행동 강령에 서명한 최초의 미국 기업이었어요. 그리고 미국 CAISI와 영국 AI 보안 연구소(UK AISI) 모두와 자발적인 협약을 맺은 최초의 기업 중 하나이기도 해요.

미래를 내다보면서, 정책 입안자들은 모델 격리 플레이북, 사고 보고, 또는 최첨단 AI 위험, 안전 장치, 보안 사고에 대한 조정을 촉진하는 국제 거버넌스 기구와 같은 더 야심찬 아이디어를 고려하기 시작해야 한다고 믿고 있어요.

특히 사이버 보안 분야에서는 AI 기반 사이버 방어 도구에 대한 신뢰할 수 있는 접근을 확대하고, 정부, 연구자, 산업 간의 강력한 파트너십을 통해 평가를 수행하고, 정보 공유를 심화하며, 사이버 방어를 강화하기 위한 회복력 조치를 구축하는 정책을 지지해요. 또한 오래된 공공 부문 사이버 보안 시스템을 현대화하려는 노력도 지지하며, 미국 연방, 주, 지방 정부는 물론 국제 파트너들과도 협력하고 있어요.

청소년 안전

AI가 강력한 안전 장치와 연령에 맞는 보호 조치와 함께 배포된다면, 젊은이들이 미래 경제에서 성공하는 데 필요한 기술과 기업가 정신을 배우고, 창조하고, 개발하는 데 도움을 줄 수 있다고 OpenAI는 믿어요. 청소년들은 집, 학교, 그리고 사회 진출을 준비하는 과정에서 안전하고 신뢰할 수 있는 AI에 접근할 수 있어야 하고, AI의 잠재적 위험으로부터 보호받아야 해요. OpenAI는 청소년 안전을 위한 강력하고 집행 가능한 위험 기반 규제와, 견고한 안전 장치와 투명성, 그리고 가족에게 통제권을 부여하는 도구를 결합한 프레임워크를 지지하고 있어요.

여기에는 기업이 사용자가 미성년자인지 식별하고 연령에 맞는 보호 조치를 적용할 수 있도록 하는 개인 정보 보호 연령 확인 요건, 예측 가능한 위험을 식별하고 피해가 발생하기 전에 비례적인 안전 장치를 유도하는 정기적인 청소년 안전 위험 평가, 가족이 청소년의 경험을 안내하고 지원하는 데 도움이 되는 접근 가능한 자녀 보호 기능, 그리고 어떤 보호 조치가 마련되어 있고 시간이 지남에 따라 어떻게 진화하는지 설명하는 명확한 공개 청소년 안전 정책이 포함돼요.

또한 청소년들이 AI 시스템과 상호 작용할 때 마주칠 수 있는 위험을 다루기 위한 안전 장치도 포함하고 있어요. 예를 들어, 유해하거나 연령에 부적절한 콘텐츠로부터의 보호, 심각한 안전 상황에 대응하기 위한 명확한 프로토콜, 그리고 조작적이거나 기만적인 상호 작용에 대한 안전 장치 등이요. 위기 대응 프로토콜에는 서비스 내 지원, 미국 988과 같은 적절한 실제 자원 연계, 그리고 적절한 경우 시기적절한 부모 통지가 포함되어야 해요. 기업은 또한 미성년자에 대한 타겟 광고 제한 및 개인 데이터 판매 금지를 포함하여 청소년의 개인 정보를 보호해야 해요.

마지막으로, 이러한 보호 조치들이 실제로 효과적이도록 하기 위해서는 독립적인 감사와 같은 강력한 책임 메커니즘이 필수적이에요. 감사는 여러 관할 구역에서 상호 운용 가능한 감사를 가능하게 하는 일련의 공통 표준에 의해 뒷받침되어야 해요. 입법 프레임워크에는 정부가 기업이 청소년 안전 보호 조치를 효과적으로 구현하고 있는지, 식별된 위험을 완화하고 있는지, 그리고 청소년 안전 및 개인 정보 보호 의무를 준수하고 있는지 평가할 수 있도록 하는 감독 및 집행 조치가 포함되어야 해요. OpenAI는 Parents and Kids Safe AI Coalition의 노력을 자랑스럽게 지지하며, 젊은이들이 AI로부터 배우고 혜택을 받을 수 있는 능력을 보호하면서 실용적인 AI 안전 장치를 발전시키는 데 기여하고 있어요.

추가적으로, OpenAI는 아동 성적 학대 및 착취에 대한 강력한 법적, 기술적 보호를 지지하고 있어요. 여기에는 생성형 AI가 합성 CSAM(아동 성적 학대 자료)을 만들고, 기존 이미지를 디지털로 변경하고, 그루밍 또는 착취 활동을 확대하는 데 오용될 수 있는 방식을 다루기 위해 아동 보호법을 현대화하는 것이 포함돼요. 정책 입안자들은 CSAM 법규가 AI 생성 및 디지털 변경 자료를 명확하게 다루고, CSAM을 생산하거나 요청하려는 의도적인 노력에 대한 책임을 명확히 하며, 검사와 법 집행 기관에 대한 강력한 집행 권한을 보존하도록 해야 해요. 또한 CyberTipline 보고서의 품질과 실행 가능성을 향상시키고, 조사 부담을 줄이며, NCMEC와 법 집행 기관이 더 빠르게 행동할 수 있도록 하는 제공자 보고 및 조정 표준을 지지해요. 마지막으로, 기업은 피해가 발생하기 전에 착취 시도를 중단시키기 위해 감지, 거부 메커니즘, 인간 감독, 지속적인 모니터링을 포함한 '설계에 의한 안전'(safety-by-design) 보호 장치를 구현해야 해요.

변화하는 세상 속 AI 회복력

AI는 사람들이 배우고, 일하고, 시민 생활에 참여하는 방식을 점점 더 많이 형성할 거예요. 교육 기관은 AI 리터러시를 구축하고 AI가 어디에나 존재하는 세상에서 학생들이 잘 헤쳐나갈 수 있도록 준비시키는 데 중요한 역할을 할 거라고 생각해요. OpenAI는 학생들이 안전하고 비판적이며 창의적으로 AI와 소통하는 데 도움이 되는 정책을 지지하면서, 교육자들이 교실 의사 결정의 중심에 있고 학교에서 AI가 채택되는 속도를 조절하도록 보장해야 한다고 믿어요. 여기에는 AI 리터러시 투자, 역사, 시민학, 수학, 과학, 문학, 컴퓨터 과학, 직업 기술 교육과 같은 과목의 강력한 핵심 교육이 포함돼요. 또한 교사 교육 및 전문 학습을 위한 보호된 시간, 인력과 연계된 학습 경로, 그리고 학교, 도서관 및 지역 사회 기관을 위한 AI 도구, 광대역, 기기, 교육 자원에 대한 접근성 확대도 포함돼요. AI가 학습 결과, 학생 복지 및 교육 형평성에 미치는 영향에 대한 연구를 강화하고, 이러한 학습 내용을 AI 개발 및 배포에 통합하려는 노력도 지지하고 있어요.

모든 사람이 AI가 만들어내는 새로운 기회에 참여할 수 있어야 한다고 믿으며, 이것이 바로 OpenAI가 ChatGPT를 무료로 제공하는 이유예요. OpenAI는 유용한 AI에 대한 저렴한 접근성을 확대하고, 인력 교육 및 AI 리터러시 투자를 통해 근로자, 기업가, 교육자 및 소규모 기업이 AI를 채택하도록 돕는 정책을 지지하고 있어요. 또한 고용주, 노동 조합, 커뮤니티 칼리지, 대학, 인력 위원회 및 지역 기업을 연결하는 지역 AI 허브의 생성과 AI 도구, 기술 지원 및 실습 교육을 제공하는 소규모 기업 채택 프로그램도 지지해요.

또한 노동 단체와 협력하여 교육 접근성을 확대하고, 근로자들이 실용적인 AI 기술을 구축하고 점점 더 유능해지는 AI 시스템으로 인한 경제 변화에 대비하도록 돕고 있어요. 그리고 근로자와 고용주가 OpenAI의 도구를 어떻게 사용하는지에 대한 데이터를 정기적으로 공개하고 있으며, 정책 입안자와 대중이 AI가 업무를 어떻게 재편하는지 더 잘 이해하는 데 도움이 될 뿐만 아니라, 근로자들이 새로운 역할과 인간 중심의 업무로 이동할 수 있는 경로를 식별하는 데 도움이 되는 인력 투명성 조치를 지지하고 있어요. 동시에, OpenAI는 휴대용 혜택, 세금 현대화, 공공 자산 기금 및 적응형 안전망을 고려하는 더 야심찬 인력 및 경제 전환 의제를 개발하고 구현하기 위해 정책 입안자들과 협력하는 데 전념하고 있어요.

딥페이크 및 콘텐츠 출처

AI가 창의적 표현을 확대하고, 예술가와 창작자에게 힘을 실어주며, 새로운 형태의 표현, 논평, 창의적 변형을 가능하게 하고, 독립적인 창작자, 소규모 스튜디오, 새로운 목소리가 창의 경제에 참여하는 장벽을 낮출 수 있다고 믿어요. 동시에, 사람들은 디지털 콘텐츠의 출처를 이해하고, 기만적인 사칭 및 무단 디지털 복제와 같은 유해한 딥페이크로부터 보호받을 수 있어야 한다고 생각해요. OpenAI는 온라인 투명성을 촉진하는 정책을 지지하는데, 여기에는 AI 도구가 생성하는 시청각 콘텐츠에 C2PA(콘텐츠 출처 및 진위 연합)가 개발한 것과 같은 출처 신호를 포함하도록 요구하는 것이 포함돼요. 또한 산업 전반의 파트너들과 협력하여 사람들이 디지털 콘텐츠의 출처를 더 잘 이해하도록 돕는 상호 운용 가능한 출처 표준 및 콘텐츠 진위 도구를 발전시키고 있어요. 자유로운 표현, 패러디, 저널리즘 및 기타 합법적인 사용을 위한 중요한 안전 장치를 유지하면서 음성 및 초상권의 유해한 오용으로부터 보호하는 정책을 지지해요.

OpenAI는 비동의 친밀 이미지의 합성에 대한 배포를 범죄화하고 피해자를 위한 구제책을 강화하는 노력을 포함하여, 이미지 기반 성적 학대에 대한 강력한 보호를 지지하고 있어요. 또한 유권자를 오도하기 위해 의도적으로 AI 생성 콘텐츠를 배포하는 것을 금지하고, 특정 AI 생성 정치 광고 및 캠페인 커뮤니케이션에 대한 공개 요건을 포함하여, 기만적인 AI 생성 정치 콘텐츠와 관련된 선거 공정성 보호도 지지해요. OpenAI는 신뢰할 수 있는 선거 당국과 협력하여 정확한 투표 및 선거 정보를 제공하고, 시스템이 후보자를 부당하게 추천하거나 순위를 매기는 것을 방지하는 데 도움을 주고 있어요.

AI 인프라 및 에너지

AI 인프라가 지역 사회와 협력하여 개발된다면, 이는 지역, 주(州), 그리고 국가 경제 성장의 엔진이 될 거라고 OpenAI는 믿어요. 지역 사회와의 협력은 지역의 요구 사항을 이해하는 것에서 시작되고, 그래서 모든 Stargate 사이트에는 현장 설계 및 에너지원을 포함하여 지역 사회와의 협의를 통해 맞춤형 커뮤니티 계획이 개발되어 있어요. 또한 보안, 상업적 민감성, 영업 비밀 및 독점 정보를 유지하기 위한 적절한 예외를 두면서도, 물, 전기, 정부 협약에 대한 투명성을 요구하는 정책을 지지하는 이유이기도 해요.

OpenAI는 자사의 운영이 전기 요금을 인상하지 않도록 에너지 비용을 스스로 부담할 것을 약속하고 있으며, 주(州) 공공 사업 위원회가 데이터 센터가 추가로 발생하는 비용을 지불하도록 요구하는 대규모 부하 요금을 만들도록 하는 요건을 포함하여, 데이터 센터가 공정한 전기 요금을 지불하도록 보장하는 정책을 지지해요. 지역 유틸리티 및 규제 기관과 협력하여 데이터 센터가 그리드 안정성에 기여하도록 보장하고 있어요. 또한 저배출 백업 발전기 및 폐쇄 루프 또는 저수 냉각 시스템과 같이 환경 영향을 줄이는 기술 및 관행에 대한 공개를 포함하여 지속 가능성 보고 요건을 지지해요. 등록된 견습생 사용 인센티브 및 프로젝트 노동 협약을 포함하여, 지역 근로자들이 좋은 임금을 받는 건설 일자리에 접근하도록 돕는 정책을 지지하고 있어요. 그리고 산업 중립적이고 예측 가능한 세금 및 인센티브 프레임워크를 유지하고, 기업이 약속을 이행하도록 책임지게 하며, 주변 지역 사회에서 혁신, 기업가 정신, 장기적인 경제 성장을 촉진하는 정책을 장려하고 있어요.