글로벌 리더십을 통한 청소년 안전과 기회 증진

AI는 청소년에게 강력한 도구가 될 수 있어요. 어려운 개념을 이해하고, 새 언어를 연습하고, 면접을 준비하고, 창의적인 아이디어를 탐구하거나, 새로운 기술을 배우는 데 도움을 주죠. 20세기 중반 문해 운동이 전 세계로 퍼지기 위해 인쇄된 텍스트의 대량 보급과 훈련된 교사에 대한 접근이 필요했던 것처럼, 오늘날 안전한 AI에 대한 접근을 제공하면 맞춤형 학습의 새로운 기회가 열리고, 소외된 계층의 장벽을 낮추며, 직업 준비도를 높일 수 있습니다.

잠재적 이점이 매우 중요하기 때문에, 청소년이 안전하고 연령에 적합하며 건강한 발달을 지원하는 방식으로 AI에 접근할 수 있도록 하는 것이 필수적입니다. 그 책임은 주로 부모나 청소년 자신에게 있어서는 안 됩니다. OpenAI를 포함한 기업들은 기본적으로 적절한 보호 장치를 갖춘 제품을 만들면서, 가족들이 AI 사용 방향을 정할 수 있도록 도구와 정보를 제공할 책임이 있습니다.

이달 말 프랑스 에비앙에서 열리는 G7 정상회의에서 각국 정상들이 모일 때, 청소년 AI 안전 주제가 핵심 초점이 될 것입니다. OpenAI는 청소년 안전에 대한 더 큰 협력, 업계 표준을 높이기 위해 함께 노력하는 방법, 그리고 OpenAI가 국제 청소년 안전 기구 설립을 새롭게 촉구하는 내용에 대해 논의하기 위해 참여할 예정입니다.

G7 정상회의는 청소년 안전에 대한 글로벌 협력을 위한 드문 기회를 제공합니다. 하지만 전담 기구는 단일 정상회의를 넘어 지속성과 후속 조치를 제공하여 정부, 연구자, 시민 사회, 업계가 지속적으로 협력하여 증거를 공유하고, 지침을 개발하며, 시간이 지남에 따라 표준을 높이는 데 도움이 될 것입니다.

이를 실현할 수 있는 몇 가지 신뢰할 수 있는 방법이 있습니다: 새로운 국제 기구를 설립하거나, 기존 또는 새로 설립된 국가 AI 기구에 전 세계 파트너와 연구, 증거, 지침을 공유할 수 있는 글로벌 권한을 부여하는 것입니다. 가장 중요한 것은 그것이 수행하는 기능입니다. 청소년 AI 안전은 지속적인 관심, 신뢰할 수 있는 증거, 기술 발전 속도를 따라갈 수 있는 실용적인 지침이 필요합니다.

이러한 기구는 OpenAI 재단이 지원하는 Common Sense Media의 청소년 AI 안전 연구소(Youth AI Safety Institute)와 같은 신규 이니셔티브와 미국 교사 연맹과의 OpenAI 협력을 포함한 교육자와의 실질적인 협력을 기반으로 할 수 있습니다. 또한 에스토니아의 학교 내 국가적 ChatGPT 도입과 같은 실제 배포 사례를 활용해야 합니다. OpenAI는 스탠퍼드 및 에스토니아 연구자들과 협력하여 영향을 연구하고 학습에서 더 안전하고 효과적인 사용을 위한 정보를 제공하고 있습니다.

OpenAI는 프랑스 정부, 다른 G7 정부, 시민 사회, 학계, 업계 전반의 파트너들과 이 중요한 작업에 협력하고 청소년 안전에 대한 글로벌 표준을 높일 기회를 환영합니다.

청소년 AI 안전에 대한 글로벌 표준 설정

우리는 G7 회의에서 도출될 수 있는 잠재적 합의를 포함한 강력한 청소년 AI 안전 프레임워크가 여기에 제시하는 원칙에 의해 주도되어야 한다고 믿습니다.

1. 기업은 사용자가 미성년자인지 알고 연령에 적합한 보호 조치를 적용해야 합니다. 즉, 제공업체가 효과적이고 프라이버시를 보호하는 연령 추정 방법을 사용하여 미성년자와 성인을 구분하고, 사용자의 연령을 확인할 수 없을 때는 보호 장치를 기본값으로 적용해야 합니다. 이 기반 없이는 가장 의도가 좋은 청소년 보호 조치조차도 보호하려는 청소년에게 실제로 적용되지 않을 수 있습니다.
2. 기업은 청소년에 대한 위험과 이점을 정기적으로 평가하고, 피해가 발생하기 전에 이를 해결하기 위한 조치를 취해야 합니다. 즉, 제공업체가 매년 청소년 안전 위험 평가를 완료하고, 확인된 위험에 비례하는 보호 장치를 구현하도록 요구해야 합니다. 이러한 평가는 청소년의 발달 단계, 실제 사용에서 얻은 경험적 증거, 관련 연구 또는 규제 지침에 기반한 위험을 고려해야 합니다. 평가는 잠재적 피해뿐만 아니라 AI가 학습, 창의성, 기술 개발, 기회 접근과 같은 긍정적 결과를 지원하는지도 고려해야 합니다.
3. 부모와 보호자는 자녀의 경험을 안내하고 연령에 적합한 독립성을 지원할 수 있는 접근 가능하고 사용하기 쉬운 제어 기능을 가져야 합니다. 여기에는 메모리, 데이터 사용, 시간 제한 등 주요 설정을 관리하는 도구가 포함되어야 합니다. 부모 도구는 부모가 그 존재를 알고 사용 방법을 이해할 수 있도록 적극적으로 홍보되어야 합니다.
4. 가족은 기업이 청소년 사용자를 어떻게 보호하고 있는지에 대한 명확하고 이해하기 쉬운 정보와 청소년의 AI 사용에 따른 이점과 위험 모두에 대한 의미 있는 정보를 제공받을 자격이 있습니다. 기업은 청소년을 보호하기 위해 어떤 보호 장치가 마련되어 있는지, 사용 가능한 부모 도구, 위험이 진화함에 따라 보호 장치가 어떻게 업데이트되는지 설명하는 안전 정책을 게시해야 합니다. 이러한 투명성은 신뢰를 구축하고 부모가 정보에 입각한 선택을 할 수 있도록 돕습니다.
5. 기업은 자해, 착취, 그루밍, 성적 착취 콘텐츠 및 기타 고위험 상호 작용을 포함한 심각한 안전 상황을 처리하기 위한 명확한 프로토콜을 마련해야 합니다. 여기에는 서비스 내 지원, 적절한 리소스에 대한 추천, 적절한 경우 적시에 부모에게 알림이 포함되어야 합니다. 기업은 또한 노골적인 성적 또는 폭력적 자료를 포함하여 어린이에게 안전하지 않거나 발달적으로 부적절한 콘텐츠를 생성하지 않도록 시스템을 설계해야 합니다.
6. 청소년이 사용하는 AI 시스템은 학습, 발달, 현실 세계의 관계를 지원하도록 설계되어야 하며, 이를 대체해서는 안 됩니다. AI는 청소년이 배우고, 창조하고, 기술을 쌓고, 미래를 준비하는 데 도움을 주는 도구 역할을 해야 합니다. 동시에, 기업은 건강한 발달이 인간의 판단, 현실 세계의 관계, 전문가의 지원에 의존하는 영역에서 명확한 경계를 설정해야 합니다.
7. 미성년자의 개인 정보는 보호되어야 합니다. 즉, 청소년을 대상으로 한 프라이버시를 침해하는 타겟 광고를 금지하고, 기업이 개인 정보를 판매하는 것을 금지해야 합니다.
8. 청소년 안전 프레임워크는 기회, 문해력, 보호를 증진해야 합니다. 청소년은 학습, 창의성, 기술 개발, 미래 기회를 지원하는 AI 도구에 접근할 수 있어야 하며, 동시에 AI를 안전하고 책임감 있게 사용하는 데 필요한 지식과 비판적 사고 능력을 갖추어야 합니다. 여기에는 AI 문해력 증진과 청소년이 AI 시스템의 기회와 한계를 이해하도록 도와 디지털 공간에서 자신감 있고 책임감 있게 활동할 수 있도록 하는 것이 포함됩니다.
9. 독립적인 감사를 포함한 강력한 책임 메커니즘은 이러한 보호 조치가 실제로 의미 있게 작동하도록 하는 데 필수적입니다. 감사는 관할권 간 상호 운용 가능한 감사를 허용하는 공통 표준 세트에 기반해야 합니다. 입법 프레임워크는 정부가 기업이 청소년 안전 보호 조치를 효과적으로 구현하고, 확인된 위험을 완화하며, 청소년 안전 및 프라이버시 의무를 준수하고 있는지 평가할 수 있도록 하는 감독 및 집행 조치를 포함해야 합니다.

이러한 원칙은 모델 동작, 제품 디자인, 전문가 의견, 실제 지원에 이르기까지 ChatGPT를 구축하고 운영하는 방식에 반영되어 있습니다. 우리는 18세 미만 사용자에 대한 보호 장치를 강화했고, 학부모 통제 기능과 사전 알림을 출시했으며, 연령 예측 시스템을 발전시켜 누군가 18세 미만일 가능성이 있을 때 ChatGPT가 더 강력한 보호 조치를 적용할 수 있도록 했습니다. 모델이 어떻게 행동해야 하는지 설명하는 Model Spec에는 18세 미만 사용자를 위한 전용 원칙도 포함되어 있으며, 청소년 안전, 연령에 적합한 경험, 현실 세계의 지원, 명확한 기대치를 우선시합니다. 실제로는 자해, 위험한 활동, 노골적인 콘텐츠, 신체 이미지, 비밀 유지에 대한 더 강력한 가드레일과 필요할 때 신뢰할 수 있는 오프라인 지원이나 위기 리소스를 찾도록 장려하는 것을 의미합니다. 연령이 불확실할 때는 더 강력한 보호 장치를 기본값으로 적용합니다.

강력한 보호 장치를 갖추고 명확한 지침과 가족 및 교육자의 지원과 함께 제공되는 AI는 청소년이 학습, 창의성, 기회를 확장하는 도구로부터 안전하게 혜택을 받을 수 있도록 도울 수 있습니다. AI는 학생들이 어려운 개념을 이해하고, 언어를 연습하고, 글쓰기를 개선하고, 코딩을 배우고, 연구를 정리하고, 창의적인 아이디어를 탐구하고, 이미 변화하고 있는 직업을 준비하는 데 도움을 줄 수 있습니다. Education for Countries를 통해 OpenAI는 정부 및 교육자와 협력하여 연구 기반 배포, 현지화된 학습 도구, 교사 훈련을 진행하고 있으며, 이는 AI 도입이 증거와 실제 교실 요구에 기반하도록 합니다. 이 작업은 이미 에스토니아, 그리스, 싱가포르를 포함한 파트너 국가들의 국가 교육 노력을 지원하고 있습니다.

G7 정상회의에서의 OpenAI

정상회의 참여 외에도, 우리는 OpenAI 포럼을 파리로 가져와 정부, 연구자, 시민 사회, 교육자, 업계가 공동의 청소년 안전 목표를 구체적인 보호 장치, 표준, 구현 관행으로 전환하는 방법에 대한 실용적인 대화를 소집할 예정입니다. 프랑스 AI 및 디지털 담당 대사 Clara Chappaz가 OpenAI 글로벌 공공 정책 책임자 Chris Lehane, iRaise/Everyone.AI의 청소년 안전 리더, 그리고 다른 전문가들과 함께 청소년이 위험을 줄이면서 AI로부터 혜택을 받을 수 있는 방법에 대한 토론에 참여할 것입니다.