2026년 선거 정보와 보호 조치

2026년은 생성형 AI가 널리 보급된 이후 세계에서 두 번째로 중요한 선거 연도입니다. 우리는 2024년에 마련한 기반 위에 계속해서 구축해 전 세계 국가와 지역의 선거를 보호하는 데 기여하고 있습니다.

저희의 초점은 혁신적인 제품을 책임감 있게 구축하고 배포하여 다음과 같은 방식으로 도움을 주는 것입니다:

• 투표와 결과에 대한 신뢰할 수 있는 정보 제공
• 사이버 인프라 수호자 지원
• AI 생성 콘텐츠에 대한 투명성 강화
• 악의적인 행위자의 오용 방지
• 모델의 편향을 모니터링하여 ChatGPT 응답의 정치적 중립성 유지

신뢰할 수 있는 정보 제공

사람들은 이미 ChatGPT를 사용하여 선호하는 언어로 시민 행사에 관한 실용적인 질문을 하고 있습니다: 등록 방법, 투표 장소, 적용 기한, 진행 중인 뉴스 이벤트 상황, 공식 선거 결과 확인 방법 등이 있습니다.

2024년 노력을 바탕으로, 우리는 파트너와 협력하여 사람들에게 투표에 관한 신뢰할 수 있는 정보 출처를 안내하고 있습니다. 올 가을 미국과 브라질에서 OpenAI는 선거 당일 결과가 나오는 대로 AP 통신⁠(새 창 열기)의 실시간 개표 결과를 제공할 예정입니다. 미국에서는 Democracy Works⁠(새 창 열기)와 협력하여 사람들이 투표 및 등록 절차(투표소 위치 및 기타 선거 물류 포함)에 대해 물을 때 신뢰할 수 있는 정보를 표시할 것입니다. 전 세계적으로는 웹 검색이 소스 링크와 함께 유용한 정보를 제공하는 방식을 계속 개선해 나갈 것입니다.

2024년 이후, 우리는 사람들이 선거 주제와 속보에 대해 ChatGPT에 질문할 때 얻는 정보의 질을 계속 개선해 왔습니다. ChatGPT는 웹을 검색하여 소스 링크와 함께 더 강력한 답변을 제공하므로 사람들이 더 깊이 탐구할 수 있습니다.

사이버 인프라 수호자 지원

지금은 모든 업계의 사이버 수호자에게 중요한 시기이며, AI는 선거 지원 시스템을 포함한 디지털 인프라를 강화하는 데 중요한 역할을 한다고 믿습니다. OpenAI는 인프라 스택 전반에 걸쳐 복원력을 구축하는 데 전념하고 있으며, 여기에는 선거 실행을 지원하는 방식도 포함됩니다.

최근 우리는 소프트웨어를 구축하고 방어하는 방식을 바꾸기 위한 노력인 Daybreak⁠를 발표했습니다. Daybreak에는 Codex Security를 비롯하여 소프트웨어를 더 안전하고 탄력적으로 만들기 위한 여러 프로그램이 포함되어 있습니다. Codex Security는 개발자 코드의 취약점을 자동으로 식별, 검증 및 수정을 지원합니다. 더 고급 방어를 위해, Trusted Access for Cyber⁠ (TAC) 프로그램은 검증된 개인에게 사이버 방어를 위한 최첨단 모델에 대한 액세스를 제공합니다. 우리는 미국의 등록된 투표 시스템 제조업체⁠(새 창 열기)에 Codex Security와 TAC 액세스를 제공했으며, NASS(전국 국무장관 협회) 및 NASED(전국 주 선거 국장 협회)와 협력하여 주 선거 당국이 최신 사이버 역량과 방어자를 위한 도구에 대한 정보를 얻을 수 있도록 하고 있습니다.

투명성 강화

사람들은 점점 더 AI 도구를 사용하여 콘텐츠를 만들고 이를 소셜 미디어, 메시징 앱, 웹에 공유하고 있습니다. 오해의 소지가 있는 "딥페이크"에 대응하기 위해, 우리는 다층적 출처 접근 방식에 투자하여 사람들이 접하는 콘텐츠가 AI로 생성되거나 수정되었는지 확인할 수 있도록 할 것입니다.

지난 주, 우리는 ChatGPT⁠, Codex 또는 OpenAI API를 통해 생성된 이미지에 SynthID⁠ 디지털 워터마크를 도입하는 파트너십을 발표했습니다. 이는 메타데이터와 암호화 서명을 사용하여 이미지에 대한 정보가 콘텐츠 자체와 함께 안전하게 전달되도록 하는 C2PA(콘텐츠 출처 및 진정성 연합) 표준 사용에 대한 지속적인 약속을 기반으로 합니다. 이 두 가지 접근 방식은 상호 보완적입니다: SynthID는 스크린샷 및 기타 변환을 견딜 수 있는 보이지 않는 워터마킹 레이어를 내장하고, 메타데이터는 워터마크만으로는 제공할 수 없는 더 많은 정보를 제공할 수 있습니다.

또한 사람들이 플랫폼 외부에서 만난 이미지가 OpenAI 도구를 사용하여 생성되었는지 확인할 수 있는 공개 검증 도구⁠를 미리 선보이고 있습니다. 이 사이트는 OpenAI에서 시작된 SynthID 워터마크가 있는지 감지하고, 발견된 경우 C2PA 메타데이터를 표시할 수 있습니다.

출처 도구는 선거 관련 속임수에 대한 완전한 해결책은 아니지만, 더 넓은 무결성 프레임워크의 중요한 부분입니다. 그리고 대부분의 사람들이 소셜 미디어와 메시징 플랫폼에서 AI 콘텐츠를 접하기 때문에, 소셜 미디어 회사가 출처 표시를 관련 신호로 사용하여 사람들의 피드에 어떤 시민 콘텐츠를 추천하고 배포할지 결정함으로써 선거를 보호하기 위한 조치를 고려할 때 기꺼이 협력하고 있습니다.

또한 투명성을 높이는 법안을 지지하게 되어 기쁘게 생각합니다:

• 선거를 기만적 AI로부터 보호법 (S. 1213)⁠(새 창 열기)은 연방 선거 활동에 사용될 때 연방 후보자와 관련된 실질적으로 기만적인 AI 생성 콘텐츠를 의도적으로 배포하는 행위를 새로운 금지 사항으로 추가합니다.
• 선거 관리자를 위한 AI 준비법 (S. 2346)⁠(새 창 열기)은 선거 지원 위원회가 선거 관리에서 AI 기술의 사용과 위험에 대한 선거 사무소를 위한 자발적 지침이 포함된 보고서를 발행하도록 요구합니다. 이러한 지침은 최첨단 모델의 증가된 사이버 역량을 고려할 때 특히 중요합니다.

오용 방지

OpenAI는 선거 간섭에 맞서 싸우기 위해 우리의 역할을 계속할 것입니다. 사용자가 선거 간섭, 투표 방해, 또는 AI 생성 콘텐츠의 출처에 대한 기만을 위해 도구를 사용하는 것을 금지하는 사용 정책⁠을 시행합니다.

탐지 및 시행 시스템은 2024년 이후 계속 개선되었습니다. 우리는 개인정보 보호 조치와 명확한 검토 절차를 갖춘 정책을 모니터링하고 시행⁠합니다. 그리고 누군가가 선거 과정에 간섭하거나, 참여를 방해하거나, AI 생성 콘텐츠의 출처에 대해 오해를 주기 위해(조정된 기만 활동의 일부 포함) 도구를 사용하려고 할 때 조치를 취합니다. 남용을 식별하면 서비스 액세스를 제한하거나 종료하는 등 시행 조치를 취합니다.

정보 및 조사, 안전, 보안, 무결성 팀은 남용 패턴을 탐지하고 은밀한 영향력 작전을 포함하여 기만적이거나 선거 관련 남용을 위해 도구를 사용하려는 시도를 조사합니다. 2024년 2월⁠ 이후로 우리는 정기적으로⁠조사 결과를⁠공개⁠해⁠왔으며⁠계속할⁠ 예정입니다.

대중, 정책 입안자, 캠페인, 기업이 정치에서 AI 사용에 대한 규범을 발전시키는 동안, 우리는 특정 후보자, 정당 또는 발의안을 지지하거나 반대하는 대규모 캠페인 메시징을 생성하거나 배포하기 위해 제품을 사용하는 것을 계속 금지합니다. 그러나 정치 캠페인이 내부 브리핑 초안 작성, 기획, 일상적인 글쓰기, 번역 업무, 규정 준수, 행정 업무와 같은 책임 있는 인간 주도 작업을 위해 도구를 사용하는 것은 가능하다고 생각합니다. 이러한 사용 사례는 사용 정책에 따라 허용됩니다.

AI 도구는 언어, 교육 수준, 배경에 관계없이 접근성을 확대하여 시민 커뮤니티를 확장하고 심화하는 새로운 방식으로 사람들이 다른 사람들과 교류할 수 있는 실제 기회를 제공합니다. 사람들이 AI 시스템을 사용하여 정치적 이슈를 배우고, 탐구하고, 토론할 수 있는 것이 중요하다고 믿으며, 악의적인 행위자의 오용을 피하면서 이를 계속 가능하게 할 것입니다.

대규모 캠페인 홍보를 위한 서비스 사용을 금지하는 규칙에 따라, 이번 선거 주기에는 광고주가 플랫폼에서 정치 광고를 실행하는 것을 허용하지 않을 것입니다. ChatGPT 광고 접근 방식⁠에 대해 더 자세히 알아볼 수 있습니다.

모델의 정치적 편향 모니터링

사람들이 ChatGPT에 선거 관련 정보만을 요구하는 것이 아니라는 것을 알고 있습니다. 그들은 아이디어를 탐구하고, 주장을 테스트하고, 관심 있는 문제에 대한 더 깊은 이해를 얻기 위해 ChatGPT를 사용합니다. 이것이 바로 우리가 ChatGPT가 질문에 응답하는 방식에서 정치적 편향에 맞서기 위해 노력하는 이유입니다.

Model Spec 원칙 함께 진실 찾기⁠(새 창 열기)는 사용자가 정치적 대화를 할 때를 포함하여 사용자가 통제할 수 있도록 ChatGPT가 기본적으로 객관성을 유지하겠다는 약속을 설명합니다. ChatGPT는 사람들이 큰 아이디어에 참여하고 문제에 대한 자신의 관점을 발전시킬 수 있는 도구입니다. 따라서 모델은 사용자를 조종하거나 특정 방향으로 유도하기 위해 관련 사실이나 관점을 숨기는 행동을 피하도록 설계되었습니다. 작년 가을, 우리는⁠ 모델의 객관성 유지 능력을 테스트하는 새로운 정치적 편향 평가를 발표했습니다. 이 중요한 작업은 OpenAI를 모델이 정치적 주제에 어떻게 반응하는지 테스트하는 정치적 편향 평가의 선두주자로 만들었습니다.

우리의 역할을 다하면서 배우기

우리는 파트너로부터 계속 배우고, 보호 장치를 업데이트하며, 적응해 나갈 것입니다. 저희의 목표는 신뢰할 수 있는 정보, 투명성, 효과적인 보호 장치를 통해 사람들이 선거에 자유롭게 참여하고 스스로 결정을 내릴 수 있는 능력을 지원하는 것입니다. 올해와 그 이후 선거에 참여하는 사용자, 시민 사회, 유권자를 지원할 수 있는 방식을 더욱 심화해 나가기를 기대합니다.