openai-news
OpenAI의 공개 정책 의제
OpenAI는 인공 일반 지능(AGI)이 모든 인류에게 혜택을 주도록 한다는 미션 아래, 안전, 청소년 보호, 사회 적응, 콘텐츠 출처 투명성, 친환경 인프라 등 5가지 핵심 원칙에 기반한 구체적인 공공 정책 의제를 제시하고 있어요.
#AI윤리 태그의 글
openai-news
글로벌 리더십을 통한 청소년 안전과 기회 증진
AI가 청소년에게 안전하게 제공되기 위해 G7 정상회의에서 국제 청소년 안전 기구 설립을 제안하며, 9대 원칙을 통해 산업 표준을 제시합니다.
openai-news
Rosalind Biodefense로 사회적 회복력 강화하기
오픈AI가 생물 방어와 공중보건 대응력을 높이기 위해 Rosalind Biodefense 프로그램과 GPT‑Rosalind의 정부 파트너 접근 확대를 발표했습니다.
openai-news
오픈AI의 프론티어 거버넌스 프레임워크
오픈AI가 최신 법적 요구사항에 맞춰 안전 및 보안 관행을 설명하는 프론티어 거버넌스 프레임워크를 공개했어요.
anthropic
앤트로픽 공동 창립자 크리스 올라, 교황 레오 14세의 회칙 'Magnifica humanitas'에 대한 발언
앤트로픽 공동 창립자 크리스 올라가 AI 기술 발전의 윤리적 문제와 사회적 영향을 다룬 교황 회칙에 대해 발언하며, AI 개발자들이 직면한 한계와 외부로부터의 통찰력 있는 비판의 중요성을 강조했어요.
anthropic
프론티어 AI에 대한 논의의 폭을 넓히다
AI의 도덕적 형성과 안전을 위해 종교, 철학 등 다양한 관점을 가진 전문가들과 대화를 시작하고 이를 AI 개발에 활용하는 과정을 소개합니다.
anthropic
사람들이 클로드에게 개인적인 조언을 구하는 방법
앤트로픽 연구팀은 클로드(Claude) 사용자들의 대화 중 약 6%가 개인적인 조언을 구하는 내용임을 발견했고, 특히 관계 관련 대화에서 나타나는 과도한 아첨(sycophancy) 문제를 개선하기 위해 새로운 모델(Opus 4.7 및 Mythos Preview)을 훈련하여 성공적으로 아첨 비율을 절반으로 줄였어요.
anthropic
선거 안전 보장 조치 현황 업데이트
앤트로픽은 클로드가 다가오는 선거에서 정확하고 공정하며 안전한 정보를 제공할 수 있도록, 정치적 편향을 측정하고 정책을 강화하며 신뢰할 수 있는 최신 선거 정보를 제공하는 데 힘쓰고 있다는 내용이에요.
anthropic
장기적 이익 신탁 (Long-Term Benefit Trust)
앤트로픽은 변혁적 AI가 가져올 수 있는 전례 없는 영향에 대비하여, 기업의 단기적 이익을 넘어 인류의 장기적 이익을 최우선으로 고려하도록 이사회를 감독하는 독립적인 '장기적 이익 신탁(LTBT)'을 설립하며 지배구조를 파인튜닝했어요.