선거 대비 현황 업데이트

ElevenLabs는 어떤 언어, 음성, 소리로도 콘텐츠를 쉽게 이용하고 흥미롭게 즐길 수 있도록 돕는 데 전념하고 있습니다. 기술의 힘으로 더욱 연결되고 정보에 밝은 세상을 만들고, 나아가 민주적 절차에 긍정적인 힘이 될 수 있다고 굳게 믿습니다. 입법자들이 자신의 목소리를 되찾도록 지원해 유권자와 소중히 여기는 사안을 위해 계속 պայք울 수 있도록 도왔습니다. 옹호 활동가들에게도 같은 지원을 제공하여 변화를 만들고 삶을 개선하려는 노력을 뒷받침했습니다. 지식, 참여, 커뮤니티에 대한 장벽을 없애기 위한 노력은 이제 막 시작되었습니다. 

업계, 정부, 시민사회, 개인 모두에게 민주적 절차를 촉진하는 것뿐 아니라 보호할 책임이 있다고 믿습니다. 2024년 한 해 동안, 전 세계 여러 국가에서 중요한 선거가 치러지는 가운데 도구의 오용을 방지하기 위한 구체적인 조치를 취했습니다. 11월 5일 미국 대선을 앞두고, 지금까지의 노력 현황을 공유합니다.

정책

선거와 관련된 도구 사용 규정을 강화하고 명확히 하기 위해 금지된 사용 정책을 개정했습니다.

• 선거 운동 및 후보자 사칭 금지. 특정 후보자, 사안 또는 입장을 홍보하거나 지지하는 행위, 투표나 금전적 기부를 요청하는 행위 등을 포함한 정치 선거 운동에 도구를 사용하는 것을 엄격히 금지합니다. 정치 후보자와 선출직 공직자의 목소리를 모방하기 위해 도구를 사용하는 것도 금지합니다.

• 유권자 억압 및 선거 절차 방해 금지. 유권자 억압 또는 선거나 시민 절차를 방해하는 기타 행위를 선동하거나, 실행하거나, 조장하기 위해 도구를 사용하는 것을 금지합니다. 여기에는 오해를 불러일으키는 정보를 만들거나 배포하거나 확산을 조장하는 행위가 포함됩니다.

예방

선거와 관련된 도구의 오용을 방지하기 위해 보호 장치를 강화했습니다. 

• 사용자 심사. 모든 음성 복제 도구 사용자는 연락처 및 결제 정보를 제공해야 합니다. 이를 통해 가입 시 사기 활동이나 고위험 지역과 연계된 계정을 차단할 수 있습니다.

• “No-Go” 음성. No-Go Voice 기술은 수백 명의 후보자, 선출직 공직자, 기타 정치인 및 유명인의 음성이 생성되지 않도록 차단합니다. 이 보호 장치의 효과를 높이기 위해 지속적으로 확대해 왔으며, 차단된 음성을 생성하려는 사용자를 모니터링하고 제재 조치를 취합니다.

탐지 및 집행

예방 조치를 보완하기 위해 탐지 및 집행 역량을 강화했습니다.

• 오용 모니터링. 정치 콘텐츠 식별을 위해 특별히 설계된 분류기를 비롯해 개선된 자체 개발 분류기, 자동화된 검토 시스템 및 인적 검토자가 약관을 위반하는 콘텐츠를 탐지하도록 지원합니다. 또한 선거를 방해하려는 잠재적 오용에 관한 인사이트를 제공하는 외부 위협 인텔리전스 팀과 협력하고, 정부 및 업계 파트너와 정보 공유 채널을 마련했습니다.

• 강력한 집행. 오용이 확인되면 음성 삭제, 사용자 보호 관찰 조치, 플랫폼 이용 금지, 필요 시 관계 당국 신고 등 단호한 조치를 취합니다. ElevenLabs에서 비롯된 것으로 보이는 문제가 있는 콘텐츠를 발견하셨다면 알려주세요.

• 정부 노력 지원. 정부의 조치가 오용을 억제하는 데 매우 중요하다고 믿습니다. 7월, 발표하게 되어 자랑스럽게 생각합니다. 기만적 AI로부터 선거를 보호하는 법안,은 Amy Klobuchar, Josh Hawley, Chris Coons, Susan Collins, Maria Cantwell, Todd Young, John Hickenlooper, Marsha Blackburn 상원의원이 주도한 초당적 법안으로, 유권자를 속이기 위해 선거 광고에 AI를 사용하는 악의적 행위자에게 책임을 묻는 내용을 담고 있습니다. 앞으로도 미국과 전 세계의 정책 입안자들과 선거 관련 사안을 포함한 AI 안전 이니셔티브를 위해 협력하겠습니다.

출처 및 투명성

폭넓은 협력을 포함해 AI 생성 콘텐츠를 명확히 식별할 수 있도록 하는 일은 ElevenLabs의 책임 있는 개발 노력에서 핵심적인 부분입니다.

• AI 음성 분류기. ElevenLabs의 AI 음성 분류기는 2023년 6월부터 공개되어 있으며, 누구나 오디오 샘플을 업로드해 ElevenLabs에서 생성된 것인지 분석할 수 있습니다. 이 도구를 공개함으로써 오디오의 출처를 더 쉽게 식별하고 허위 정보의 확산을 줄이고자 합니다.

• 업계와의 협력. AI 콘텐츠의 출처와 투명성 문제는 혼자 해결할 수 없습니다. 업계 전체의 노력이 반드시 필요합니다. 이러한 이유로 콘텐츠 진위 이니셔티브(Content Authenticity Initiative, CAI)에 참여하고 있습니다. 이 이니셔티브는 주요 미디어 및 기술 기업을 모아 출처 확인 표준을 개발합니다. 콘텐츠 출처 및 진위 연합(Coalition for Content Provenance and Authenticity, C2PA)를 통해 플랫폼에서 생성되는 오디오에 암호학적으로 서명된 메타데이터를 삽입하여 이러한 표준을 구현하고 있습니다. 이를 통해 주요 소셜 미디어 플랫폼처럼 CAI 도구를 도입한 콘텐츠 배포 채널은 ElevenLabs 오디오가 AI 생성 콘텐츠임을 인식할 수 있습니다.

• 타사 탐지 도구 지원. 선거 관련 딥페이크를 포함한 AI 생성 콘텐츠 식별 도구를 개선하기 위해 타사 AI 안전 기업들과 협력하고 있습니다. 7월에는 파트너십을 체결했습니다 Reality Defender와 함께했습니다. Reality Defender는 딥페이크 탐지에 주력하는 사이버 보안 기업으로, 탐지 도구를 강화할 수 있도록 모델과 데이터에 대한 액세스를 제공했습니다. 이 파트너십은 정부 및 대기업을 포함한 Reality Defender 고객이 AI 생성 위협을 실시간으로 탐지하도록 지원하여, 전 세계 사람들이 허위 정보와 정교한 사기로부터 보호받을 수 있게 합니다. 또한 AI 콘텐츠 탐지를 발전시키기 위해 UC 버클리 정보대학의 연구 이니셔티브를 비롯한 다른 학술 및 상업 프로젝트에도 참여하고 있습니다.

앞으로 며칠, 몇 주 동안 이러한 보호 장치를 계속 학습하고 개선해 나가겠습니다. 도구가 사용될 수 있는 모든 방식을 예측할 수는 없다는 점을 알고 있습니다. 하지만 오용을 방지하기 위한 강력한 조치를 지속하는 동시에, 더욱 연결되고 정보에 밝은 세상을 만들기 위해 기술을 활용하겠습니다.