안전
사람을 보호하는 책임감과 안전장치를 바탕으로, 가능성과 긍정적인 영향력을 실현하는 AI 오디오.
ElevenLabs의 안전 미션
ElevenLabs는 AI 오디오가 가져올 수 있는 큰 이점을 믿습니다. ElevenLabs 기술은 수백만 명의 개인과 수천 개의 기업이 기존에 접근할 수 없던 콘텐츠와 정보를 더 많은 사람에게 전달하고, 흥미로운 교육 도구를 만들고, 몰입감 있는 엔터테인먼트 경험을 제공하며, 사고나 질병으로 목소리를 잃은 분들에게 다시 목소리를 찾아주는 등 다양한 분야에서 활용되고 있습니다.
모든 혁신적인 기술과 마찬가지로, 기술이 잘못 사용될 경우 피해가 발생할 수 있다는 점도 인식하고 있습니다. 그래서 ElevenLabs는 모델과 제품의 오남용, 특히 타인을 속이거나 악용하려는 시도를 막는 데 최선을 다하고 있습니다. 안전 원칙은 일상 업무의 기준이 되며, 남용을 예방하고 대응하기 위한 구체적이고 다층적인 안전장치로 구현되어 있습니다.
“AI 안전은 ElevenLabs의 혁신과 뗄 수 없는 가치입니다. 시스템이 안전하게 개발, 배포, 사용되도록 하는 것이 우리의 핵심 전략입니다.”
Mati Staniszewski
Co-founder at ElevenLabs
“AI로 생성된 콘텐츠는 계속 늘어날 것입니다. 우리는 디지털 콘텐츠의 출처를 검증할 수 있도록 투명성을 제공하고자 합니다.”
Piotr Dąbkowski
Co-founder at ElevenLabs
안전 원칙
안전 프로그램은 다음 원칙을 따릅니다:
안전장치
악의적인 사용자가 도구를 남용하려 할 때 최대한의 장벽을 두는 동시에, 정상적인 사용자는 불편 없이 이용할 수 있도록 노력합니다. 완벽한 안전 시스템은 없다는 점도 인지하고 있습니다. 때로는 안전장치가 선의의 사용자를 잘못 차단하거나, 악의적인 사용자를 놓칠 수도 있습니다.
다층 방어 시스템으로 다양한 안전장치를 적용하고 있습니다. 한 단계가 우회되더라도, 그 다음 단계에서 남용을 잡아낼 수 있도록 설계되어 있습니다. 안전 메커니즘은 모델, 제품, 공격 방식의 발전에 맞춰 지속적으로 진화하고 있습니다.
알림
C2PA 등 외부 기준을 도입하고, 딥페이크 탐지 도구 강화를 위한 외부 노력도 지원합니다. ElevenLabs로 생성된 콘텐츠 여부를 판별할 수 있도록 업계 최고 수준의 AI 오디오 분류기를 공개했습니다.
조치
금지된 사용 정책을 위반한 고객에게는 반복적이거나 심각한 경우 계정 정지 등 제재가 적용됩니다. 범죄나 불법 행위는 수사 기관에 신고합니다.
탐지
AI 분류기, 인력 검토, 내부 조사 등 다양한 방법으로 금지된 사용 정책 위반 여부를 적극적으로 모니터링합니다. 외부 기관과 협력해 잠재적 남용 정보를 얻고, 누구나 남용을 신고할 수 있는 창구도 마련했습니다.
예방
모델 출시 전 레드팀 테스트를 진행하고, 가입 시 고객을 심사합니다. 유명인 및 고위험 음성 복제 차단, 프로페셔널 음성 복제 도구 접근 시 기술적 인증 요구 등, 남용을 막는 기능도 제품에 탑재되어 있습니다.
안전 파트너십 프로그램
딥페이크를 실시간으로 탐지할 수 있는 기술 솔루션 개발을 위해 선도 기관들과 협력하고 있습니다.
콘텐츠 신고
우려되는 콘텐츠를 발견했고, ElevenLabs 도구로 생성된 것으로 생각된다면 이곳에서 신고해 주세요.
금지된 콘텐츠 및 사용 정책
ElevenLabs 도구 사용 시 허용되지 않는 콘텐츠와 활동 유형을 확인하세요.
ElevenLabs AI 음성 분류기
AI 음성 분류기를 통해 오디오 클립이 ElevenLabs로 생성된 것인지 확인할 수 있습니다.