콘텐츠로 건너뛰기
로그인가입하기
영업팀 문의로그인

안전

사람을 보호하는 책임감과 안전장치를 바탕으로, 가능성과 긍정적인 영향력을 실현하는 AI 오디오.

ElevenLabs의 안전 미션

ElevenLabs는 AI 오디오가 가져올 수 있는 큰 이점을 믿습니다. ElevenLabs 기술은 수백만 명의 개인과 수천 개의 기업이 기존에 접근할 수 없던 콘텐츠와 정보를 더 많은 사람에게 전달하고, 흥미로운 교육 도구를 만들고, 몰입감 있는 엔터테인먼트 경험을 제공하며, 사고나 질병으로 목소리를 잃은 분들에게 다시 목소리를 찾아주는 등 다양한 분야에서 활용되고 있습니다.

모든 혁신적인 기술과 마찬가지로, 기술이 잘못 사용될 경우 피해가 발생할 수 있다는 점도 인식하고 있습니다. 그래서 ElevenLabs는 모델과 제품의 오남용, 특히 타인을 속이거나 악용하려는 시도를 막는 데 최선을 다하고 있습니다. 안전 원칙은 일상 업무의 기준이 되며, 남용을 예방하고 대응하기 위한 구체적이고 다층적인 안전장치로 구현되어 있습니다.

“AI 안전은 ElevenLabs의 혁신과 뗄 수 없는 가치입니다. 시스템이 안전하게 개발, 배포, 사용되도록 하는 것이 우리의 핵심 전략입니다.”

Mati Staniszewski

Mati Staniszewski

Co-founder at ElevenLabs

“AI로 생성된 콘텐츠는 계속 늘어날 것입니다. 우리는 디지털 콘텐츠의 출처를 검증할 수 있도록 투명성을 제공하고자 합니다.”

Piotr Dąbkowski

Piotr Dąbkowski

Co-founder at ElevenLabs

안전 원칙

Safety illustration

모든 과정에 안전을 기본으로 삼고 있습니다. 모델은 출시 전 철저한 평가를 거치며, 남용을 막기 위해 제품에 직접 안전장치를 탑재합니다.

모든 과정에 안전을 기본으로 삼고 있습니다. 모델은 출시 전 철저한 평가를 거치며, 남용을 막기 위해 제품에 직접 안전장치를 탑재합니다.

Traceability illustration

책임 있는 사용은 필수입니다. 생성된 콘텐츠는 해당 사용자를 추적할 수 있도록 설계되어 있어, 남용을 감지하고 대응할 수 있습니다. 선의로 사용하는 사용자의 프라이버시는 보호합니다.

사람들은 AI와 상호작용하고 있다는 사실을 알아야 합니다. ElevenLabs는 사용자와 대중이 소비하는 콘텐츠의 출처를 이해할 수 있도록 돕고 있습니다.

AI의 위험은 빠르게 변화합니다. ElevenLabs도 마찬가지입니다. 기술, 운영, 정책 전문가로 구성된 안전팀이 새로운 위협에 신속하게 대응할 수 있는 방안을 설계하고 적용합니다.

AI 오남용으로부터 사회를 지키려면 생태계 전체의 노력이 필요합니다. ElevenLabs는 AI 안전의 어려운 문제를 함께 해결하기 위해 다양한 파트너와 협력합니다.

안전장치

악의적인 사용자가 도구를 남용하려 할 때 최대한의 장벽을 두는 동시에, 정상적인 사용자는 불편 없이 이용할 수 있도록 노력합니다. 완벽한 안전 시스템은 없다는 점도 인지하고 있습니다. 때로는 안전장치가 선의의 사용자를 잘못 차단하거나, 악의적인 사용자를 놓칠 수도 있습니다.

다층 방어 시스템으로 다양한 안전장치를 적용하고 있습니다. 한 단계가 우회되더라도, 그 다음 단계에서 남용을 잡아낼 수 있도록 설계되어 있습니다. 안전 메커니즘은 모델, 제품, 공격 방식의 발전에 맞춰 지속적으로 진화하고 있습니다.

알림

C2PA 등 외부 기준을 도입하고, 딥페이크 탐지 도구 강화를 위한 외부 노력도 지원합니다. ElevenLabs로 생성된 콘텐츠 여부를 판별할 수 있도록 업계 최고 수준의 AI 오디오 분류기를 공개했습니다.

조치

금지된 사용 정책을 위반한 고객에게는 반복적이거나 심각한 경우 계정 정지 등 제재가 적용됩니다. 범죄나 불법 행위는 수사 기관에 신고합니다.

탐지

AI 분류기, 인력 검토, 내부 조사 등 다양한 방법으로 금지된 사용 정책 위반 여부를 적극적으로 모니터링합니다. 외부 기관과 협력해 잠재적 남용 정보를 얻고, 누구나 남용을 신고할 수 있는 창구도 마련했습니다.

예방

모델 출시 전 레드팀 테스트를 진행하고, 가입 시 고객을 심사합니다. 유명인 및 고위험 음성 복제 차단, 프로페셔널 음성 복제 도구 접근 시 기술적 인증 요구 등, 남용을 막는 기능도 제품에 탑재되어 있습니다.

안전 파트너십 프로그램

딥페이크를 실시간으로 탐지할 수 있는 기술 솔루션 개발을 위해 선도 기관들과 협력하고 있습니다.

콘텐츠 신고

우려되는 콘텐츠를 발견했고, ElevenLabs 도구로 생성된 것으로 생각된다면 이곳에서 신고해 주세요.

콘텐츠 신고

금지된 콘텐츠 및 사용 정책

ElevenLabs 도구 사용 시 허용되지 않는 콘텐츠와 활동 유형을 확인하세요.

정책 보기

ElevenLabs AI 음성 분류기

AI 음성 분류기를 통해 오디오 클립이 ElevenLabs로 생성된 것인지 확인할 수 있습니다.

자세히 알아보기

콘텐츠 출처 및 진위 연합(Coalition for Content Provenance and Authenticity)

미디어의 출처를 추적할 수 있도록 하는 개방형 기술 표준.

자세히 알아보기

콘텐츠 진위 이니셔티브(Content Authenticity Initiative)

콘텐츠 진위와 출처 확인을 위한 개방형 업계 표준 도입을 촉진합니다.

자세히 보기

자주 묻는 질문

AI 커뮤니케이션 플랫폼

영업팀 문의AI 에이전트 만들기