SynthID로 ElevenLabs가 생성한 오디오 감지하기

사람들은 자신이 AI와 상호작용하고 있다는 사실을 알아야 합니다. 예전에는 AI가 만든 콘텐츠를 쉽게 알아볼 수 있었어요. 로봇처럼 들리거나 손가락이 여섯 개였죠. 하지만 최근 모델이 발전하면서 구분하기가 훨씬 어려워졌습니다.

ElevenLabs의 음성, 음악, 음향 효과 모델이 발전함에 따라, 누구나 전문 도구 없이도 AI가 생성한 오디오를 쉽게 식별할 수 있기를 바랍니다. 그래서 Google DeepMind와 함께 SynthID를 도입했습니다. SynthID는 ElevenLabs가 생성한 오디오에 직접 삽입되는 디지털 워터마크입니다. 이 워터마크는 사람의 귀로는 들을 수 없으며, 오디오가 잘리거나 속도가 빨라지거나 메타데이터가 제거되거나 파일 형식이 변환되어도 그대로 남아 있습니다. 이번 주부터 무료 사용자의 텍스트 음성 변환 생성물에 SynthID를 적용하기 시작했으며, 앞으로 몇 주 안에 모든 ElevenLabs 오디오 생성물로 확대할 예정입니다. 중요한 점은, 이 워터마크를 새로운 무료 ElevenLabs 오디오 감지기. 

투명성과 책임 강화

ElevenLabs는 오랫동안 도구를 이용해 사람을 속이거나 조작하거나 괴롭히는 행위를 금지해왔으며, 이미 생성된 콘텐츠를 해당 사용자에게 추적할 수 있도록 시스템을 설계했습니다. SynthID 워터마킹은 오디오 클립의 출처를 누구나 확인할 수 있게 하여 투명성과 책임을 더욱 강화합니다.

어떤 경우에는 단순히 콘텐츠가 AI로 생성된 것인지 알고 싶을 수 있습니다. 또 어떤 경우에는 어떤 AI 플랫폼에서 만들어졌는지 아는 것이 중요할 수 있습니다. 그래서 오늘 ElevenLabs는 자체 무료 ElevenLabs 오디오 감지기 웹페이지를 출시합니다. 이 페이지에서는 오디오가 ElevenLabs에서 생성된 것인지 확인할 수 있습니다. 기존의 AI 음성 분류기를 기반으로 하면서도, SynthID를 활용해 오디오에 출처 정보를 더 견고하게 삽입합니다. 이 방식은 ElevenLabs 기술의 책임성을 대중에게 보장하고, 만약 악의적인 사용자가 ElevenLabs의 안전장치를 우회해 그럴듯한 딥페이크를 만들 경우 적절한 조치를 취할 수 있도록 돕습니다.

점점 더 많은 국가와 지역에서 AI가 생성한 콘텐츠에 기계가 읽을 수 있는 방식으로 합성 표시를 요구하고 있습니다. SynthID 워터마킹은 기존의 출처 정보 및 컴플라이언스 도구(여기에는 C2PA 자격 증명도 포함됨)와 함께 작동합니다. 또한 SynthID를 C2PA 소프트 바인딩 목록에 추가하여, 콘텐츠 자격 증명이 제거된 오디오에도 다시 연결할 수 있게 될 가능성에 대해 기대하고 있습니다.

고품질 워터마킹 솔루션

SynthID는 오디오 클립에 소리 패턴을 숨기는 방식으로 작동합니다. 이 패턴은 사람의 귀로는 들을 수 없지만 ElevenLabs 오디오 감지기로는 감지할 수 있습니다. 각 오디오 파일마다 고유한 패턴이 적용되며, 이 패턴은 압축, 자르기, 속도 변경 등 일반적인 오디오 변환에도 남아 있습니다.

SynthID는 내부 벤치마크에서 우수한 성능을 보였으며, 모든 기술적 요구 사항을 충족했습니다:

• 첫 바이트 대기 시간(TTFB) 증가 없음
• 높은 감지율과 낮은 오탐률
• 온라인에서 흔히 발생하는 자르기 등 변환에도 강인함
• 사람의 귀로는 인식할 수 없고, 음질 저하 없음
• ElevenLabs가 생성하지 않은 오디오에는 복사할 수 없음

Google DeepMind의 SynthID 팀과 계속 협력하여 오디오 워터마킹 기술을 더욱 발전시켜 나가겠습니다.

앞으로의 계획

워터마킹은 투명성과 책임을 위한 것이지만, 동시에 새로운 제품 기능도 가능하게 합니다. 이미 디지털 콘텐츠 자격 증명 시장이 형성되어 있으며, 스튜디오는 지적 재산을 보호하기 위해, 크리에이터는 자신의 작업이 재사용될 때 정당한 보상을 받기 위해 이를 사용합니다. 앞으로는 워터마크를 통해 크리에이터와 IP 보유자가 자신만의 메타데이터를 콘텐츠에 직접 삽입하고, YouTube, Instagram, TikTok 등 플랫폼에서 저작권이 있는 자료가 재배포될 때 이를 감지하고 대응할 수 있게 될 것입니다.

워터마킹은 ElevenLabs의 투명성 약속 중 한 부분입니다. 모델이 더욱 강력하고 실제와 가까워질수록, 책임 인프라도 함께 발전해야 합니다. 콘텐츠의 출처를 모두가 명확히 알 수 있을수록, 우리가 공유하는 정보 생태계는 더욱 신뢰받을 수 있습니다.