ElevenLabs와 Reality Defender, AI 안전 이니셔티브 협력

ElevenLabs는 리얼리티 디펜더와(과) 협력하여 오디오 딥페이크 탐지 모델 개발을 한층 더 발전시키고 있습니다. Reality Defender는 딥페이크 탐지에 특화된 사이버 보안 기업입니다.

이번 파트너십은 ElevenLabs의 독자적인 모델과 기술을 활용해 Reality Defender의 탐지 도구의 효율성과 견고함을 높여, 오디오 딥페이크로부터 더욱 강력한 보호를 제공하는 것을 목표로 합니다. 이를 통해 정부 및 글로벌 기업을 포함한 Reality Defender의 고객들이 AI 기반 위협을 실시간으로 탐지하고 차단할 수 있어, 수백만 명을 허위 정보와 정교한 사기로부터 안전하게 지킬 수 있습니다.

이번 협력은 오디오 AI의 책임 있는 개발과 투명한 사용을 보장하기 위한 기존 이니셔티브를 기반으로 하며, 금지된 콘텐츠 생성을 방지하고 악의적 사용자를 식별하는 기술적 방법을 포함한 모더레이션과 책임성을 강화합니다. 자세한 내용은 진행 중인 안전 이니셔티브에서 확인할 수 있습니다.

"ElevenLabs는 제품이 오용되지 않도록 최고 수준의 안전장치를 개발하고 적용하기 위해 매일 노력하고 있습니다. AI 콘텐츠 탐지를 위한 신뢰할 수 있는 방법을 개발하기 위해 기술 기업, 학계, 정책 입안자들과 협력하는 것은 ElevenLabs의 안전 노력의 핵심입니다." 라고 ElevenLabs AI 안전 책임자 Aleksandra Pedraszewska가 말했습니다. "AI 기반 정보 탐지 분야의 선두주자인 Reality Defender와 협력해 악의적 사용자가 당사 도구를 악용하지 못하도록 새로운 안전장치를 개발하게 되어 매우 기쁩니다."

Reality Defender의 특허받은 멀티 모델 접근 방식은 클라우드 기반 딥페이크 탐지 웹 플랫폼과 API를 통해 사기, 허위 정보 캠페인, 유해한 딥페이크를 높은 정확도로 식별할 수 있게 합니다. ElevenLabs의 오디오 기반 생성 AI 전문성과 Reality Defender의 고도화된 탐지 역량이 결합되어, 이번 파트너십은 AI 기반 위협으로부터 탁월한 보호를 제공합니다. 이는 AI 선거 협약(AI Elections Accord)을 통해 2024년 민주 선거의 신뢰성과 안전을 보장하겠다는 ElevenLabs의 약속의 일환입니다.

"오디오 AI 도구 분야의 선구자인 ElevenLabs와 협력하게 되어 매우 기쁩니다."라고 Reality Defender 공동 창업자이자 CEO인 Ben Colman이 말했습니다. "ElevenLabs의 AI 안전과 책임 있는 AI 개발에 대한 헌신은 저희의 딥페이크 탐지 및 방지 미션과 일치합니다. Reality Defender 최초의 이번 협력을 통해 악의적 사용자와 사기꾼보다 몇 발 앞선 고도화된 오디오 탐지 기능을 제공할 수 있게 되었습니다."