ElevenLabsとReality DefenderがAIセーフティに向けた取り組みで協力

私たちElevenLabsは、音声ディープフェイク検出モデルの開発を進めるため、 ディープフェイク検出を専門とするサイバーセキュリティ企業「Reality Defender」と協力いたします。

協力の目的は、当社独自のモデルと手法を活用してReality Defender の検出ツールの有効性と堅牢性を向上させ、音声ディープフェイクに対する防御を強化することです。その結果、政府や国際企業を含むReality Defenderの顧客は、AIによって生成された脅威をリアルタイムで検出・防止し、誤情報や巧妙な詐欺から何百万人もの人々を守ることができるようになるでしょう。

両社の協力の土台は、音声AIの責任ある開発と透明な使用を実現するために当社が現在進めている取り組みです。当社は、禁止コンテンツの生成を防止し、バッドアクターを特定するための技術的手段の使用を含め、モデレーションとアカウンタビリティを通じてこの取り組みを進めています。当社が継続的に進めているセーフティへの取り組みの詳細については こちらをご覧ください。

「私たちElevenLabsは、当社製品の悪用を防ぐ、クラス最強の安全対策を開発し、実装すべく、日々努力しています。他のテクノロジー企業、学術界、政策立案者と協力し、AIコンテンツ検出のための信頼できる方法を開発することは、セーフティに向けた当社の取り組みの重要な柱です」 ElevenLabsのAIセーフティ担当責任者であるAleksandra Pedraszewskaは、このように述べています。 「AI生成情報検出のリーダー格であるReality Defenderと協力し、バッドアクターによる当社ツールの使用を阻止する新たな予防策を開発できることを嬉しく思います」

Reality Defenderの特許取得済みマルチモデルアプローチにより、同社のクラウドベースディープフェイク検出WebプラットフォームとAPIは、詐欺、偽情報を使った選挙活動、有害なディープフェイクを高精度で識別することができます。両社の協力は、音声ベース生成AIに関する当社の専門知識とReality Defenderの高度な検出機能を組み合わせることによって、AI が生成した脅威に対して、比類なき強力な防御を実現させます。これは、AI Elections Accord（AI選挙協定）を通じ、 2024 年の民主的選挙においてインテグリティとセーフティを確実に実現することに対する当社のコミットメントに沿った取り組みです。

Reality Defenderの共同創設者兼CEOであるBen Colman氏は、次のようにコメントしています。「音声AI ツールのパイオニアであるElevenLabsと協力できることを大変嬉しく思います」「AIのセーフティと責任あるAI開発に対するElevenLabsの取り組みは、ディープフェイクの検出と防止という当社のミッションと合致します。Reality Defenderにとって初の試みとなるこのコラボレーションを通じて、私たちはバッドアクターや詐欺師に先んじる超高度な音声検出機能を提供できるようになるでしょう」