ElevenLabsとReality DefenderがAIセーフティに向けた取り組みで協力

ElevenLabsはReality Defender（ディープフェイク検出を専門とするサイバーセキュリティ企業）と、音声ディープフェイク検出モデルの開発を推進するために提携しました。

この提携は、ElevenLabs独自のモデルと手法を活用してReality Defenderの検出ツールの有効性と堅牢性を高め、音声ディープフェイクへの保護を強化することを目的としています。これにより、政府機関や国際企業を含むReality Defenderのクライアントは、AI生成の脅威をリアルタイムで検出・防止でき、偽情報や巧妙な詐欺から数百万人を守ることができます。

この協業は、モデレーションと説明責任を通じて、音声AIの責任ある開発と透明性のある利用を実現する既存の取り組みをさらに発展させるものです。これには、禁止コンテンツの生成を防ぎ、不正利用者を特定するための技術的手段の活用も含まれます。詳細は、進行中のセーフティへの取り組みをご覧ください。

「ElevenLabsでは、プロダクトの不正利用を防ぐ最高水準のセーフガードを毎日開発・実装しています。AIコンテンツを確実に検出する手法を開発するために、テクノロジー企業、学術界、政策立案者と協力することは、セーフティへの取り組みの重要な柱です」と、 ElevenLabsのAIセーフティ責任者、Aleksandra Pedraszewskaは述べています。 「AI生成情報の検出をリードするReality Defenderと提携し、不正利用者による当社ツールの悪用を抑止する新たなセーフガードを開発できることを嬉しく思います。」

Reality Defenderの特許取得済みマルチモデルアプローチにより、クラウドベースのディープフェイク検出ウェブプラットフォームとAPIは、詐欺、偽情報キャンペーン、有害なディープフェイクを高精度で特定できます。音声ベースの生成AIに関するElevenLabsの専門知識と、Reality Defenderの高度な検出機能を組み合わせることで、AI生成の脅威に対する比類のない保護を提供します。これは、AI Elections Accordを通じて2024年の民主的な選挙の健全性と安全性を確保するというElevenLabsのコミットメントに続く取り組みです。

「音声AIツールのパイオニアであるElevenLabsと提携できることを大変嬉しく思います」と、Reality Defenderの共同創業者兼CEOであるBen Colman氏は述べています。「AIセーフティと責任あるAI開発に対する同社の取り組みは、ディープフェイクを検出・防止するという私たちの使命と一致しています。Reality Defenderにとって初となるこの協業により、不正利用者や詐欺師より常に数歩先を行く、高度な音声検出を提供できるようになります。」