ElevenLabs AI Speech Classifierのご紹介

その本領を発揮したとき、生成AIは人間の生産性と創造性を高め、福利を増進することができます。ElevenLabsは、これらのテクノロジーが持つ変革のポテンシャルを信じていますが、そのメリットを最大限に活かすためには、私たちが責任ある安全な使い方を保証しなければならないことも同時に認識しています。当社は、音声コンテンツのソースを簡単に見分けられるようにすることにより、誤情報の拡散防止に役立つClassifierをリリースいたします。

AI生成コンテンツの透明性

Classifierでサンプルをアップロードすれば、ElevenLabsのAI オーディオが含まれているかどうかをどなたでも分析することができます。このツールは、音声分野でこの種のものとしては初となる当社独自のメカニズムであり、AI生成メディアの効率的追跡方法を開発するという当社のミッションにおける大きな前進です。本日のリリースとともに、当社は透明性へのコミットメントをさらに強めて参ります

メカニズムと既知の制約

当社のモデルによって生成された音声には、検出可能な特定の特徴があります。AI Speech Classifierに音声サンプルをアップロードすると、当社のアルゴリズムがそれをスキャンし、そのコンテンツが実際に当社のプラットフォームによって生成されたものかどうかを評価します。現時点において、入力が変更されていない場合、99%超の精度が維持されています。Codecが使われたり、リバーブ変換が行われたりした場合も、Classifierの精度は90％を超えます。コンテンツが後処理されるほどこの数値は低下します。オーディオ トラックを追加すると分析結果にも影響が生じます。

当社は、より多くの音声変換を検出できるようにモデルを継続的に分析・改善しています。Classifierの分析結果が改善されていくことを私たちは期待しています。

インプットをどうぞ

私たちはAI検出への取り組みを促進するため、本日、Classifierを一般公開します。まずは当社自体のAI生成コンテンツの透明性を高めたいと私たちは考えています。 他の商用モデルやオープンソースモデルで生成された大量のAIコンテンツは今のところ検出することができません。当社は他の皆様方にも私たちの取り組みへの参加を呼びかけ、 疑わしいケースを報告するようお願いしています。 当社は今後も、Classifierの精度と検出機能の強化を継続し、より多くの音声変換や、商用モデルとオープンソースモデルの両方を含む他のプラットフォームで生成されたコンテンツにも対応していきます。私たちは、より深いAPI統合とこのツールの価値向上に関心をお持ちのパートナーと協力したいと強く願っています。

パートナーシップや統合にご興味がございましたら、ぜひ当社にご連絡ください。。

透明性へのコミットメント

ElevenLabsの目標は、優れたコンテンツを作成できる安全なツールを制作することです。当社の組織としてのステータスが、オープンソースモデルには欠けがちな安全対策を構築し、実行する力を与えてくれると私たちは堅く信じています。AI Speech Classifierのリリースと同時に、私たちは企業や機関の皆様が当社の研究とテクノロジーを活用して、それぞれの安全対策を強化できるよう後押しすることを目指します。

ElevenLabsのAI安全対策の詳細については、セーフティのページをご覧ください。