SynthIDでElevenLabs生成オーディオを検出

AIとやり取りしているとき、そのことを誰もが知るべきです。以前は、AI生成コンテンツは簡単に見分けられました。ロボットのように聞こえたり、指が6本あったりしたからです。しかし、近年のモデルの進化により、見分けることはますます難しくなっています。

音声、音楽、そしてサウンドエフェクトのモデルが進化するなか、専門的なツールがなくても、オーディオがAIによって生成されたものかどうかを判断できるようにしたいと考えています。そのためGoogle DeepMindと連携し、SynthIDを導入します。これはElevenLabsが生成したオーディオに直接埋め込まれるデジタルウォーターマークです。このウォーターマークは人には聞こえず、クリップのトリミング、再生速度の変更、メタデータの削除、別のファイル形式への変換を行っても残ります。今週から、無料ユーザーによるテキスト読み上げの生成にSynthIDを追加しました。今後数週間で、すべてのElevenLabsオーディオ生成へと対象を拡大します。重要なのは、これらのウォーターマークを新しい無料のElevenLabs Audio Detectorで検出できることです。 

透明性と説明責任の強化

人を欺く、操作する、または嫌がらせをする目的でツールを使用することは、以前から禁止しています。また、システムはコンテンツを生成したユーザーまで追跡できるよう設計されているため、適切な対応が可能です。SynthIDによるウォーターマーキングは、一般の方がオーディオクリップの出所を確認できるようにすることで、透明性と説明責任への取り組みをさらに前進させます。

コンテンツがAI生成かどうかだけを知りたい場合もあります。一方で、どのAIプラットフォームから生まれたかを把握することが重要な場合もあります。そこで本日、無料のElevenLabs Audio Detectorウェブページを公開します。これにより、オーディオがElevenLabsで生成されたかどうかを確認できます。これは既存のAI Speech Classifierを基盤としつつ、SynthIDを活用して、出所情報をより堅牢にオーディオへ直接埋め込みます。この仕組みは、テクノロジーの力に対する説明責任を果たし、悪意ある行為者が包括的なセーフガードを突破して説得力のあるディープフェイクを作成した場合に、適切な対応を取るうえで重要です。 

AI生成コンテンツを機械可読形式で合成コンテンツとして表示することを求める法域が増えています。SynthIDによるウォーターマーキングは、来歴情報とコンプライアンスツールからなる既存のエコシステムを補完するもので、これにはC2PA認証情報も含まれます。また、コンテンツ認証情報が削除されたオーディオにそれらを再付与できるよう、SynthIDをC2PAソフトバインディングリストに追加できる可能性にも期待しています。 

高品質なウォーターマーキングソリューション

SynthIDは、オーディオクリップに音のパターンを隠すことで機能します。このパターンは人の耳には聞こえませんが、ElevenLabs Audio Detectorで検出できます。各オーディオファイルには固有のパターンが付与され、圧縮、クリッピング、再生速度の変更といった一般的なオーディオ変換を経ても維持されます。

SynthIDはベンチマークで優れた結果を示し、技術要件をすべて満たしました。

• 最初のバイトまでの時間（TTFB）に遅延を追加しない 
• 高い検出率と低い誤検出率
• オンラインで一般的に行われるトリミングなどの変換にも強い
• 人の耳では知覚できず、聴感上の品質劣化もない
• ElevenLabsで生成していないオーディオへコピーできない

最先端のオーディオウォーターマーキングを進化させるため、Google DeepMindのSynthIDチームとの連携を今後も続けていきます。

今後について

ウォーターマーキングの主な目的は透明性と説明責任ですが、新たなプロダクト機能も実現します。デジタルコンテンツ認証情報にはすでに確立された市場があり、スタジオは知的財産の保護に、個人のクリエイターは作品が再利用された際に報酬を確実に受け取るために活用しています。将来的には、クリエイターやIP保有者が自身のメタデータをコンテンツに直接埋め込めるようになるかもしれません。これにより、YouTube、Instagram、TikTokなどのプラットフォームで再配布された著作権保護対象の素材を検出し、対応できるようになります。

ウォーターマーキングは、透明性への幅広い取り組みの一部です。モデルがより強力で自然になるほど、説明責任を支える基盤もそれに合わせて進化する必要があります。誰もがコンテンツの出所を特定できるほど、共有する情報エコシステムの信頼性は高まります。