選挙に向けた取り組みの最新情報

ElevenLabsは、あらゆる言語、声、音を通じて、誰もがコンテンツにアクセスし、楽しめるように取り組んでいます。テクノロジーには、よりつながりが深く、より多くの情報が行き渡る世界をつくる力があると強く信じています。そして、民主的なプロセスにとって良い力となれると考えています。これまで、議員が自らの声を取り戻せるよう支援し、有権者や大切にする課題のために活動を続けられるようにしてきました。同様に、提唱者も支援し、変化を生み出し、人々の暮らしを改善するための取り組みを後押ししてきました。知識、参加、コミュニティへの障壁を取り除く取り組みは、まだ始まったばかりです。

また、民主的なプロセスを促進するだけでなく守ることは、業界、政府、市民社会、そして一人ひとりを含む、私たち全員の責任だと考えています。2024年を通じて、世界各国で重要な選挙が行われるなか、ツールの悪用を防ぐための具体的な対策を講じてきました。11月5日の米国大統領選挙を前に、これまでの取り組みをご紹介します。

ポリシー

選挙に関連するツールの利用ルールを強化・明確化するため、禁止利用ポリシーを改定しました。

• 選挙運動と候補者のなりすましの禁止。特定の候補者、争点、立場を宣伝・支持すること、または投票や資金提供を求めることを含む、政治的な選挙運動を目的としたツールの利用を厳格に禁止しています。また、政治候補者や選挙で選ばれた政府関係者の声を模倣するためのツール利用も禁止しています。

• 投票妨害および選挙プロセスの混乱の禁止。投票妨害や、選挙・市民活動のプロセスを混乱させるその他の行為を扇動、実行、または助長するためのツール利用を禁止しています。これには、誤解を招く情報の作成、配布、拡散の助長が含まれます。

防止

選挙に関連したツールの悪用を防ぐため、セーフガードを強化しました。

• ユーザースクリーニング。ボイスクローンツールのすべてのユーザーには、連絡先情報と支払い情報の提供を求めています。これにより、登録時に不正行為や高リスク地域に関連するアカウントをブロックできます。

• 「No-Go」ボイス。No-Go Voiceテクノロジーにより、数百人に及ぶ候補者、選挙で選ばれた公職者、その他の政治家、著名人の声の生成をブロックしています。このセーフガードは継続的に拡張して有効性を高めており、ブロック対象の声を生成しようとするユーザーを監視し、措置を講じています。

検出と執行

予防策を補完するため、検出・執行能力を強化しました。

• 悪用の監視。 政治コンテンツの特定に特化したものを含む、改善された独自分類器と、自動モデレーションおよび人によるレビューを組み合わせ、利用規約に違反するコンテンツの検出に役立てています。また、選挙妨害を目的とする悪用の可能性について知見を提供する外部の脅威インテリジェンスチームとも連携し、政府・業界パートナーとの情報共有チャネルも設けています。

• 厳格な執行。 悪用を確認した場合は、ボイスの削除、ユーザーへの警告措置、プラットフォームからの利用禁止、必要に応じた当局への通報など、断固とした対応を行います。ElevenLabsに由来する可能性がある問題のあるコンテンツを見つけた場合は、お知らせください。

• 政府による取り組みへの支援。悪用を抑止するには、政府の行動が不可欠だと考えています。7月には、発表しました。Protect Elections from Deceptive AI Act（欺瞞的AIから選挙を守る法案）への支持です。この超党派法案は、エイミー・クロブシャー、ジョシュ・ホーリー、クリス・クーンズ、スーザン・コリンズ、マリア・キャントウェル、トッド・ヤング、ジョン・ヒッケンルーパー、マーシャ・ブラックバーンの各上院議員が主導するもので、有権者を欺くために選挙広告でAIを使用する悪質な行為者に責任を負わせることを目的としています。今後も、選挙に関するものを含むAIセーフティの取り組みについて、米国および世界各地の政策立案者と連携していきます。

出所と透明性

幅広い連携を通じた取り組みも含め、AI生成コンテンツを明確に識別できるようにすることは、ElevenLabsが責任ある開発を進めるうえで重要な要素です。

• AI Speech Classifier。AI Speech Classifierは、2023年6月から一般公開されており、誰でもオーディオサンプルをアップロードして、ElevenLabsが生成したものかどうかを分析できます。このツールを公開することで、オーディオの出所をより簡単に特定できるようにし、誤情報の拡散を抑えることを目指しています。

• 業界との連携。AIコンテンツの出所と透明性については、単独で取り組むことはできません。業界全体での取り組みが不可欠です。 そのため、出所に関する標準の開発に向け、大手メディア企業とテクノロジー企業を結集するContent Authenticity Initiative（CAI）に参加しています。また、Coalition for Content Provenance and Authenticity（C2PA）を通じて、プラットフォーム上で生成されるオーディオに暗号署名されたメタデータを埋め込み、これらの標準を実装しています。これにより、主要なSNSプラットフォームなど、CAIのツールを採用するコンテンツ配信チャネルは、当社のオーディオをAI生成として認識できます。

• 第三者検出ツールの支援。 選挙関連のディープフェイクを含むAI生成コンテンツを識別するツールの改善に向け、第三者のAIセーフティ企業と協力しています。7月には、提携しました。Reality Defenderは、ディープフェイク検出に特化したサイバーセキュリティ企業です。同社の検出ツールを強化するため、モデルとデータへのアクセスを提供しています。この提携により、政府や大企業を含むReality Defenderの顧客は、AI生成による脅威をリアルタイムで検出でき、世界中の人々を誤情報や高度な詐欺から守ることができます。また、AIコンテンツ検出をさらに進化させるため、UCバークレー情報学部の研究イニシアチブをはじめ、その他の学術・商業プロジェクトにも参加しています。

今後数日から数週間にわたり、こうしたセーフガードについて学び続け、改善を重ねていきます。ツールがどのように利用されうるかを、すべて予見できるわけではないことも認識しています。それでも、よりつながりが深く、より多くの情報が行き渡る世界をつくるためにテクノロジーを活用しながら、悪用を防ぐための強力な対策を継続して講じていきます。