選挙の強化と保護

民主的なプロセスは、すべての有権者が参加できるときに最も効果的に機能します。しかし実際には、多くの人が自分に合った言語や形式で、登録方法や投票場所、候補者の主張などの情報にアクセスできていません。視覚障害のある方や、読み書きが苦手な方、母語話者でない方にとって、従来の選挙メールや印刷されたチラシは利用しづらいものです。

こうしたコミュニケーションの壁に対して、ボイスAIは民主主義にとって非常に強力なツールとなります。視覚障害のある方に情報を読み上げたり、市民が希望する言語や方言で質問に答えたり、難解な公式文書を会話形式で伝えることができます。ただし、すべての新しい技術と同様に、これらの機能が悪用され、有権者を欺いたり誤情報を広めたりするリスクもあります。

2026年は、アメリカやブラジルをはじめ、世界中で国政・地方選挙が行われる重要な選挙イヤーです。また、表現力豊かで自然なボイスAIが広く利用できる初めての選挙年の一つでもあります。ここでは、ElevenLabsがどのようにボイスAIを活用して民主的なプロセスを強化し、この技術の悪用防止・検知に取り組んでいるかをご紹介します。

民主的プロセスの強化

ボイスAIは、信頼できる機関からの公式情報へのアクセスを広げることで、すでに選挙で重要な役割を果たしています。特にブラジルは世界をリードしています。

10月の選挙を前に、ブラジルの最高選挙裁判所（TSE）は「選挙アシスタント」にボイス機能を追加し、市民がTSEのウェブサイトやアプリ、WhatsAppチャンネルで音声による情報取得を可能にします。ElevenLabsのテキスト読み上げとスピーチtoテキスト技術を活用したこの新しい音声インターフェースは、選挙に関する誤情報対策や、すべてのブラジル市民への信頼できる情報提供の拡大を目的としています。TSEとのMoU（覚書）を通じてパートナーシップを正式化し、TSEの「選挙誤情報対策常設プログラム」にも参加しています。

また、ブラジルの団体と連携し、ボイスAIを活用した情報検証の取り組みも支援しています。約10年にわたり、ブラジル調査報道協会（Abraji）が主導する42のメディア団体による連合「Comprova」は、操作されたコンテンツの特定に尽力してきました。ElevenLabsは、ComprovaのパートナーがAI Speech Classifierやその他の検知ツールを検証ワークフローで活用できるようトレーニングを行います。

アメリカでは、政策立案者や業界団体、大手テクノロジー企業と連携し、中間選挙の保護に取り組んでいます。カリフォルニア州の「テクノロジーを利用した詐欺対策タスクフォース」のメンバーと協力し、音声を使った詐欺の対策も進めています。Google DeepMindと提携し、AI生成音声にウォーターマークを付与。さらに、ディープフェイク検知企業Reality Defenderと連携し、大企業や政府で使われているリアルタイム検知ツールの強化も行っています。ElevenLabs for Governmentを通じて、政府や市民団体が多言語で常時市民サービスを提供できるよう支援し、2026年の選挙に向けてアメリカの公共機関にもこの機能を広げていきます。

ボイスAIの悪用防止と検知

民主的なアクセス拡大のために技術を展開するだけでなく、悪意ある利用を防ぐためのセーフティ対策にも投資しています。ElevenLabsは、モデルやプロダクト全体に重層的な保護を施し、万が一一部が回避されても他の層で守れるよう包括的なセーフティ対策を取っています。主な対策は以下の通りです。

• No Go Voices（NGV） クローン作成のためにアップロードされた音声サンプルは、ElevenLabs独自の「No Go Voices（NGV）」セーフガードでチェックされます。これは、公的機関の職員や政治候補者、著名人などリスクの高い人物の声のクローン作成を防ぐための仕組みです。NGVは、社内モニタリングや時事、ユーザーからの報告、外部情報などをもとに、選挙シーズンの開始時なども含めて継続的に改良・拡張しています。
• ボイスCAPTCHA ボイスCAPTCHAは、アップロードされた音声サンプルと、ユーザーがリアルタイムで動的に生成されたスクリプトを読み上げた録音を比較します。
• リアルタイムおよび非同期モデレーション 自動システムを使い、児童性的搾取・虐待、ヘイトスピーチ、詐欺など、ポリシー違反の可能性があるコンテンツを検知しています。これらのシステムは、特定のコンテンツが生成される前にブロックすることも可能です。生成されたコンテンツは自動的に分類され、人による確認や調査、対応をサポートします。
• エンフォースメント（対応措置） ポリシー違反やセーフガードの回避、重大なリスクを生む行為を行ったユーザーには、適切な対応を取ります。
• トレーサビリティと透明性 ElevenLabsのシステムは、生成されたコンテンツを作成したアカウントまで追跡できるよう設計されています。2023年からは無料のAI Speech Classifier（AIスピーチ分類器） を提供しており、誰でもElevenLabsで作成されたAI生成コンテンツが含まれているか音声サンプルをチェックできます。最近では、Google DeepMindと提携し、SynthIDウォーターマーク技術をElevenLabsで生成されたコンテンツに導入。これにより、無料のAudio Detector（オーディオ検知ツール） を使ってAI生成音声であることを判別できるようになりました。

今後も変わらぬ取り組み

ElevenLabsは、ボイスAIが公共の場で大きな価値をもたらすと信じており、技術が善のために使われるよう全力を尽くします。今後もセーフガードを強化し、世界中のパートナーシップから学び、新たなリスクやチャンスに応じて柔軟に対応していきます。政府や市民団体と密に連携できることを嬉しく思い、この選挙サイクルを通じて、さらに協力関係を深めていきたいと考えています。