選挙の強化と保護

民主的なプロセスは、投票資格のあるすべての有権者が参加できるときに最もよく機能します。しかし、登録方法、投票場所、候補者の政策に関する情報を、理解できる言語や形式で得られない人は少なくありません。視覚に障害のある人、識字能力が十分でない人、母語話者ではない人にとって、従来の選挙メールや印刷されたチラシは、そもそも利用できないことがあります。 

こうしたコミュニケーションの障壁に直面するなか、AI音声は民主主義のための非常に強力なツールとなり得ます。視覚に障害のある人に情報を読み上げたり、市民が希望する言語や方言で質問に答えたり、難解な公的文書を音声での対話へと変換したりできます。しかし、あらゆる新技術と同様に、こうした能力は悪意ある者によって、有権者をだましたり誤った情報を与えたりするために悪用されるおそれもあります。 

2026年は重要な選挙年です。米国やブラジルでの主要な選挙を含め、世界のあらゆる地域で国政、地域、地方の選挙が行われます。また、表現力豊かで自然なAI音声が広く利用できる、最初期の選挙年の一つでもあります。ここでは、この技術の悪用を防止・検出しながら、民主的なプロセスを強化するためにAI音声をどのように活用しているかをご紹介します。

民主的なプロセスの強化 

AI音声は、信頼できる機関が提供する公式情報へのアクセスを広げることで、すでに選挙で重要な役割を果たしています。ブラジルはこの分野で世界をリードしています。

10月の選挙を前に、ブラジルの高等選挙裁判所（TSE）は「選挙アシスタント」に音声機能を追加しています。これにより、市民は音声を使ってTSEのウェブサイト、アプリ、WhatsAppチャネルから情報を得られるようになります。当社のテキスト読み上げとスピーチtoテキスト技術を活用したこの新しい音声インターフェースは、選挙に関する誤情報への対策を支援し、信頼できる情報へのアクセスをすべてのブラジル国民に広げるために設計されています。TSEとの覚書（MoU）を通じてパートナーシップを正式に締結しました。これは国の選挙管理機関との初の提携です。また、TSEの選挙誤情報対策常設プログラムにも参加しました。

情報検証の取り組みを支援するため、AI音声を活用するブラジルの組織とも協力しています。ブラジル調査報道協会（Abraji）が主導する42のブラジルの報道機関による連合体、Comprovaは、約10年にわたり改ざんされたコンテンツの特定に尽力してきました。検証ワークフローの一環としてAI Speech Classifierやその他の検出ツールを活用できるよう、Comprovaのパートナーにトレーニングを提供します。 

米国では、中間選挙を守るため、政策立案者、業界団体、主要テクノロジー企業と協力しています。カリフォルニア州のテクノロジーを利用した不正対策タスクフォースのメンバーと連携し、音声を悪用した詐欺に対処しています。また、Google DeepMindと提携してオーディオにウォーターマークを付与し、AI生成であることを識別できるようにしています。さらに、ディープフェイク検出企業Reality Defenderと提携し、大企業や政府機関が利用する同社のリアルタイム検出ツールの強化を支援しています。ElevenLabs for Governmentを通じて、政府や市民社会が多言語で常時利用可能な市民向けサービスを提供できるよう支援するとともに、2026年の選挙が近づくなか、こうした機能を米国の市民機関にも提供できるよう取り組んでいます。

AI音声の悪用を防止・検出する 

民主的な情報アクセスを広げるための技術展開に加え、悪意ある者による悪用に対抗するセーフガードにも投資しています。セーフティに対しては包括的かつ多層的なアプローチを採用し、モデルとプロダクト全体に保護策を重ねて実装しています。ある層が回避されても、ほかの層が機能し続けるためです。主なセーフガードは以下のとおりです。 

• No Go Voices。 ボイスクローン作成のためにアップロードされたオーディオサンプルは、独自の「No Go Voices」（NGV）セーフガードによって審査されます。これは、公職者、政治候補者、著名人、その他広く認知されている人物など、リスクの高い個人の声を作成することを防ぐために設計されています。社内モニタリング、時事情報、ユーザーからの報告、外部インテリジェンスに基づき、新たな選挙サイクルの開始時も含めて、NGVを継続的に改良・拡充しています。
• Voice CAPTCHA。 Voice CAPTCHAは、アップロードされたサンプル内の声と、動的に生成されたスクリプトをユーザーが読み上げるリアルタイム録音を比較します。 
• リアルタイムおよび非同期モデレーション。 児童の性的搾取・虐待、ヘイトスピーチ、詐欺・不正行為など、ポリシーに違反する可能性のあるコンテンツを検出するため、自動システムを使用しています。これらのシステムは、特定のコンテンツが作成される前にブロックできます。また、生成されたコンテンツは、人によるレビュー、調査、執行を支援するために自動分類される場合があります。
• 執行。 ポリシーに違反するユーザー、セーフガードの回避を試みるユーザー、または深刻な危害を及ぼすリスクのある活動に関与するユーザーに対して、適切な措置を講じます。
• 追跡可能性と透明性。 システムは、生成されたコンテンツを作成したアカウントまで追跡できるよう設計されています。2023年以降、無料のAI Speech Classifier、も提供しており、誰でもオーディオサンプルにElevenLabsで作成されたAI生成コンテンツが含まれているかを確認できます。最近では、Google DeepMindとの提携を開始し、同社のSynthIDウォーターマーキング技術をElevenLabsで生成されるコンテンツに導入しています。これにより、無料のAudio Detectorを使って、AI生成であることを識別できます。  

継続するコミットメント 

公共の場におけるAI音声の計り知れない利点を強く信じており、この技術が善い目的のために使われるよう尽力しています。セーフガードをさらに強化し、世界中のパートナーシップから学び、新たなリスクや機会の発生に合わせてアプローチを進化させ続けます。世界各地の政府機関や市民社会組織と緊密に協力できることを嬉しく思います。今回の選挙サイクル、そしてその先も、パートナーシップをより深めていくことを楽しみにしています。