ElevenLabsは2024 年の選挙にどう備えるか

2024年を通じて、世界中でさまざまな選挙が予定されています。それらの選挙が近づく中、私たちはAI音声の安全で公正な使用の推進に注力しています。 

当社のテクノロジーは、言語の壁を打ち破り、世界中で理解を広げることへのコミットメントから生まれました。当社のテクノロジーは、教育、エンターテインメント、アクセシビリティの分野で感動を呼ぶアプリケーションを発見し続けると同時に、コンテンツの魅力とインクルーシブネスを高めています。 

しかし、AIテクノロジーを巡る状況の変化と、それが政治プロセスに与える影響を私たちは認識しています。当社のシステムの安全な開発・展開・使用は私たちの最優先事項です。私たちは、テクノロジーの進化に伴う悪用や誤情報の拡散を防止するための対策を強化しています。 

悪用の防止

当社は、プラットフォームの全ユーザーにポジティブな体験を提供するための継続的取り組みの一環として、AI音声が誤情報拡散に利用されないようにするための具体的対策を講じています。当社の利用規約は、当社のプラットフォームを利用して他人になりすましたり、他人に害を与えたりすることをすでに禁じていますが、私たちはさらに追加的対策を講じることにしました。それは、「禁止音声」による防御です。この防御策は、米国や英国をはじめとする大統領選挙、首相選挙に積極的に参加する政治家候補を模倣した声の作成を検出し、防止するように設計されています。私たちはこの防御策を他の言語や選挙サイクルにも拡大すべく取り組みを進めています。私たちはさらに、実地テストとフィードバックを通じて、この対策を継続的に改善することを目指しています。私たちは、他のAI企業やパートナーに協力を仰ぎ、これらの防御策を効果的に改善し、拡張する方法を探りたいと考えています。

同時に、民主主義的プロセスへの参加に影響を与えたり、有権者を誤解させたりするおそれのある政治コンテンツの作成を防ぐための新たな方法を積極的にテストしています。当社のシステムでは、プラットフォーム上で生成されたコンテンツを元のアカウントまで遡って追跡することが常に可能です。当社は、悪用行為をより的確に特定し、有効に対処するために、新しいモデレーションおよび内部レビューのメカニズムを積極的に開発しています。選挙手続き、有権者資格、投票の価値を誤って伝えることは民主主義を弱体化させます。私たちは民主的制度に混乱や不信を生み出すことを目的とするAIの使用に断固として反対します。他人になりすますこと、チャットボットを作成すること、ロボコール（詐欺電話）をかけることを含め、政治運動に当社のテクノロジーを使用する行為は当社の利用規約に直接違反します。

AI生成コンテンツの透明性

AIによって生成されたコンテンツを明確に識別できるようにすることは、当社の責任ある開発努力の重要な側面です。

昨年6月、私たちは AI Speech Classifierをリリースしました。このツールで音声サンプルをアップロードすれば、どなたでもそのサンプルがElevenLabsのAI生成音声かどうかを分析できます。私たちの目標は、音声コンテンツのソースを簡単に評価できるようにすることにより誤情報の拡散を防ぐことです。パートナーシップや統合にご興味がございましたら、 legal@elevenlabs.ioに是非ご連絡ください。当社のプラットフォーム上で気になる点があった場合や、当社のプラットフォーム上で作成されたと思われる音声を発見した場合は、 こちらからお知らせください。。

イノベーションと責任のバランス 

私たちのコミュニティが、当社のテクノロジーの有益な用途を発見し続けていることは、私たちにとって励みになります。当社は2024年を通じて、またそれ以降も、地域社会、パートナー、市民社会、主要なステークホルダーの皆様との継続的な対話を維持し、責任あるイノベーションに取り組んで参ります。