ElevenLabs、英国政府と音声AIのセーフティ研究で提携

ElevenLabsは、AI音声技術が社会やセキュリティに与える影響を研究するため、英国政府と新たに3年間のパートナーシップを締結しました。人々がAIエージェントと話していることをどの程度正確に認識できるのか、また、その認識が行動を変えるのかを調べる研究で協力します。

会話型AIエージェントは、個別指導から24時間365日のカスタマーサービスまで、大きなメリットをもたらします。しかし、この技術が人を欺いたり搾取したりする目的で使われないようにすることが不可欠です。悪用を防ぐため、包括的なセーフガードをプロダクトに直接組み込み、AIセーフティの基準策定に向けて各国政府と緊密に連携しています。

この新たな覚書のもと、英国政府に大規模かつ管理された研究のため、最先端の音声モデルへのアクセスを提供します。この研究では、自然な対話の中で、人々が人間とAIエージェントをどの程度見分けられるかを調査します。また、相手が人間かエージェントかについての認識によって、人々の行動や情報を開示する意欲がどのように変化するかも検証します。

この取り組みは、英国のAI分野におけるリーダーシップへの信頼の表れです。先進的なAI企業が英国を拠点に選び、世界をリードするAI安全研究所と、真剣で実質的かつ革新的な研究に取り組むパートナーシップを選んだのです。このような取り組みやパートナーシップを通じて、AIを人々が信頼でき、生活に役立つ技術として活用していきます。

— AI・オンラインセーフティ担当大臣、カニシュカ・ナラヤン

音声は、AIの可能性を最大限に引き出すための最も自然な手段です。しかし、人々がこの変化を受け入れるのは、技術を信頼できる場合に限られます。ElevenLabsプラットフォームのあらゆる部分にセーフガードを組み込んでおり、英国政府とのこの新たな研究パートナーシップも、AIが責任を持って導入されるための重要な一歩です。

— ElevenLabs CEO、マティ・スタニシェフスキ

技術が責任を持って利用されるよう、包括的なセーフガードを導入しています。これには、政治家や著名人の声のクローンをブロックすること、ボイスクローンに認証を求めること、オーディオクリップがElevenLabsによって生成されたものかどうかを判断できるAIオーディオ分類器を提供することが含まれます。

このパートナーシップは、先週開始したElevenLabs for Governmentに続くものです。これは公共部門の組織による24時間365日・多言語対応のサービス提供を支援します。早期導入者であるウクライナ政府はすでにこの技術を活用して市民による必要不可欠なサービスへのアクセスを支援しており、他の機関でもAIエージェントを活用して、1日あたり約5,000件の電話に対応しています。