ElevenLabs、英国政府と音声AIのセーフティ研究で提携

ElevenLabsは、AI音声技術が社会やセキュリティに与える影響を研究するため、英国政府と新たに3年間のパートナーシップを締結しました。AIエージェントと会話していることを人がどれだけ見分けられるか、またその認識が行動にどう影響するかについて共同で研究します。

会話型AIエージェントは、パーソナライズされた指導から 24時間365日のカスタマーサービス– しかし、この技術が悪用されたり、人をだましたりしないようにすることがとても重要です。悪用を防ぐため、ElevenLabsのプロダクトには包括的なセーフティ機能を組み込み、政府とも連携してAIの安全基準づくりに取り組んでいます。

今回の新たな覚書により、英国政府はElevenLabsの最先端音声モデルにアクセスし、大規模かつ管理された研究を行います。この研究では、人が自然な会話の中で人間とAIエージェントをどれだけ区別できるかを調査します。また、相手が人間かエージェントかによって、情報を開示する行動や意欲がどう変化するかも検証します。

この取り組みは、英国のAI分野に対する信頼の証です。世界をリードするAI企業が英国を拠点に選び、最先端のAIセキュリティ研究所と本格的かつ革新的な研究で提携しています。こうした活動やパートナーシップを通じて、人々が信頼でき、生活に役立つAI技術を実現していきます。

— Kanishka Narayan（AI・オンラインセーフティ担当大臣）

音声はAIの可能性を最大限に引き出す最も自然な手段ですが、人々がこの変化を受け入れるには技術への信頼が不可欠です。ElevenLabsのプラットフォームにはあらゆる部分にセーフティ機能を組み込んでおり、今回の英国政府との研究提携もAIを責任を持って活用するための大きな一歩です。

— Mati Staniszewski（ElevenLabs CEO）

技術が適切に使われるよう、ElevenLabsでは包括的なセーフティ対策を導入しています。これには、政治家や著名人の声のクローン作成のブロック、ボイスクローン時の本人確認の必須化、ElevenLabsが生成した音声かどうかを判別できるAIオーディオ分類ツールの提供などが含まれます。

このパートナーシップは、先週発表された政府向けElevenLabs に続くもので、公共機関が24時間365日、多言語サービスを提供できるよう支援します。すでにウクライナ政府 などの先行導入機関が市民の重要なサービス利用をサポートしており、他の機関でもAIエージェントが1日約5,000件の通話対応に活用されています。