エンタープライズ規模でのプロダクション対応会話型AI: Scale AIのFelix Suと共に

成功するエンタープライズAIに必要なのは、最新技術だけではありません。AIの基本要素を土台に、適切なアーキテクチャと制御を構築することが重要です。既製のLLMは強力ですが、ビジネスロジック、ブランドガイドライン、セーフティ原則に従う方法についての深い知識はありません。このようなカスタム体験を実現するには、プロンプト、LLM、ガードレール、ツールなどの構成要素からなるシステムを慎重に設計・テストし、生成AIがエンタープライズのルールに従うよう導く必要があります。

分離の力：アーキテクチャが重要な理由

会話型音声AIを構築する際、デベロッパーはマルチモーダルな音声間変換モデルを使うか、ASR（文字起こし）、LLM、TTSという各コンポーネントを組み合わせるかを選べます。特定のユースケースを持つエンタープライズでは、後者のほうが実用的な場合が少なくありません。

「エンタープライズ環境では、AIはLLMだけでは十分に機能しないことがよくあります」と、ScaleのGenAIプラットフォームのエンジニアリング責任者であるFelix Su氏は説明します。「複雑なシステムは、ビジネスロジックに従い、ブランドイメージを維持し、厳格なガードレールの範囲内で動作するよう設計する必要があります。こうした動作はエンタープライズごとに異なるため、LLMの潜在的な挙動だけに頼るよりも、その上にシステムを実装するほうが実用的です。近年、マルチモーダル機能はモデル自体に組み込まれるようになりましたが、重要な本番ユースケースへの導入は予想より遅れています。これは、生成と各モダリティにおける入力・出力の間を制御できないためです。TIME AIでは、STTとTTSを使用することで、テキストベースのLLMへの入力を制御し、カスタムガードレールでシステムの出力を保護できました。この手法は、マルチモーダルLLMを直接使用するより実用的な場合が多いのです。」

TIME AI体験の構築にあたり、ScaleはTIMEの記事コーパスをオンデマンド検索用のナレッジベースにインデックス化し、一連のシステムプロンプトにビジネスロジックを組み込みました。また、GenAIの出力をハルシネーションや、セーフティおよびブランドガイドラインの両方への違反から保護しました。このシステムに、ElevenLabsの会話型AIオーケストレーションプラットフォームの音声を加えることで、体験に命を吹き込みました。 

TIMEのパーソン・オブ・ザ・イヤー体験：音声が生む違い

最近公開されたTIME AIにより、読者は象徴的なパーソン・オブ・ザ・イヤーの報道を含むTIMEのジャーナリズムについて、自然な会話を楽しめるようになりました。この実装が数多くのチャットボットと異なるのは、知識だけではありません。音声です。

「音声を使うことで、本当に印象的で力強い体験になりました」とSu氏は振り返ります。「音声がなければ、数あるチャットボットの一つとして埋もれてしまいます。台本にとらわれず会話を深掘りできる、生きた読書パートナーのようなエージェントにしたかったのです。」この実装では、Scale AIのAI開発に関する専門知識とElevenLabsの会話型AIプラットフォームを組み合わせ、コンテンツとブランドボイスを厳格に管理しながらも、驚くほど人間らしい体験を生み出しています。

エンタープライズ対応システムの構築

会話型AIを大規模に導入したいエンタープライズにとって、Scale AIとElevenLabsとの協業は実証済みの道筋です。Scale AIは、堅牢なガードレールを備えた、安全かつ制御可能なマルチモーダルAIシステムの構築に深い専門知識を持っています。一方、ElevenLabsは、こうしたシステムにシームレスに統合できる最高水準の音声技術を提供します。

TIMEの実装はジャーナリズムに焦点を当てていますが、同じアーキテクチャはさまざまなエンタープライズユースケース、特にカスタマーサービスやサポートに適用できます。顧客は、より魅力的で人間らしいやり取りを求めるようになり、基本的なチャットボットに飽き始めています。 

本記事への寄稿にご協力いただいたFelix氏に感謝します。Felix Su氏はLinkedInとXでご覧いただけます。また、TIMEとともに構築した会話型AIの音声体験は、同社のパーソン・オブ・ザ・イヤー 2024のほか、2021年、2022年、2023年のパーソン・オブ・ザ・イヤーでも体験できます。

デベロッパーは、ドキュメントを使って会話型AIを始められます。本番環境で信頼できる会話型音声エージェントソリューションの導入を検討している企業は、ElevenLabsまたはScaleのエンタープライズソリューションチームにお問い合わせください。