エンタープライズ規模でのプロダクション対応会話型AI: Scale AIのFelix Suと共に

成功するエンタープライズAIは、最新技術を持つだけでなく、AIの基本に基づいた適切なアーキテクチャとコントロールが必要です。市販のLLMは強力ですが、ビジネスロジックやブランドガイドライン、セーフティ原則を遵守する深い知識が欠けています。このカスタム体験は、プロンプト、LLM、ガードレール、ツール、その他の構成要素を慎重に設計し、テストすることでのみ実現できます。これにより、生成AIの動作をエンタープライズルールに従わせることができます。

分離の力: なぜアーキテクチャが重要なのか

会話型音声AIを構築する際、デベロッパーは、マルチモーダルの音声対音声モデルを使用するか、ASR（文字起こし）、LLM、TTSのコンポーネントを組み合わせることができます。特定のユースケースを持つ企業にとって、後者の方が実用的な場合が多いです。ASR（文字起こし）、LLM、TTS。特定のユースケースを持つ企業には、後者がより実用的な場合があります。

「エンタープライズ環境では、AIはLLMだけでは実現できないことが多いんです」と、ScaleのGenAIプラットフォームのエンジニアリング責任者であるFelix Su氏は説明します。「複雑なシステムでは、ビジネスロジックに従い、ブランドイメージを守り、厳格なガードレールの中で動作するよう設計する必要があります。こうした動作は企業ごとにカスタマイズされるため、LLMの潜在的な挙動だけに頼るよりも、LLMの上にこれらのシステムを実装する方が現実的です。最近はマルチモーダル機能がモデル自体に組み込まれるようになりましたが、重要な本番環境での導入は予想よりも遅れています。これは、生成と各モダリティの入力・出力の間でコントロールが効かないことが原因です。TIME AIの場合、STTとTTSを使うことで、テキストベースのLLMへの入力を制御し、システムの出力もカスタムガードレールで守ることができました。この手法は、マルチモーダルLLMを直接使うよりも実用的な場合が多いです。」

TIME AIの体験を構築する際、ScaleはTIMEの記事のコーパスをオンデマンドで取得できる知識ベースにインデックス化し、ビジネスロジックを一連のシステムプロンプトにエンコードし、GenAIの出力を幻覚やセーフティおよびブランドガイドラインの違反から保護しました。このシステムの上に、ElevenLabsの会話型AIオーケストレーションプラットフォームの音声を使って体験を実現しました。

TIMEのパーソン・オブ・ザ・イヤー体験: 音声が違いを生む

最近のTIME AIのローンチにより、読者はTIMEのジャーナリズム、特に象徴的なパーソン・オブ・ザ・イヤーの報道について自然な会話を楽しむことができます。この実装が他の無数のチャットボットと異なるのは、その知識だけでなく、音声です。

「音声を使用することで、本当に良いパンチの効いた感覚が加わりました」とSuは振り返ります。「それがなければ、ただの別のチャットボットとして埋もれてしまいます。エージェントをライブの読み取りパートナーのように感じさせ、スクリプト外の会話の深いダイブを可能にしたかったのです。」この実装は、Scale AIのAI開発における専門知識とElevenLabsの会話型AIプラットフォームを組み合わせ、非常に人間らしい体験を作り出しながら、コンテンツとブランドの音声を厳密にコントロールしています。

エンタープライズ対応システムの構築

エンタープライズが大規模に会話型AIを展開するためには、Scale AIとElevenLabsと協力することで実績のある道筋を提供します。Scale AIは、制御された安全なマルチモーダルAIシステムを堅牢なガードレールで構築する深い専門知識を提供し、ElevenLabsはこれらのシステムにシームレスに統合できる最高の音声技術を提供します。

TIMEの実装はジャーナリズムに焦点を当てていますが、同じアーキテクチャは、特にカスタマーサービスやサポートにおいて、さまざまなエンタープライズユースケースに適用できます。顧客は基本的なチャットボットに飽きており、より魅力的で人間らしい対話を求めています。

この投稿に貢献してくれたFelixに感謝します。Felix SuはLinkedInとX、そして彼らのパーソン・オブ・ザ・イヤー2024彼らのパーソン・オブ・ザ・イヤー2024、さらに2021、2022および

デベロッパーはドキュメント、信頼できる会話型ボイスエージェントソリューションを導入したい企業は、エンタープライズソリューションチームにお問い合わせください。ElevenLabsと