リアルタイムモデル
低レイテンシーの音声エージェント向けに構築されたElevenLabsモデルを使用できます。
概要
リアルタイムモデルは、低レイテンシーの音声会話向けに構築され、音声エージェントで利用できるElevenLabsモデルです。
すべての音声エージェントには、音声モードとしてカスタムまたはリアルタイムがあります。カスタムモードでは、モデルで説明されているように、LLM、TTSモデル、ASR設定を自分で選択します。リアルタイムモードでは、リアルタイムモデルを選択すると、ElevenLabsがそれらの設定を管理します。
利用可能なリアルタイムモデルは2種類です。
エージェントのシステムプロンプト、音声、ツール、ナレッジベース、ターン設定は、どちらのモードでも同じように機能します。
SpaceXAIやOpenAIなど、別のリアルタイムAPIから移行しますか?リアルタイム APIを使うと、リアルタイムモデルをよりすばやく試せます。既存のクライアントをElevenLabsに向けるだけで、すでに使用しているイベントをそのまま利用できます。
リアルタイムモデルは段階的に提供されています。エージェントのAgentタブに音声モード設定が表示されない場合、
リアルタイムモデルはまだワークスペースで利用できません。また、APIではrealtime_modelが
Realtime models are not available for this workspace.というエラーで拒否されます。
音声モードの選択
次のいずれかに該当する場合は、エージェントをカスタムモードのままにしてください。
- エージェントがカスタムLLM、Amazon Bedrock、またはスピーチエンジンを使用している。
- エージェントに特定のLLMまたはTTSモデルが必要である。
- ワークフローノードがLLM、TTSモデル、または別の管理対象設定を上書きしている。
- エージェントがカスタムモードのエージェントへ、またはそこから転送する。
- エージェントがテキストのみである。リアルタイムモデルは音声会話向けに構築されています。
それ以外の場合は、まずEleven Realtime v1 Miniを使用してください。次の場合は、代わりにEleven Realtime v1 Maxを選択します。
- エージェントが長いまたは複雑な指示に従う、あるいは複数ステップのツール呼び出しに依存しており、Miniの応答では十分でない。
- エージェントが米国またはEUでゼロ保持モードまたはHIPAAに準拠する必要がある。Miniはいずれの場合も利用できません。
Maxはインドおよびシンガポールのデータレジデンシー環境では利用できず、トークン上限を1,024以上にするか、上限なしにする必要があります。制限事項とコンプライアンスとデータレジデンシーを参照してください。
設定
ダッシュボードで更新
CLIで更新
APIで更新
リアルタイムをオフにするには、音声モードをカスタムに設定して公開します。エージェントは保存されているLLM、TTSモデル、ASR設定に戻ります。
管理対象設定
リアルタイムモデルが設定されている間、ElevenLabsは以下の設定を管理し、エージェントはそれらに保存されている値を無視します。カスタムに切り替えると、保存されている値が再び使用されます。
トークン上限(agent.prompt.max_tokens)は保存されている値を維持しますが、ワークフローノードでは上書きできず、Eleven Realtime v1 Maxには最小値が必要です。制限事項を参照してください。
これらの設定を変更するには、エージェントをカスタムに切り替えてください。
引き続き適用される設定
以下を含む、その他のすべてのエージェント設定はカスタムモードと同様に機能します。
エージェントがリアルタイムモードの間、ダッシュボードでは温度を含むLLM設定は非表示になります。リアルタイムエージェントの温度を変更するには、CLIまたはAPIを使用してください。
リアルタイムモデルが時間内に応答しない、またはエラーを返した場合、エージェントはLLMカスケーディングで説明されているようにバックアップLLMにフォールバックします。リアルタイムモデルは、フォールバックまでにエージェントが待機する時間を設定します。
制限事項
ElevenLabsは、エージェントを公開するときにこれらのルールを確認します。いずれかに違反する下書きも保存できますが、公開は変更が必要な設定を示すエラーで失敗します。
- ElevenAgentsエージェントのみ: スピーチエンジンなど、他のElevenLabsプロダクトで作成されたエージェントでは、リアルタイムモデルを使用できません。
- カスタムLLM不可:エージェントのLLMがカスタムLLMまたはAmazon Bedrockである間は、リアルタイムモードを利用できません。切り替える前に、カスタムモードで組み込みLLMを選択してください。
- 管理対象設定のワークフロー上書き不可:ワークフローノードでは、管理対象設定またはトークン上限を上書きできません。上書きを削除するか、エージェントをカスタムモードのままにしてください。
- Maxのトークン上限:Eleven Realtime v1 Maxには、1,024以上のトークン上限、または上限なしが必要です。
- モード間の転送:リアルタイムモードのエージェントは、他のリアルタイムモードのエージェントに対してのみ転送できます。MiniとMaxのエージェント間の転送はサポートされています。
公開時の確認では、公開されたエージェントが実行する転送のみが対象です。カスタムモードのエージェントからリアルタイムエージェントへの転送は、 カスタムモードのエージェントが次に公開されたときにのみ検出されます。それまでは、 会話中に転送が拒否され、現在のエージェントが通話に残ります。
転送エラーはTransfers between default and Realtime model modes are not supported.と表示されます。ここでの「default」はカスタムモードを意味します。
コンプライアンスとデータレジデンシー
リアルタイムモデルには、他のモデルと同じゼロ保持モード、HIPAA、データレジデンシーのルールが適用されます。利用可否はMiniとMaxで異なります。
ゼロ保持モードは、ワークスペースで強制されている場合も、エージェントで有効になっている場合も適用されます。
エージェントのコンプライアンスまたはデータレジデンシー設定でリアルタイムモデルが利用できない場合、ElevenLabsはモデル名を示すエラーで拒否します。もう一方のリアルタイムモデルを選択するか、カスタムに切り替えてください。
料金
リアルタイムエージェントには、標準のElevenAgents分単位料金に加え、リアルタイムモデルの料金に基づく入力、キャッシュ済み入力、出力トークンの料金がかかります。Eleven Realtime v1 Maxは、Eleven Realtime v1 Miniよりトークンあたりの料金が高くなります。現在の料金についてはElevenLabs料金を参照してください。