モデル
ユースケースに適したモデルの選び方を学ぶ
ElevenAgentsは、エージェントを複数のモデルやプロバイダーに接続するための統一インターフェースを提供し、柔軟性、信頼性、コスト最適化を実現します。
主な機能
- 統一されたアクセス:最小限のコード変更でプロバイダーやモデルを切り替え
- 高い信頼性:プロバイダーで障害が発生した場合、別のプロバイダーへ自動的にカスケード
- 支出のモニタリング:異なるモデル間の支出を監視
対応モデル
現在、以下のモデルをネイティブでサポートしており、エージェント設定から構成できます:
特に明記がない限り、価格は通常100万トークンあたりの米ドルで示されます。トークンはLLMにおける テキストデータの基本単位で、平均しておよそ4文字に相当します。
カスタムLLM
リクエスト先エンドポイントを指定し、安全なシークレットストレージを通じて認証情報を提供することで、独自のカスタムLLMを使用できます。詳細はカスタムLLMインテグレーションをご覧ください。
EUデータレジデンシーが有効な場合、一部のモデルは利用できません。利用可否の詳細は、GDPRとデータ レジデンシーをご覧ください。
モデルの選び方
アプリケーションに最も適したLLMを選ぶ際は、次の要素を検討してください:
- タスクの複雑さ:アプリケーションの代表的なタスクでモデルを評価します
- レイテンシー要件:ライブ音声会話には低レイテンシーのモデルを選び、プロンプトとツールを使用して応答時間を測定します
- コンテキストウィンドウのサイズ:長い会話や大規模なドキュメントの情報を処理、理解、想起する必要がある場合は、より大きなコンテキストウィンドウを持つモデルを選択します
- 費用対効果:必要なパフォーマンスと機能を予算に照らして調整します。LLMの価格は大きく異なる場合があるため、想定する利用パターンに対して価格体系(入力、出力、キャッシュトークン)を分析してください
- HIPAA準拠:アプリケーションが保護対象保健情報(PHI)を扱う場合は、HIPAA準拠に指定されたLLMを使用し、データ処理プロセス全体が規制基準を満たすことが重要です
システムプロンプトの最大サイズは2MBです。これには、エージェントの指示、ナレッジベースの コンテンツ、その他のシステムレベルのコンテキストが含まれます。
モデル設定
Temperature
Temperatureはモデル応答のランダム性を制御します。値を低くすると一貫性が高く焦点を絞った出力になり、値を高くすると創造性と変化が増します。
- 低(0.0~0.3):構造化されたやり取りに適した、決定的で一貫性のある応答
- 中(0.4~0.7):創造性と一貫性のバランス
- 高(0.8~1.0):動的な会話に適した、創造的で多様な応答
バックアップLLMの設定
プライマリLLMで障害が発生した場合や利用できなくなった場合でも会話を継続できるよう、バックアップLLMを設定します。
設定オプション:
- デフォルト:ElevenLabs推奨のフォールバック順序を使用
- カスタム:バックアップモデルの独自のカスケード順序を定義
- 無効:フォールバックなし(本番環境では強く推奨しません)
バックアップLLMを無効にすると、プライマリLLMで障害が発生した場合や利用できなくなった場合に、会話が 突然終了します。本番環境での使用は強く推奨しません。
詳細はLLMカスケーディングをご覧ください。
推論
推論は、ツールの選択、ポリシーの適用、複数ステップのワークフローの完了など、複雑な判断をエージェントが処理するのに役立ちます。モデルに応じて、思考バジェットまたは推論努力レベルで実行する推論量を制御できます。
思考バジェット
数値スライダーで推論トークンの最大数を設定します。バジェットを大きくすると、応答時間が長くなる場合があります。モデルが許可している場合、バジェットを 0 に設定すると思考を無効にできます。
推論努力
推論努力は、回答前にモデルが実行する推論量を制御します。利用できるレベルは、選択したモデルによって異なります。
追加の思考によってターンテイキングが遅れる可能性があるため、ライブ音声エージェントでは低いバジェットまたは努力レベルから始めてください。 より複雑な判断が必要なワークフローステップでは、値を増やしてください。
推論サマリー
応答、ツール呼び出し、ワークフローパスをデバッグする際にモデルが返した推論を取得するには、推論サマリーを有効にします。エージェントのLLM設定で推論サマリーをオンにするか、API経由で enable_reasoning_summary を設定してください。この設定はデフォルトでオフです。
カスタムエンドポイントについては、ElevenLabsが推論をリクエストして保存する方法をご覧ください。
推論コンテンツには、保持およびPIIマスキング設定が適用されます。以下のチャネルからアクセスできます:
ゼロ保持モードでは、ElevenLabsは**推論コンテンツを 保存しません **。チャットクライアントと通話後のWebhookにのみ配信されます。
制限事項
- 推論サマリーをリクエストすると、応答レイテンシーが増加する場合があります。レイテンシーに敏感な音声エージェントで有効化する前にテストしてください。
- プロバイダーは、サマリー、思考テキスト、生の推論差分、または表示可能なコンテンツなしを返す場合があります。
価格について
- トークン:LLMの使用量は通常、処理されたトークン数に基づいて課金されます。英語テキストの一般的な目安として、100トークンは約75語に相当します
- 入力と出力の料金:プロバイダーでは、入力トークン(モデルに送信するデータ)と出力トークン(モデルが応答として生成するデータ)で料金が異なることがよくあります
- キャッシュ料金:
input_cache_read:以前に処理した入力データをキャッシュから取得する際のコストです。同一の入力を複数回処理する場合、キャッシュデータを利用するとコストを削減できますinput_cache_write:入力データをキャッシュに保存する際のコストです。一部のLLMプロバイダーはこの操作に料金を請求する場合があります
- このドキュメントに記載されている価格は100万トークンあたりの価格であり、執筆時点で入手可能な情報に基づいています。これらの価格はLLMプロバイダーによって変更される場合があります
- パススルー料金:ElevenLabsは、第三者LLMのコストを上乗せなしでプロバイダーの公表料金のまま適用します。一部のGeminiおよびClaudeモデルは、米国およびEUのトラフィックに適用されるVertex AIリージョナル(グローバル以外)の料金に合わせています。これは、Vertexリージョナル料金に合わせ、入力、出力、キャッシュトークンが10%増額されることを意味します
現在のモデル機能、価格、利用規約については、プロバイダーのドキュメントを参照してください。
HIPAA準拠
プラットフォームで利用できる一部のLLMは、HIPAA準拠が求められる環境での使用に適している場合があります。詳しくはHIPAA準拠のドキュメントをご覧ください。
関連リソース
ElevenLabsがホストするモデル
ElevenLabsは、ElevenLabsがホストする一部のサードパーティモデルを含む、さまざまなAIモデルへのアクセスを提供しています。
モデルが「Hosted by ElevenLabs」と指定されている場合、そのモデルはElevenLabsが管理するインフラストラクチャ上でデプロイおよび運用されています。これらのモデルは現在、米国またはエンタープライズデプロイメントのリージョンでホストされています。
ElevenLabsがホストするモデルを識別する方法
ElevenLabsがホストするモデルは、ElevenLabsのインターフェースで明確にラベル付けされています。モデルの閲覧または選択時に、「Hosted by ElevenLabs」の表示を確認してください。
データの取り扱い
ElevenLabsがホストするモデルでは、リクエストはElevenLabs管理のインフラストラクチャ内で処理されます。つまり、元のモデルプロバイダーは、ElevenLabsを通じて送信された入力と出力を受信、アクセス、処理しません。
これらのモデルをホストすることで、ElevenLabsはモデルリクエストの提供に使用されるインフラストラクチャを制御しながら、一貫したエクスペリエンスを提供できます。
よくある質問
セルフホストモデルはどこでホストされていますか?
ElevenLabsがホストするモデルは現在、米国またはエンタープライズデプロイメントのリージョンにあるインフラストラクチャ上でホストされています。
元のモデルプロバイダーは私のデータや使用状況のメタデータにアクセスしますか?
ElevenLabsがホストするモデルでは、モデルの元の開発者が入力や出力を受け取ることはなく、それらを処理するデプロイメントに関するデータにもアクセスできません。
モデルがElevenLabsによってホストされているかどうかは、どのように確認できますか?
ElevenLabsがホストするモデルは、ElevenLabsのインターフェースで「Hosted by ElevenLabs」として明確に識別されています。