Together AIでカスタムLLMを活用するAIエージェント
- ElevenLabsの会話型AIプラットフォームとTogether AIの最適化LLMクラウドをシームレスに連携し、高性能でカスタマイズされた会話体験を提供します
- 最小限のセットアップで、コーディング不要で、ファインチューニング済みのドメイン特化型言語モデルを音声対話に導入できます
- モデル選択・パフォーマンス・コストを管理しながら、AIエージェントの展開を拡大できます
- リアルタイムAIエージェントをスケールさせたいデベロッパー主導のプラットフォームに最適
- サブ秒レベルの応答速度と安定した低遅延パフォーマンスでエンタープライズ品質の信頼性を実現
機能
インテグレーション機能
エンタープライズレベルのパフォーマンスとコントロールで、音声エージェントに高度なLLM機能を追加
- 高性能推論
- 研究に基づく最適化でサブ秒モデル処理を実現
- カスタムカーネル、量子化、推測デコーディングによる最大効率化
- ピークトラフィック時でも安定した低遅延応答
- モデルの柔軟性と選択肢
- 最先端モデルを含む豊富なモデルライブラリにアクセス可能
- 高速化には軽量モデル、複雑な対話には大規模モデルを展開
- コード変更なしでモデル切り替えが簡単—数分でテスト＆展開可能
- カスタムモデルの展開
- 独自データでファインチューニングしたモデルを利用可能
- 自社の言語やドメイン知識に特化したモデルを展開
- エンタープライズ基盤を活用しつつ、IPを完全に管理
- デベロッパーファーストの連携
- OpenAI互換APIでベンダーロックインなし
- 既存のElevenLabsエージェントとプラグ＆プレイで連携
- 充実したAPIドキュメントとエンタープライズサポート
- エンタープライズセキュリティ＆コンプライアンス
- SOC2・HIPAA準拠、GDPR対応のインフラ
- 転送中のデータは暗号化、ゼロリテンションモードも利用可能
- 専用サポートチャネル付きエンタープライズSLA
インストール
インストールガイド
デベロッパーチーム向けのシンプルなセットアップガイド - コーディング不要、30分以内で運用開始
パート1：Together AIのセットアップ
APIキーの取得：Together AIの設定→APIキーで新規キーを作成
モデルの選択：カタログから選択、またはカスタムファインチューニングモデルを使用
モデルIDの確認：正確な識別子をコピー（例：「meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo」）
パート2：ElevenLabsのセットアップ
エージェント設定でTogether AIキーを「カスタムLLM」シークレットとして追加
パート3 カスタムLLMの設定:
LLMドロップダウンからカスタムLLMを選択し、以下の情報を保存してください：
サーバーURL：https://api.together.xyz/v1
モデルID：選択したモデルの識別子
認証情報：ドロップダウンからAPIキーを選択
情報を保存し、「AIエージェントをテスト」で連携を確認してください
トラブルシューティング
トラブルシューティング＆サポート
よくある設定の問題・解決策・エンタープライズサポートリソースでスムーズな導入をサポート