탐색으로 건너뛰기

Realtime 모델

낮은 지연 시간의 음성 에이전트를 위해 설계된 ElevenLabs 모델을 사용하세요.

개요

Realtime 모델은 낮은 지연 시간의 음성 대화를 위해 설계되어 음성 에이전트에서 사용할 수 있는 ElevenLabs 모델입니다.

모든 음성 에이전트에는 음성 모드가 있습니다. 사용자 지정 또는 Realtime 중에서 선택할 수 있습니다. 사용자 지정 모드에서는 모델에 설명된 대로 LLM, TTS 모델, ASR 설정을 직접 선택합니다. Realtime 모드에서는 Realtime 모델을 선택하고 ElevenLabs가 해당 설정을 관리합니다.

두 가지 Realtime 모델을 사용할 수 있습니다.

모델realtime_model 값설명
Eleven Realtime v1 Minieleven_realtime_v1_mini기본 Realtime 모델입니다. 지연 시간과 비용이 가장 낮습니다.
Eleven Realtime v1 Maxeleven_realtime_v1_max응답 전에 추론하므로 복잡한 지침과 다단계 도구 사용에 적합합니다. Mini보다 비용이 높습니다.

에이전트의 시스템 프롬프트, 음성, 도구, 지식 베이스 및 턴 설정은 두 모드에서 동일하게 작동합니다.

SpaceXAI 또는 OpenAI와 같은 다른 realtime API를 사용하고 있나요? Realtime API를 사용하면 Realtime 모델을 더 빠르게 시험해 볼 수 있습니다. 기존 클라이언트를 ElevenLabs로 연결하고 이미 사용 중인 이벤트를 그대로 유지하세요.

Realtime 모델은 단계적으로 출시되고 있습니다. 에이전트의 Agent 탭에 음성 모드 설정이 표시되지 않는다면, 아직 워크스페이스에서 Realtime 모델을 사용할 수 없으며 API는 realtime_model을 Realtime models are not available for this workspace. 오류와 함께 거부합니다.

음성 모드 선택

다음 중 하나에 해당하면 에이전트를 사용자 지정 모드로 유지하세요.

  • 에이전트에서 사용자 지정 LLM, Amazon Bedrock 또는 Speech Engine을 사용합니다.
  • 에이전트에 특정 LLM 또는 TTS 모델이 필요합니다.
  • 워크플로 노드가 LLM, TTS 모델 또는 다른 관리 설정을 재정의합니다.
  • 에이전트가 사용자 지정 모드의 에이전트로 또는 에이전트에서 전송합니다.
  • 에이전트가 텍스트 전용입니다. Realtime 모델은 음성 대화용으로 설계되었습니다.

그렇지 않은 경우 Eleven Realtime v1 Mini로 시작하세요. 다음 상황에서는 대신 Eleven Realtime v1 Max를 선택하세요.

  • 에이전트가 길거나 복잡한 지침을 따르거나 다단계 도구 호출에 의존하며, Mini의 응답 품질이 충분하지 않습니다.
  • 에이전트가 미국 또는 EU에서 Zero Retention Mode 또는 HIPAA를 준수해야 합니다. Mini는 두 환경 모두에서 사용할 수 없습니다.

Max는 인도 및 싱가포르 데이터 레지던시 환경에서 사용할 수 없으며, 토큰 한도는 최소 1,024이거나 한도가 없어야 합니다. 제한 사항 및 규정 준수 및 데이터 레지던시를 참조하세요.

구성

1

Agent 탭 열기

대시보드에서 에이전트를 열고 Agent 탭으로 이동하세요.

2

음성 모드 설정

음성 모드를 Realtime으로 설정하세요. 에이전트가 Eleven Realtime v1 Mini로 전환됩니다.

3

모델 선택

대신 Eleven Realtime v1 Max를 사용하려면 모델 목록에서 선택하세요.

4

게시

변경 사항을 게시하세요. 에이전트가 제한 사항의 규칙 중 하나를 위반하면 게시에 실패합니다.

Realtime을 끄려면 음성 모드를 사용자 지정으로 설정한 후 게시하세요. 에이전트는 저장된 LLM, TTS 모델 및 ASR 설정으로 돌아갑니다.

관리 설정

Realtime 모델이 설정된 동안 ElevenLabs는 다음 설정을 관리하며, 에이전트는 해당 설정에 저장된 값을 무시합니다. 사용자 지정으로 전환하면 저장된 값이 다시 사용됩니다.

설정conversation_config의 필드
LLMagent.prompt.llm
추론 노력agent.prompt.reasoning_effort
사고 예산agent.prompt.thinking_budget
병렬 도구 호출agent.prompt.enable_parallel_tool_calls
캐스케이드 타임아웃agent.prompt.cascade_timeout_seconds
TTS 모델tts.model_id
표현 모드tts.expressive_mode
ASR 제공업체asr.provider

토큰 한도(agent.prompt.max_tokens)는 저장된 값을 유지하지만, 워크플로 노드에서 재정의할 수 없고 Eleven Realtime v1 Max에는 최소값이 필요합니다. 제한 사항을 참조하세요.

이러한 설정을 변경하려면 에이전트를 사용자 지정으로 전환하세요.

계속 적용되는 설정

다음을 포함한 다른 모든 에이전트 설정은 사용자 지정 모드와 동일하게 작동합니다.

에이전트가 Realtime 모드인 동안 대시보드에서는 온도를 포함한 LLM 설정이 숨겨집니다. Realtime 에이전트의 온도를 변경하려면 CLI 또는 API를 사용하세요.

Realtime 모델이 제시간에 응답하지 않거나 오류를 반환하면, 에이전트는 LLM 캐스케이딩에 설명된 대로 백업 LLM으로 대체됩니다. Realtime 모델은 대체하기 전 에이전트가 대기하는 시간을 설정합니다.

제한 사항

ElevenLabs는 에이전트를 게시할 때 이 규칙을 확인합니다. 이 중 하나를 위반한 초안도 저장되지만, 변경해야 하는 설정을 명시하는 오류와 함께 게시에 실패합니다.

  • ElevenAgents 에이전트 전용: Speech Engine 등 다른 ElevenLabs 제품을 통해 생성된 에이전트는 Realtime 모델을 사용할 수 없습니다.
  • 사용자 지정 LLM 불가: 에이전트의 LLM이 사용자 지정 LLM 또는 Amazon Bedrock인 경우 Realtime 모드를 사용할 수 없습니다. 전환하기 전에 사용자 지정 모드에서 기본 제공 LLM을 선택하세요.
  • 관리 설정의 워크플로 재정의 불가: 워크플로 노드는 관리 설정이나 토큰 한도를 재정의할 수 없습니다. 재정의를 제거하거나 에이전트를 사용자 지정 모드로 유지하세요.
  • Max의 토큰 한도: Eleven Realtime v1 Max에는 토큰 한도가 1,024 이상이거나 한도가 없어야 합니다.
  • 모드 간 전송: Realtime 모드의 에이전트는 Realtime 모드의 다른 에이전트로 또는 에이전트에서만 전송할 수 있습니다. Mini와 Max 에이전트 간 전송은 지원됩니다.

게시 시에는 게시된 에이전트가 수행하는 전송만 확인합니다. 사용자 지정 모드 에이전트에서 Realtime 에이전트로의 전송은 사용자 지정 모드 에이전트를 다음에 게시할 때만 감지됩니다. 그전까지는 대화 중 전송이 거부되고 현재 에이전트가 통화를 계속합니다.

전송 오류는 Transfers between default and Realtime model modes are not supported.로 표시되며, 여기서 “default”는 사용자 지정 모드를 의미합니다.

규정 준수 및 데이터 레지던시

Realtime 모델은 다른 모델과 동일한 Zero Retention Mode, HIPAA 및 데이터 레지던시 규칙을 따릅니다. Mini와 Max 간 이용 가능 여부는 다릅니다.

환경Eleven Realtime v1 MiniEleven Realtime v1 Max
미국사용 가능사용 가능
EU 데이터 레지던시사용 가능사용 가능
인도 데이터 레지던시사용 가능사용 불가
싱가포르 데이터 레지던시사용 가능사용 불가
Zero Retention Mode 및 HIPAA사용 불가미국 및 EU에서 사용 가능

Zero Retention Mode는 워크스페이스에서 강제 적용되는지 또는 에이전트에서 활성화되는지와 관계없이 적용됩니다.

에이전트의 규정 준수 또는 데이터 레지던시 설정에서 Realtime 모델을 사용할 수 없으면 ElevenLabs는 모델 이름을 명시하는 오류와 함께 이를 거부합니다. 다른 Realtime 모델을 선택하거나 사용자 지정으로 전환하세요.

요금

Realtime 에이전트에는 표준 ElevenAgents 분당 요금과 Realtime 모델 요율에 따른 입력, 캐시된 입력 및 출력 토큰 요금이 청구됩니다. Eleven Realtime v1 Max는 Eleven Realtime v1 Mini보다 토큰당 비용이 더 높습니다. 현재 요금은 ElevenLabs 요금을 참조하세요.

관련 리소스