지연 시간 최적화
이 가이드에서는 애플리케이션의 텍스트 음성 변환 지연 시간을 줄이는 방법을 알아봅니다.
이 가이드에서는 텍스트 음성 변환 지연 시간을 개선하는 핵심 원칙을 다룹니다. 지연 시간이 무엇이며 어떤 요소가 영향을 미치는지에 대한 개념적 설명은 지연 시간 이해하기를 참고하세요.
개별적인 기법은 많지만, 이를 4가지 원칙으로 분류해 보겠습니다.
4가지 원칙
엔터프라이즈 고객은 향상된 동시성 한도와 렌더링 큐 우선 액세스 혜택을 받을 수 있습니다. 엔터프라이즈 플랜에 대해 자세히 알아보려면 영업팀에 문의하세요.
실시간 모델 사용
Eleven v4 Turbo 및 Flash v2.5는 중앙값 지연 시간이 약 100ms인 실시간 사용 목적의 모델입니다. Flash 모델은 Multilingual v2와 비교하면 오디오 품질이 약간 낮습니다.
이 수치에는 네트워크 시간과 애플리케이션 시간이 포함되지 않습니다. 실제 엔드 투 엔드 지연 시간은 위치, 사용한 엔드포인트 유형 등의 요인에 따라 달라집니다. 지연 시간 측정 방법을 확인하세요.
스트리밍 활용
API 레퍼런스에서 사용할 수 있는 텍스트 음성 변환 엔드포인트는 세 가지 유형입니다.
- 일반 엔드포인트: 단일 응답으로 완전한 오디오 파일을 반환합니다.
- 스트리밍 엔드포인트: Server-sent events를 사용하여 오디오 청크를 점진적으로 반환합니다.
- WebSocket 엔드포인트: 실시간 오디오 생성을 위한 양방향 스트리밍을 지원합니다.
스트리밍
스트리밍 엔드포인트는 실시간으로 생성되는 오디오를 점진적으로 반환하여 첫 번째 바이트까지의 시간을 줄입니다. 이 엔드포인트는 입력 텍스트를 미리 확보할 수 있는 경우에 권장됩니다.
스트리밍은 텍스트 음성 변환 API, 보이스 체인저 API 및 오디오 아이솔레이션 API에서 지원됩니다.
WebSocket
텍스트 음성 변환 WebSocket 엔드포인트는 양방향 스트리밍을 지원하므로 실시간 텍스트 입력(예: LLM 출력)이 있는 애플리케이션에 적합합니다.
auto_mode를 true로 설정하면 생성 트리거가 자동으로 처리되어 청크 전략을 수동으로 관리할
필요가 없습니다.
auto_mode가 비활성화되어 있으면 모델은 오디오 생성을 시작하기 전에 청크 일정에 맞는 충분한 텍스트가 입력되기를 기다립니다.
예를 들어 청크 일정을 125자로 설정했지만 50자만 도착한 경우, 모델은 추가 문자가 들어올 때까지 대기하므로 지연 시간이 늘어날 수 있습니다.
구현 세부 사항은 텍스트 음성 변환 WebSocket 가이드를 참고하세요.
적절한 음성 선택
일부 경우 음성 선택이 지연 시간에 영향을 줄 수 있음을 확인했습니다. 가장 빠른 순서부터 가장 느린 순서는 다음과 같습니다.
- 기본 음성(이전의 사전 제작 음성), 합성 음성 및 즉석 음성 복제(IVC)
- 프로페셔널 음성 복제(PVC)
더 높은 오디오 품질의 출력 형식은 지연 시간을 늘릴 수 있습니다. 지연 시간 요구 사항과 오디오 충실도 요구 사항의 균형을 맞추세요.
지리적 근접성 고려
ElevenLabs는 지리적 위치에 따라 지연 시간을 최적화하기 위해 여러 리전에서 모델을 제공합니다.
예를 들어 WebSocket과 함께 Flash 모델을 사용할 경우, 위치에 따라 다음과 같은 TTFB 지연 시간을 예상할 수 있습니다.
API 응답의 x-region 헤더를 검사하여 요청을 처리하는 백엔드 리전을 확인할 수 있습니다.
현재 사용되는 리전에는 미국, 네덜란드, 싱가포르가 포함됩니다.
엔터프라이즈 고객은 서버 위치 보장과 낮은 지연 시간을 위해 전용 EU 및 인도 데이터 레지던시 환경을 사용할 수 있습니다. 데이터 레지던시 인프라를 이용하려면 영업 담당자에게 문의하세요.
글로벌 라우팅을 사용하지 않고 항상 미국 서버를 사용하려면 API 요청에 api.us.elevenlabs.io 기본 URL을 사용하세요.
이전에는 api-global-preview.elevenlabs.io 기본 URL을 사용하여 글로벌 서버를 선택할 수 있었습니다.
이제 글로벌 서버 사용이 기본 동작이므로 더 이상 필요하지 않습니다. 애플리케이션을 업데이트하여
대신 api.elevenlabs.io만 사용하세요.