Realtidsmodeller
Använd ElevenLabs-modeller som är byggda för röstagenter med låg latens.
Översikt
En Realtime-modell är en ElevenLabs-modell byggd för röstsamtal med låg latens och tillgänglig för röstagenter.
Varje röstagent har ett röstläge: Custom eller Realtime. I Custom-läget väljer du själv LLM, TTS-modell och ASR-inställningar, enligt beskrivningen i Modeller. I Realtime-läget väljer du en Realtime-modell, och ElevenLabs hanterar de inställningarna åt dig.
Två Realtime-modeller är tillgängliga:
Agentens systemprompt, röst, verktyg, kunskapsbas och turinställningar fungerar på samma sätt i båda lägena.
Kommer du från ett annat realtime-API, som SpaceXAI eller OpenAI? Realtime- API:t är ett snabbare sätt att testa Realtime-modeller: peka din befintliga klient mot ElevenLabs och behåll händelserna du redan använder.
Realtime-modeller lanseras gradvis. Om inställningen Röstläge inte visas på agentens
flik Agent är Realtime-modeller ännu inte tillgängliga för din workspace, och API:t
avvisar realtime_model med felet Realtime models are not available for this workspace.
Välja röstläge
Behåll agenten i Custom-läget om något av följande gäller:
- Agenten använder en anpassad LLM, Amazon Bedrock eller Speech Engine.
- Agenten behöver en specifik LLM- eller TTS-modell.
- Workflow-noder åsidosätter LLM, TTS-modell eller någon annan hanterad inställning.
- Agenten överför till eller från agenter i Custom-läget.
- Agenten är endast textbaserad. Realtime-modeller är byggda för röstsamtal.
I annat fall börjar du med Eleven Realtime v1 Mini. Välj i stället Eleven Realtime v1 Max när:
- Agenten följer långa eller komplexa instruktioner, eller förlitar sig på verktygsanrop i flera steg, och Minis svar inte är tillräckligt bra.
- Agenten måste uppfylla Zero Retention Mode eller HIPAA i USA eller EU. Mini är inte tillgänglig för något av dessa.
Max är inte tillgänglig i miljöerna för dataresidens i Indien och Singapore, och den kräver en tokenbegränsning på minst 1 024 eller ingen begränsning. Se Begränsningar och Efterlevnad och dataresidens.
Konfiguration
Uppdatera via dashboarden
Uppdatera via CLI
Uppdatera via API:t
Publicera
Publicera dina ändringar. Publiceringen misslyckas om agenten bryter mot någon av reglerna i Begränsningar.
Om du vill stänga av Realtime ställer du in Röstläge på Custom och publicerar. Agenten återgår till de LLM-, TTS-modell- och ASR-inställningar som är sparade på den.
Hanterade inställningar
När en Realtime-modell är inställd hanterar ElevenLabs följande inställningar, och agenten ignorerar de sparade värdena för dem. De sparade värdena används igen när du växlar till Custom.
Tokenbegränsningen (agent.prompt.max_tokens) behåller sitt sparade värde, men workflow-noder kan inte åsidosätta den och Eleven Realtime v1 Max kräver ett minimivärde. Se Begränsningar.
Om du vill ändra någon av dessa inställningar växlar du agenten till Custom.
Inställningar som fortfarande gäller
Alla andra agentinställningar fungerar som i Custom-läget, inklusive:
- systemprompten och det första meddelandet
- rösten, inklusive stöd för flera röster
- språk
- temperatur
- verktyg och kunskapsbasen
- inställningar för konversationsflöde, till exempel turbenägenhet, timeouter och avbrott
Dashboarden döljer LLM-inställningarna, inklusive temperatur, medan agenten är i Realtime-läget. Använd CLI:t eller API:t för att ändra temperaturen för en Realtime-agent.
Om Realtime-modellen inte svarar i tid eller returnerar ett fel återgår agenten till reserv-LLM:er enligt beskrivningen i LLM-kaskadering. Realtime-modellen bestämmer hur länge agenten väntar innan den återgår.
Begränsningar
ElevenLabs kontrollerar dessa regler när du publicerar agenten. Ett utkast som bryter mot någon av dem sparas fortfarande, men publiceringen misslyckas med ett fel som anger inställningen som behöver ändras.
- Endast ElevenAgents-agenter: Agenter som skapats genom andra ElevenLabs-produkter, som Speech Engine, kan inte använda en Realtime-modell.
- Ingen anpassad LLM: Realtime-läget är inte tillgängligt när agentens LLM är en anpassad LLM eller Amazon Bedrock. Välj en inbyggd LLM i Custom-läget innan du växlar.
- Inga workflow-åsidosättningar av hanterade inställningar: En workflow-nod kan inte åsidosätta någon hanterad inställning eller tokenbegränsningen. Ta bort åsidosättningen eller behåll agenten i Custom-läget.
- Tokenbegränsning för Max: Eleven Realtime v1 Max behöver en tokenbegränsning på 1 024 eller mer, eller ingen begränsning.
- Överföringar mellan lägen: En agent i Realtime-läget kan bara överföra till och från andra agenter i Realtime-läget. Överföringar mellan Mini- och Max-agenter stöds.
Publiceringen kontrollerar endast de överföringar som den publicerade agenten gör. En överföring till en Realtime-agent från en agent i Custom-läget upptäcks först när agenten i Custom-läget publiceras nästa gång; fram till dess avvisas överföringen under samtalet och den aktuella agenten stannar kvar i samtalet.
Överföringsfel lyder Transfers between default and Realtime model modes are not supported., där “default” betyder Custom-läget.
Efterlevnad och dataresidens
Realtime-modeller följer samma regler för Zero Retention Mode, HIPAA och dataresidens som andra modeller. Tillgängligheten skiljer sig mellan Mini och Max:
Zero Retention Mode gäller oavsett om det tillämpas för workspacen eller är aktiverat för agenten.
Om en Realtime-modell inte är tillgänglig enligt agentens inställningar för efterlevnad eller dataresidens avvisar ElevenLabs den med ett fel som anger modellens namn. Välj den andra Realtime-modellen eller växla till Custom.
Priser
En Realtime-agent faktureras enligt standardpriset per minut för ElevenAgents, plus dess token för indata, cachade indata och utdata enligt Realtime-modellens priser. Eleven Realtime v1 Max kostar mer per token än Eleven Realtime v1 Mini. Aktuella priser finns på ElevenLabs prissida.