Modellen

ElevenAgents biedt een uniforme interface om je agent te verbinden met meerdere modellen en providers, voor flexibiliteit, betrouwbaarheid en kostenoptimalisatie.

Belangrijkste functies

• Uniforme toegang: Wissel tussen providers en modellen met minimale codewijzigingen
• Hoge betrouwbaarheid: Schakel automatisch van de ene provider naar de andere als er een uitvalt
• Uitgavenmonitoring: Monitor je uitgaven voor verschillende modellen

Ondersteunde modellen

Momenteel worden de volgende modellen standaard ondersteund en kun je ze configureren via de agentinstellingen:

Aangepaste LLM

Je kunt je eigen aangepaste LLM gebruiken door het endpoint op te geven waarnaar we requests moeten sturen en inloggegevens beschikbaar te stellen via onze beveiligde opslag voor geheimen. Lees meer over integratie van aangepaste LLM’s.

Een model kiezen

Bij het kiezen van de meest geschikte LLM voor je applicatie moet je rekening houden met verschillende factoren:

• Complexiteit van de taak: Evalueer modellen aan de hand van representatieve taken uit je applicatie
• Latentievereisten: Kies voor live spraakgesprekken een model met lage latentie en meet de responstijd met je prompts en tools
• Grootte van het contextvenster: Als je applicatie informatie uit lange gesprekken of uitgebreide documenten moet verwerken, begrijpen of onthouden, kies dan modellen met grotere contextvensters
• Kosteneffectiviteit: Weeg de gewenste prestaties en functies af tegen je budget. LLM-prijzen kunnen sterk verschillen, dus analyseer de prijsstructuur (input-, output- en cachetokens) in relatie tot je verwachte gebruikspatronen
• HIPAA-naleving: Als je applicatie Protected Health Information (PHI) bevat, is het cruciaal om een LLM te gebruiken die als HIPAA-compliant is aangemerkt en ervoor te zorgen dat je volledige gegevensverwerkingsproces aan de wettelijke normen voldoet

Modelconfiguratie

Temperature

Temperature bepaalt de willekeurigheid van modelreacties. Lagere waarden leveren consistentere, gerichtere output op, terwijl hogere waarden de creativiteit en variatie vergroten.

• Laag (0.0-0.3): Deterministische, consistente reacties voor gestructureerde interacties
• Gemiddeld (0.4-0.7): Evenwicht tussen creativiteit en consistentie
• Hoog (0.8-1.0): Creatieve, gevarieerde reacties voor dynamische gesprekken

Configuratie van back-up-LLM’s

Configureer back-up-LLM’s om de continuïteit van gesprekken te waarborgen wanneer de primaire LLM uitvalt of niet beschikbaar is.

Configuratieopties:

• Standaard: Gebruikt de aanbevolen fallbackreeks van ElevenLabs
• Aangepast: Definieer je eigen trapsgewijze reeks back-upmodellen
• Uitgeschakeld: Geen fallback (sterk afgeraden voor productie)

Lees meer over LLM-cascadering.

Redeneren

Redeneren helpt agents complexe beslissingen te nemen, zoals kiezen tussen tools, beleid toepassen of workflows met meerdere stappen uitvoeren. Afhankelijk van het model bepaal je met een denkbudget of een niveau voor redeneerinspanning hoeveel redenering het uitvoert.

Denkbudget

Stel met de numerieke schuifregelaar het maximale aantal redeneertokens in. Grotere budgetten kunnen de responstijd verhogen. Stel het budget in op 0 om denken uit te schakelen wanneer het model dat toestaat.

Redeneerinspanning

Redeneerinspanning bepaalt hoeveel redenering het model uitvoert voordat het antwoordt. De beschikbare niveaus hangen af van het geselecteerde model.

Samenvatting van redenering

Schakel Samenvatting van redenering in om de door het model geretourneerde redenering vast te leggen tijdens het debuggen van reacties, toolcalls of workflowpaden. Schakel Samenvatting van redenering in bij de LLM-instellingen van de agent, of stel enable_reasoning_summary in via de API. De instelling staat standaard uit.

Voor aangepaste endpoints lees je hoe ElevenLabs redenering opvraagt en opslaat.

Redeneringsinhoud valt onder de instellingen voor retentie en PII-redactie. Je hebt er toegang toe via de volgende kanalen:

Beperkingen

• Het opvragen van een samenvatting van redenering kan de responslatentie verhogen. Test dit voordat je het inschakelt voor spraakagents die gevoelig zijn voor latentie.
• Providers kunnen een samenvatting, gedachtetekst, onbewerkte redeneer-delta’s of geen weer te geven inhoud retourneren.

Prijzen begrijpen

• Tokens: LLM-gebruik wordt doorgaans gefactureerd op basis van het aantal verwerkte tokens. Als algemene richtlijn geldt voor Engelse tekst dat 100 tokens ongeveer overeenkomen met 75 woorden
• Prijzen voor input versus output: Providers hanteren vaak verschillende prijzen voor inputtokens (de data die je naar het model stuurt) en outputtokens (de data die het model als reactie genereert)
• Cacheprijzen:
  • input_cache_read: Dit verwijst naar de kosten voor het ophalen van eerder verwerkte inputdata uit een cache. Het gebruik van gecachte data kan kosten besparen als identieke input meerdere keren wordt verwerkt
  • input_cache_write: Dit zijn de kosten voor het opslaan van inputdata in een cache. Sommige LLM-providers kunnen hiervoor kosten in rekening brengen
• De prijzen in dit document gelden per 1 miljoen tokens en zijn gebaseerd op de informatie die beschikbaar was op het moment van schrijven. Deze prijzen kunnen door de LLM-providers worden gewijzigd
• Doorberekende prijzen: ElevenLabs berekent LLM-kosten van derden door tegen het door de provider gepubliceerde tarief, zonder opslag. Bepaalde Gemini- en Claude-modellen volgen de regionale (niet-globale) prijzen van Vertex AI, die gelden voor verkeer uit de VS en de EU — een verhoging van 10% voor input-, output- en cachetokens, in overeenstemming met de regionale Vertex-tarieven

Raadpleeg de documentatie van de provider voor actuele modelmogelijkheden, prijzen en servicevoorwaarden.

HIPAA-naleving

Bepaalde LLM’s die beschikbaar zijn op ons platform kunnen geschikt zijn voor gebruik in omgevingen die HIPAA-naleving vereisen. Bekijk de documentatie over HIPAA-naleving voor meer informatie.

Gerelateerde bronnen

• Integratie van aangepaste LLM’s
• LLM-cascadering
• Kosten optimaliseren

Modellen gehost door ElevenLabs

ElevenLabs biedt toegang tot verschillende AI-modellen, waaronder geselecteerde modellen van derden die door ElevenLabs worden gehost.

Wanneer een model is aangeduid als “Hosted by ElevenLabs”, wordt het model geïmplementeerd en beheerd op infrastructuur die door ElevenLabs wordt beheerd. Deze modellen worden momenteel gehost in de Verenigde Staten of in de regio van je enterprise-implementatie.

Modellen herkennen die door ElevenLabs worden gehost

Modellen die door ElevenLabs worden gehost, zijn duidelijk gelabeld in de ElevenLabs-interface. Let op de aanduiding “Hosted by ElevenLabs” wanneer je modellen bekijkt of selecteert.

Hoe je data wordt verwerkt

Voor modellen die door ElevenLabs worden gehost, worden requests verwerkt binnen de infrastructuur die ElevenLabs beheert. Dit betekent dat de oorspronkelijke modelprovider de via ElevenLabs ingediende input en output niet ontvangt, opent of verwerkt.

Door deze modellen te hosten, kan ElevenLabs een consistente ervaring bieden en tegelijkertijd de controle behouden over de infrastructuur die wordt gebruikt om modelrequests af te handelen.

Veelgestelde vragen

Waar worden zelfgehoste modellen gehost?

Modellen die door ElevenLabs worden gehost, worden momenteel gehost op infrastructuur in de Verenigde Staten of in de regio van je enterprise-implementatie.

Heeft de oorspronkelijke modelprovider toegang tot mijn data of metadata over mijn gebruik?

Voor modellen die door ElevenLabs worden gehost, ontvangt de oorspronkelijke ontwikkelaar van het model nooit je input of output en heeft deze geen toegang tot de data over de implementatie die deze verwerkt.

Hoe weet ik of een model Hosted by ElevenLabs is?

Modellen die door ElevenLabs worden gehost, zijn in de ElevenLabs-interface duidelijk herkenbaar aan de aanduiding “Hosted by ElevenLabs”.