Scopo: terminare automaticamente le conversazioni quando vengono soddisfatte le condizioni appropriate.

Condizioni di attivazione: l’LLM deve chiamare questo strumento quando:

• L’attività principale è stata completata e l’utente è soddisfatto
• La conversazione ha raggiunto una conclusione naturale con accordo reciproco
• L’utente indica esplicitamente di voler terminare la conversazione

Parametri:

• reason (stringa, obbligatorio): il motivo per terminare la chiamata
• message (stringa, facoltativo): un messaggio di saluto da inviare all’utente prima di terminare la chiamata

Formato della chiamata di funzione:

{
  "type": "function",
  "function": {
    "name": "end_call",
    "arguments": "{\"reason\": \"Task completed successfully\", \"message\": \"Thank you for using our service. Have a great day!\"}"
  }
}

Implementazione: configura lo strumento di sistema nelle impostazioni dell’agente. L’LLM riceverà istruzioni dettagliate su quando chiamare questa funzione.

Scopri di più: Strumento Termina chiamata

Scopo: passare automaticamente alla lingua rilevata dell’utente durante le conversazioni.

Condizioni di attivazione: l’LLM deve chiamare questo strumento quando:

• L’utente parla una lingua diversa da quella della conversazione corrente
• L’utente richiede esplicitamente di cambiare lingua
• La conversazione richiede il supporto multilingue

Parametri:

• reason (stringa, obbligatorio): il motivo del cambio di lingua
• language (stringa, obbligatorio): il codice della lingua a cui passare (deve essere nell’elenco delle lingue supportate)

Formato della chiamata di funzione:

{
  "type": "function",
  "function": {
    "name": "language_detection",
    "arguments": "{\"reason\": \"User requested Spanish\", \"language\": \"es\"}"
  }
}

Implementazione: configura le lingue supportate nelle impostazioni dell’agente e aggiungi lo strumento di sistema per il rilevamento della lingua. L’agente cambierà automaticamente voce e risposte in base alle lingue rilevate.

Scopri di più: Strumento di rilevamento della lingua

Scopo: trasferire le conversazioni tra agenti IA specializzati in base alle esigenze dell’utente.

Condizioni di attivazione: l’LLM deve chiamare questo strumento quando:

• La richiesta dell’utente richiede conoscenze specialistiche o funzionalità di un agente diverso
• L’agente corrente non è in grado di gestire adeguatamente la richiesta
• Il flusso della conversazione indica la necessità di un tipo di agente diverso

Parametri:

• reason (stringa, facoltativo): il motivo del trasferimento dell’agente
• agent_number (intero, obbligatorio): numero con indice a partire da zero dell’agente a cui trasferire la conversazione (in base alle regole di trasferimento configurate)

Formato della chiamata di funzione:

{
  "type": "function",
  "function": {
    "name": "transfer_to_agent",
    "arguments": "{\"reason\": \"User needs billing support\", \"agent_number\": 0}"
  }
}

Implementazione: definisci regole di trasferimento che associno le condizioni a ID agente specifici. Configura gli agenti a cui l’agente corrente può trasferire la conversazione. Nella configurazione di trasferimento, gli agenti sono indicati da numeri con indice a partire da zero.

Scopri di più: Strumento di trasferimento dell’agente

Scopo: passare senza interruzioni le conversazioni a operatori umani quando l’assistenza IA non è sufficiente.

Condizioni di attivazione: l’LLM deve chiamare questo strumento quando:

• Ci sono problemi complessi che richiedono il giudizio umano
• L’utente richiede esplicitamente assistenza umana
• L’IA raggiunge i limiti delle sue capacità per la richiesta specifica
• Vengono attivati i protocolli di escalation

Parametri:

• reason (stringa, facoltativo): il motivo del trasferimento
• transfer_number (stringa, obbligatorio): il numero di telefono a cui trasferire la chiamata (deve corrispondere ai numeri configurati)
• client_message (stringa, obbligatorio): messaggio letto al cliente durante l’attesa del trasferimento
• agent_message (stringa, obbligatorio): messaggio per l’operatore umano che riceve la chiamata

Formato della chiamata di funzione:

{
  "type": "function",
  "function": {
    "name": "transfer_to_number",
    "arguments": "{\"reason\": \"Complex billing issue\", \"transfer_number\": \"+15551234567\", \"client_message\": \"I'm transferring you to a billing specialist who can help with your account.\", \"agent_message\": \"Customer has a complex billing dispute about order #12345 from last month.\"}"
  }
}

Implementazione: configura i numeri di telefono e le condizioni di trasferimento. Definisci i messaggi sia per il cliente sia per l’operatore umano che riceve la chiamata. Funziona sia con Twilio sia con SIP trunking.

Scopri di più: Strumento di trasferimento a un operatore

Scopo: consentire all’agente di fare una pausa e attendere l’input dell’utente senza parlare.

Condizioni di attivazione: l’LLM deve chiamare questo strumento quando:

• L’utente indica di aver bisogno di un momento (“Dammi un secondo”, “Fammi pensare”)
• L’utente richiede una pausa nel flusso della conversazione
• L’agente rileva che l’utente ha bisogno di tempo per elaborare le informazioni

Parametri:

• reason (stringa, facoltativo): motivo in formato libero che spiega perché è necessaria la pausa

Formato della chiamata di funzione:

{
  "type": "function",
  "function": {
    "name": "skip_turn",
    "arguments": "{\"reason\": \"User requested time to think\"}"
  }
}

Implementazione: non è necessaria alcuna configurazione aggiuntiva. Lo strumento segnala semplicemente all’agente di rimanere in silenzio finché l’utente non parla di nuovo.

Scopri di più: Strumento Salta turno

Parametri:

• reason (stringa, obbligatorio): il motivo del rilevamento della segreteria telefonica (ad esempio, “rilevato messaggio di benvenuto automatico”, “nessuna risposta umana”)

Formato della chiamata di funzione:

{
  "type": "function",
  "function": {
    "name": "voicemail_detection",
    "arguments": "{\"reason\": \"Automated greeting detected with request to leave message\"}"
  }
}

Scopri di più: Strumento di rilevamento della segreteria telefonica

Puoi passare parametri aggiuntivi alla tua implementazione LLM personalizzata.

from elevenlabs.conversational_ai.conversation import Conversation, ConversationInitiationData
extra_body_for_convai = {
    "UUID": "123e4567-e89b-12d3-a456-426614174000",
    "parameter-1": "value-1",
    "parameter-2": "value-2",
}
config = ConversationInitiationData(
    extra_body=extra_body_for_convai,
)

import json
import os
import fastapi
from fastapi.responses import StreamingResponse
from fastapi import Request
from openai import AsyncOpenAI
import uvicorn
import logging
from dotenv import load_dotenv
from pydantic import BaseModel
from typing import List, Optional
# Load environment variables from .env file
load_dotenv()
# Retrieve API key from environment
OPENAI_API_KEY = os.getenv('OPENAI_API_KEY')
if not OPENAI_API_KEY:
    raise ValueError("OPENAI_API_KEY not found in environment variables")
app = fastapi.FastAPI()
oai_client = AsyncOpenAI(api_key=OPENAI_API_KEY)
class Message(BaseModel):
    role: str
    content: str
class ChatCompletionRequest(BaseModel):
    messages: List[Message]
    model: str
    temperature: Optional[float] = 0.7
    max_tokens: Optional[int] = None
    stream: Optional[bool] = False
    user_id: Optional[str] = None
    elevenlabs_extra_body: Optional[dict] = None
@app.post("/v1/chat/completions")
async def create_chat_completion(request: ChatCompletionRequest) -> StreamingResponse:
    oai_request = request.dict(exclude_none=True)
    print(oai_request)
    if "user_id" in oai_request:
        oai_request["user"] = oai_request.pop("user_id")
    if "elevenlabs_extra_body" in oai_request:
        oai_request.pop("elevenlabs_extra_body")
    chat_completion_coroutine = await oai_client.chat.completions.create(**oai_request)
    async def event_stream():
        try:
            async for chunk in chat_completion_coroutine:
                chunk_dict = chunk.model_dump()
                yield f"data: {json.dumps(chunk_dict)}\n\n"
            yield "data: [DONE]\n\n"
        except Exception as e:
            logging.error("An error occurred: %s", str(e))
            yield f"data: {json.dumps({'error': 'Internal error occurred!'})}\n\n"
    return StreamingResponse(event_stream(), media_type="text/event-stream")
if __name__ == "__main__":
    uvicorn.run(app, host="0.0.0.0", port=8013)

{
  "messages": [
    {
      "role": "system",
      "content": "\n  <Redacted>"
    },
    {
      "role": "assistant",
      "content": "Hey I'm currently unavailable."
    },
    {
      "role": "user",
      "content": "Hey, who are you?"
    }
  ],
  "model": "gpt-4o",
  "temperature": 0.5,
  "max_tokens": 5000,
  "stream": true,
  "elevenlabs_extra_body": {
    "UUID": "123e4567-e89b-12d3-a456-426614174000",
    "parameter-1": "value-1",
    "parameter-2": "value-2"
  }
}