Cel: Automatyczne kończenie rozmów, gdy zostaną spełnione odpowiednie warunki.

Warunki uruchomienia: LLM powinien wywołać to narzędzie, gdy:

• Główne zadanie zostało ukończone, a użytkownik jest zadowolony
• Rozmowa dobiegła naturalnego końca za obopólną zgodą
• Użytkownik wyraźnie wskazuje, że chce zakończyć rozmowę

Parametry:

• reason (ciąg znaków, wymagany): Powód zakończenia rozmowy
• message (ciąg znaków, opcjonalny): Wiadomość pożegnalna wysyłana użytkownikowi przed zakończeniem rozmowy

Format wywołania funkcji:

{
  "type": "function",
  "function": {
    "name": "end_call",
    "arguments": "{\"reason\": \"Task completed successfully\", \"message\": \"Thank you for using our service. Have a great day!\"}"
  }
}

Implementacja: Skonfiguruj jako narzędzie systemowe w ustawieniach agenta. LLM otrzyma szczegółowe instrukcje, kiedy wywołać tę funkcję.

Dowiedz się więcej: Narzędzie zakończenia rozmowy

Cel: Automatyczne przełączanie na wykryty język użytkownika podczas rozmów.

Warunki uruchomienia: LLM powinien wywołać to narzędzie, gdy:

• Użytkownik mówi w języku innym niż obecny język rozmowy
• Użytkownik wyraźnie prosi o zmianę języka
• Rozmowa wymaga obsługi wielu języków

Parametry:

• reason (ciąg znaków, wymagany): Powód zmiany języka
• language (ciąg znaków, wymagany): Kod języka, na który należy przełączyć (musi być na liście obsługiwanych języków)

Format wywołania funkcji:

{
  "type": "function",
  "function": {
    "name": "language_detection",
    "arguments": "{\"reason\": \"User requested Spanish\", \"language\": \"es\"}"
  }
}

Implementacja: Skonfiguruj obsługiwane języki w ustawieniach agenta i dodaj narzędzie systemowe wykrywania języka. Agent automatycznie dopasuje głos i odpowiedzi do wykrytego języka.

Dowiedz się więcej: Narzędzie wykrywania języka

Cel: Przekazywanie rozmów między wyspecjalizowanymi agentami AI zależnie od potrzeb użytkownika.

Warunki uruchomienia: LLM powinien wywołać to narzędzie, gdy:

• Prośba użytkownika wymaga specjalistycznej wiedzy lub innych możliwości agenta
• Obecny agent nie może odpowiednio obsłużyć zapytania
• Przebieg rozmowy wskazuje na potrzebę innego typu agenta

Parametry:

• reason (ciąg znaków, opcjonalny): Powód przekazania do agenta
• agent_number (liczba całkowita, wymagany): Numer indeksowany od zera agenta, do którego należy przekazać rozmowę (na podstawie skonfigurowanych reguł przekazywania)

Format wywołania funkcji:

{
  "type": "function",
  "function": {
    "name": "transfer_to_agent",
    "arguments": "{\"reason\": \"User needs billing support\", \"agent_number\": 0}"
  }
}

Implementacja: Zdefiniuj reguły przekazywania, które mapują warunki na konkretne identyfikatory agentów. Skonfiguruj, do których agentów może przekazywać rozmowy bieżący agent. Agenci są oznaczani numerami indeksowanymi od zera w konfiguracji przekazywania.

Dowiedz się więcej: Narzędzie przekazywania do agenta

Cel: Płynne przekazywanie rozmów do ludzkich operatorów, gdy pomoc AI nie wystarcza.

Warunki uruchomienia: LLM powinien wywołać to narzędzie, gdy:

• Występują złożone problemy wymagające ludzkiego osądu
• Użytkownik wyraźnie prosi o pomoc człowieka
• AI osiąga granice swoich możliwości w danym zapytaniu
• Zostają uruchomione procedury eskalacji

Parametry:

• reason (ciąg znaków, opcjonalny): Powód przekazania
• transfer_number (ciąg znaków, wymagany): Numer telefonu, na który należy przekazać rozmowę (musi odpowiadać skonfigurowanym numerom)
• client_message (ciąg znaków, wymagany): Komunikat odczytywany klientowi podczas oczekiwania na przekazanie
• agent_message (ciąg znaków, wymagany): Komunikat dla ludzkiego operatora odbierającego rozmowę

Format wywołania funkcji:

{
  "type": "function",
  "function": {
    "name": "transfer_to_number",
    "arguments": "{\"reason\": \"Complex billing issue\", \"transfer_number\": \"+15551234567\", \"client_message\": \"I'm transferring you to a billing specialist who can help with your account.\", \"agent_message\": \"Customer has a complex billing dispute about order #12345 from last month.\"}"
  }
}

Implementacja: Skonfiguruj numery telefonów i warunki przekazywania. Zdefiniuj komunikaty zarówno dla klienta, jak i odbierającego rozmowę operatora. Działa z Twilio i SIP trunkingiem.

Dowiedz się więcej: Narzędzie przekazywania do człowieka

Cel: Pozwala agentowi zrobić pauzę i czekać na dane od użytkownika bez mówienia.

Warunki uruchomienia: LLM powinien wywołać to narzędzie, gdy:

• Użytkownik wskazuje, że potrzebuje chwili („Daj mi sekundę”, „Muszę pomyśleć”)
• Użytkownik prosi o przerwę w rozmowie
• Agent wykrywa, że użytkownik potrzebuje czasu na przetworzenie informacji

Parametry:

• reason (ciąg znaków, opcjonalny): Dowolny powód wyjaśniający, dlaczego potrzebna jest pauza

Format wywołania funkcji:

{
  "type": "function",
  "function": {
    "name": "skip_turn",
    "arguments": "{\"reason\": \"User requested time to think\"}"
  }
}

Implementacja: Nie wymaga dodatkowej konfiguracji. Narzędzie po prostu sygnalizuje agentowi, aby zachował ciszę, dopóki użytkownik nie odezwie się ponownie.

Dowiedz się więcej: Narzędzie pomijania tury

Parametry:

• reason (string, wymagany): Powód wykrycia poczty głosowej (np. „wykryto automatyczne powitanie”, „brak odpowiedzi człowieka”)

Format wywołania funkcji:

{
  "type": "function",
  "function": {
    "name": "voicemail_detection",
    "arguments": "{\"reason\": \"Automated greeting detected with request to leave message\"}"
  }
}

Dowiedz się więcej: Narzędzie wykrywania poczty głosowej

Możesz przekazać dodatkowe parametry do implementacji własnego LLM-a.

from elevenlabs.conversational_ai.conversation import Conversation, ConversationInitiationData
extra_body_for_convai = {
    "UUID": "123e4567-e89b-12d3-a456-426614174000",
    "parameter-1": "value-1",
    "parameter-2": "value-2",
}
config = ConversationInitiationData(
    extra_body=extra_body_for_convai,
)

import json
import os
import fastapi
from fastapi.responses import StreamingResponse
from fastapi import Request
from openai import AsyncOpenAI
import uvicorn
import logging
from dotenv import load_dotenv
from pydantic import BaseModel
from typing import List, Optional
# Load environment variables from .env file
load_dotenv()
# Retrieve API key from environment
OPENAI_API_KEY = os.getenv('OPENAI_API_KEY')
if not OPENAI_API_KEY:
    raise ValueError("OPENAI_API_KEY not found in environment variables")
app = fastapi.FastAPI()
oai_client = AsyncOpenAI(api_key=OPENAI_API_KEY)
class Message(BaseModel):
    role: str
    content: str
class ChatCompletionRequest(BaseModel):
    messages: List[Message]
    model: str
    temperature: Optional[float] = 0.7
    max_tokens: Optional[int] = None
    stream: Optional[bool] = False
    user_id: Optional[str] = None
    elevenlabs_extra_body: Optional[dict] = None
@app.post("/v1/chat/completions")
async def create_chat_completion(request: ChatCompletionRequest) -> StreamingResponse:
    oai_request = request.dict(exclude_none=True)
    print(oai_request)
    if "user_id" in oai_request:
        oai_request["user"] = oai_request.pop("user_id")
    if "elevenlabs_extra_body" in oai_request:
        oai_request.pop("elevenlabs_extra_body")
    chat_completion_coroutine = await oai_client.chat.completions.create(**oai_request)
    async def event_stream():
        try:
            async for chunk in chat_completion_coroutine:
                chunk_dict = chunk.model_dump()
                yield f"data: {json.dumps(chunk_dict)}\n\n"
            yield "data: [DONE]\n\n"
        except Exception as e:
            logging.error("An error occurred: %s", str(e))
            yield f"data: {json.dumps({'error': 'Internal error occurred!'})}\n\n"
    return StreamingResponse(event_stream(), media_type="text/event-stream")
if __name__ == "__main__":
    uvicorn.run(app, host="0.0.0.0", port=8013)

{
  "messages": [
    {
      "role": "system",
      "content": "\n  <Redacted>"
    },
    {
      "role": "assistant",
      "content": "Hey I'm currently unavailable."
    },
    {
      "role": "user",
      "content": "Hey, who are you?"
    }
  ],
  "model": "gpt-4o",
  "temperature": 0.5,
  "max_tokens": 5000,
  "stream": true,
  "elevenlabs_extra_body": {
    "UUID": "123e4567-e89b-12d3-a456-426614174000",
    "parameter-1": "value-1",
    "parameter-2": "value-2"
  }
}