> This is a page from the ElevenLabs documentation. For a complete page index, fetch https://elevenlabs.io/docs/llms.txt. For the full documentation in a single file, fetch https://elevenlabs.io/docs/llms-full.txt.

# Optymalizacja kosztów LLM

## Przegląd

Zarządzanie kosztami inferencji dużych modeli językowych (LLM) jest kluczowe dla tworzenia zrównoważonych aplikacji AI. Ten przewodnik przedstawia najważniejsze sposoby optymalizacji wydatków na platformie ElevenLabs dzięki skutecznemu wykorzystaniu jej funkcji. Szczegółowe informacje o możliwościach modeli i cenach znajdziesz w naszej głównej [dokumentacji LLM](/docs/pl/eleven-agents/customization/llm).

> **Note**
>
> ElevenLabs pomaga obniżać koszty, ograniczając inferencję modeli w okresach ciszy.
> Te okresy są rozliczane według stawki 5% zwykłej stawki za minutę. Więcej informacji znajdziesz na [stronie przeglądowej ElevenAgents ](/docs/pl/eleven-agents/overview#pricing-during-silent-periods).

## Jak rozumieć koszty inferencji

Na koszty inferencji LLM na naszej platformie wpływają głównie:

* **Tokeny wejściowe**: Ilość danych przetwarzanych z promptu, w tym zapytania użytkowników, instrukcje systemowe i dane kontekstowe.
* **Tokeny wyjściowe**: Liczba tokenów wygenerowanych przez LLM w odpowiedzi.
* **Wybór modelu**: Różne LLM mają różne ceny za token. Mocniejsze modele zwykle kosztują więcej.

Monitorowanie użycia w panelu ElevenLabs lub przez API jest kluczowe, by znaleźć obszary, w których można obniżyć koszty. Możesz też oszacować oczekiwany koszt LLM agenta bezpośrednio z Claude lub innego klienta MCP przez [hostowany serwer MCP](/docs/pl/eleven-agents/operate/hosted-mcp), co pomaga porównać modele przed zmianą.

## Strategiczny wybór modelu

Wybór najlepiej dopasowanego LLM to jeden z głównych czynników wpływających na efektywność kosztową.

* **Dobór skali**: Wybierz najmniej złożony (i zwykle tańszy) model, który niezawodnie wykona dane zadanie. Unikaj drogich modeli do prostych operacji. Na przykład modele takie jak `gemini-2.0-flash` od Google oferują bardzo konkurencyjne ceny dla wielu typowych zadań. Zawsze sprawdzaj pełną [listę obsługiwanych LLM](/docs/pl/eleven-agents/customization/llm#supported-llms), by poznać aktualne ceny i możliwości.
* **Testowanie**: Testuj różne modele dla swoich zadań, porównując jakość wyników z kosztami. Weź pod uwagę obsługę języków, potrzebne okno kontekstowe i wyspecjalizowane umiejętności.

## Optymalizacja promptów

Prompt engineering to skuteczna technika ograniczania zużycia tokenów i związanych z nim kosztów. Jasne, zwięzłe i jednoznaczne prompty systemowe pomagają nakierować model na tworzenie bardziej efektywnych odpowiedzi. Usuń powtarzające się sformułowania i zbędny kontekst, które mogą zwiększać liczbę tokenów. Możesz też wprost określić oczekiwaną długość odpowiedzi — na przykład dodać frazy „Ogranicz odpowiedź do dwóch zdań” albo „Podaj krótkie podsumowanie”. Te proste polecenia mogą znacznie zmniejszyć liczbę tokenów wyjściowych, zachowując jakość i trafność generowanej treści.

**Modułowa struktura**: W złożonych przepływach rozmowy wykorzystaj [przekazywanie między agentami](/docs/pl/eleven-agents/customization/tools/system-tools/agent-transfer). Pozwala to podzielić jeden duży prompt systemowy na kilka mniejszych, bardziej wyspecjalizowanych promptów, obsługiwanych przez różnych agentów. Znacznie zmniejsza to liczbę tokenów na interakcję, ponieważ wczytywany jest tylko prompt kontekstowo istotny na obecnym etapie rozmowy, zamiast obszernego promptu przygotowanego na wszystkie możliwości.

## Wykorzystanie bazy wiedzy i wyszukiwania

W aplikacjach wymagających dostępu do dużych ilości informacji kluczowe są Retrieval Augmented Generation (RAG) i dobrze utrzymana baza wiedzy.

* **Wydajny RAG**:
  * RAG ogranicza liczbę tokenów wejściowych, przekazując LLM tylko istotne fragmenty z Twojej [Bazy wiedzy](/docs/pl/eleven-agents/customization/knowledge-base), zamiast umieszczać w prompcie rozległe dane.
  * Zoptymalizuj mechanizm wyszukiwania, by pobierał tylko najbardziej trafne „fragmenty” informacji.
  * Dostosuj rozmiar i nakładanie się fragmentów, by zachować równowagę między kontekstem a liczbą tokenów.
  * Dowiedz się więcej o wdrażaniu [RAG](/docs/pl/eleven-agents/customization/knowledge-base/rag).
* **Rozmiar kontekstu**:
  * Upewnij się, że Twoja [Baza wiedzy](/docs/pl/eleven-agents/customization/knowledge-base) zawiera dokładne, aktualne i istotne informacje.
  * Dobrze uporządkowana treść zwiększa precyzję wyszukiwania i ogranicza użycie tokenów na nieistotny kontekst.

## Inteligentne użycie narzędzi

Korzystanie z [narzędzi webhook](/docs/pl/eleven-agents/customization/tools/webhook-tools) pozwala LLM delegować zadania do zewnętrznych API lub własnego kodu, co może być bardziej opłacalne.

* **Delegowanie zadań**: Zidentyfikuj zadania deterministyczne, wymagające danych w czasie rzeczywistym, złożonych obliczeń lub interakcji z API (np. wyszukiwanie w bazie danych, wywołania zewnętrznych usług).
* **Orkiestracja**: LLM działa jako orkiestrator i wykonuje ustrukturyzowane wywołania narzędzi. Często jest to znacznie oszczędniejsze pod względem tokenów niż próby realizacji złożonych zadań wyłącznie za pomocą promptów.
* **Opisy narzędzi**: Zapewnij jasne, zwięzłe opisy każdego narzędzia, aby LLM używał ich sprawnie i dokładnie.

## Lista kontrolna

Rozważ zastosowanie tych technik, aby obniżyć koszty:

| Funkcja               | Wpływ na koszty                                                    | Działania                                                                                                                                                                            |
| :-------------------- | :----------------------------------------------------------------- | :----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- |
| Wybór LLM             | Obniża koszt za token                                              | Wybierz najmniejszy, najbardziej ekonomiczny model, który niezawodnie wykonuje zadanie. Testuj i porównuj koszt z jakością.                                                          |
| Własne LLM            | Potencjalnie niższy koszt inferencji dla specjalistycznych zadań   | Oceń przy dużej skali i konkretnych zadaniach; dostrój na własnych danych, by tworzyć mniejsze, wydajne modele.                                                                      |
| Prompty systemowe     | Ogranicza tokeny wejściowe i wyjściowe, kieruje zachowaniem modelu | Bądź zwięzły, jasny i konkretny. Określ oczekiwany format i długość odpowiedzi (np. „krótko”, „użyj JSON”).                                                                          |
| Prompty użytkownika   | Ogranicza tokeny wejściowe                                         | Zachęcaj do konkretnych zapytań; strategicznie używaj przykładów few-shot; podsumowuj lub wybieraj istotną historię.                                                                 |
| Kontrola odpowiedzi   | Ogranicza tokeny wyjściowe                                         | Proś o podsumowania lub kluczowe informacje; ostrożnie używaj `max_tokens`; iteruj prompty, by uzyskać naturalną zwięzłość.                                                          |
| RAG                   | Ogranicza tokeny wejściowe, unikając dużego kontekstu w prompcie   | Zoptymalizuj wyszukiwanie pod kątem trafności; dostosuj rozmiar/nakładanie fragmentów; zapewnij wysokiej jakości embeddingi i algorytmy wyszukiwania.                                |
| Baza wiedzy           | Zwiększa wydajność RAG, ograniczając nieistotne tokeny             | Regularnie ją porządkuj; usuwaj nieaktualne informacje; zadbaj o dobrą strukturę, metadane i tagowanie dla precyzyjnego wyszukiwania.                                                |
| Narzędzia (funkcje)   | Unika wywołań LLM dla konkretnych zadań; ogranicza tokeny          | Deleguj do narzędzi zadania deterministyczne, wymagające obliczeń lub zewnętrznego API. Twórz dla LLM jasne opisy narzędzi.                                                          |
| Przekazywanie agentów | Pozwala używać tańszych modeli do prostszych części zadań          | Używaj prostszych/tańszych agentów do wstępnej kwalifikacji i FAQ; przekazuj sprawę bardziej zaawansowanym agentom tylko w razie potrzeby; dziel duże prompty między różnych agentów |

> **Zarządzanie historią rozmowy**
>
> W rozmowach ze stanem zamiast przekazywać wiele transkrypcji rozmów w prompcie systemowym,
> wdroż podsumowywanie historii lub techniki przesuwnego okna, aby zachować lekki kontekst.
> To może być szczególnie skuteczne w aplikacjach konsumenckich i często można tym
> zarządzać po otrzymaniu webhooka po rozmowie.

> **Tip**
>
> Stale monitoruj użycie i koszty LLM. Regularnie sprawdzaj i ulepszaj prompty, konfiguracje RAG
> oraz integracje narzędzi, aby utrzymać opłacalność.