Groq Cloud

Połącz agenta z własnym LLM w Groq Cloud.

Omówienie

Groq Cloud zapewnia łatwy dostęp do szybkiego wnioskowania AI i endpointów API zgodnych z OpenAI — w kilku kliknięciach.

W kilku prostych krokach użyj czołowych publicznie dostępnych modeli, takich jak Llama, Mixtral i Gemma, jako mózgu swoich agentów ElevenLabs.

Wybór modelu

Aby w pełni wykorzystać możliwości agentów ElevenLabs, potrzebujesz modelu obsługującego narzędzia i uporządkowane dane wyjściowe. Groq poleca następujące modele Llama-3.3 ze względu na ich wszechstronność i wydajność:

meta-llama/llama-4-scout-17b-16e-instruct (okno kontekstu 10 mln tokenów) i obsługa 12 języków (arabski, angielski, francuski, niemiecki, hindi, indonezyjski, włoski, portugalski, hiszpański, tagalski, tajski i wietnamski)
llama-3.3-70b-versatile (okno kontekstu 128 tys. | maks. 32 768 tokenów wyjściowych)
llama-3.1-8b-instant (okno kontekstu 128 tys. | maks. 8192 tokeny wyjściowe)

Dlatego do agenta ElevenLabs Agents zalecamy meta-llama/llama-4-scout-17b-16e-instruct.

Konfiguracja Llama 3.3 w Groq Cloud

Przejdź do console.groq.com/keys i utwórz nowy klucz API.

Gdy masz już klucz API, możesz go przetestować, uruchamiając poniższe polecenie curl:

curl https://api.groq.com/openai/v1/chat/completions -s \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $GROQ_API_KEY" \
-d '{
"model": "llama-3.3-70b-versatile",
"messages": [{
    "role": "user",
    "content": "Hello, how are you?"
}]
}'

Przejdź do swojego agenta AI, przewiń do sekcji “Secrets” i wybierz “Add Secret”. Po dodaniu sekretu kliknij “Save”, aby był dostępny dla agenta.

Wybierz “Custom LLM” z menu rozwijanego.

W polu Server URL podaj endpoint API Groq zgodny z OpenAI: https://api.groq.com/openai/v1. W polu Model ID podaj omówiony wyżej meta-llama/llama-4-scout-17b-16e-instruct, a następnie wybierz klucz API z menu rozwijanego.

Teraz kliknij “Test AI Agent”, aby porozmawiać z własnym modelem Llama 3.3.