Groq Cloud

Conecte um agente a um LLM personalizado no Groq Cloud.

Visão geral

O Groq Cloud oferece acesso fácil a inferência rápida de IA, fornecendo endpoints de API compatíveis com OpenAI em poucos cliques.

Use modelos disponíveis abertamente de ponta, como Llama, Mixtral e Gemma, como o cérebro dos seus agentes da ElevenLabs em poucos passos simples.

Escolhendo um modelo

Para aproveitar todo o potencial dos agentes da ElevenLabs, você precisa usar um modelo compatível com uso de ferramentas e saídas estruturadas. A Groq recomenda os seguintes modelos Llama-3.3 por sua versatilidade e desempenho:

  • meta-llama/llama-4-scout-17b-16e-instruct (janela de contexto de 10 milhões de tokens) e compatível com 12 idiomas (árabe, inglês, francês, alemão, hindi, indonésio, italiano, português, espanhol, tagalo, tailandês e vietnamita)
  • llama-3.3-70b-versatile (janela de contexto de 128 mil | máximo de 32.768 tokens de saída)
  • llama-3.1-8b-instant (janela de contexto de 128 mil | máximo de 8.192 tokens de saída)

Com isso em mente, recomendamos usar meta-llama/llama-4-scout-17b-16e-instruct para seu agente do ElevenLabs Agents.

Configure o Llama 3.3 no Groq Cloud

1

Acesse console.groq.com/keys e crie uma nova chave de API.

Adicionar segredo

2

Depois de obter sua chave de API, você pode testá-la executando o seguinte comando curl:

curl https://api.groq.com/openai/v1/chat/completions -s \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $GROQ_API_KEY" \
-d '{
"model": "llama-3.3-70b-versatile",
"messages": [{
"role": "user",
"content": "Hello, how are you?"
}]
}'
3

Acesse seu Agente de IA, role até a seção “Secrets” e selecione “Add Secret”. Depois de adicionar o segredo, clique em “Save” para disponibilizá-lo ao seu agente.

Adicionar segredo

4

Escolha “Custom LLM” no menu suspenso.

Escolher LLM personalizado

5

Em Server URL, especifique o endpoint de API compatível com OpenAI da Groq: https://api.groq.com/openai/v1. Em Model ID, especifique meta-llama/llama-4-scout-17b-16e-instruct, conforme mencionado acima, e selecione sua chave de API no menu suspenso.

Inserir URL

6

Agora você pode clicar em “Test AI Agent” para conversar com seu modelo Llama 3.3 personalizado.