> This is a page from the ElevenLabs documentation. For a complete page index, fetch https://elevenlabs.io/docs/llms.txt. For the full documentation in a single file, fetch https://elevenlabs.io/docs/llms-full.txt.

# Groq Cloud

## परिचय

[Groq Cloud](https://console.groq.com/) तेज़ AI inference का आसान एक्सेस देता है और कुछ ही क्लिक में OpenAI-compatible API endpoints उपलब्ध कराता है।

कुछ आसान चरणों में Llama, Mixtral और Gemma जैसे प्रमुख [सार्वजनिक रूप से उपलब्ध मॉडल](https://console.groq.com/docs/overview/models) को अपने ElevenLabs एजेंट्स का दिमाग बनाएं।

## मॉडल चुनना

ElevenLabs एजेंट्स की पूरी क्षमता का इस्तेमाल करने के लिए, आपको ऐसा मॉडल चाहिए जो tool use और structured outputs को सपोर्ट करे। Groq अपनी बहुमुखी प्रतिभा और प्रदर्शन के लिए नीचे दिए गए Llama-3.3 मॉडल सुझाता है:

* meta-llama/llama-4-scout-17b-16e-instruct (10M token context window) और 12 भाषाओं का समर्थन (अरबी, अंग्रेज़ी, फ़्रेंच, जर्मन, हिंदी, इंडोनेशियाई, इतालवी, पुर्तगाली, स्पेनिश, तागालोग, थाई और वियतनामी)
* llama-3.3-70b-versatile (128k context window | 32,768 अधिकतम output tokens)
* llama-3.1-8b-instant (128k context window | 8,192 अधिकतम output tokens)

इसे ध्यान में रखते हुए, अपने ElevenLabs Agents एजेंट के लिए `meta-llama/llama-4-scout-17b-16e-instruct` इस्तेमाल करने की सलाह दी जाती है।

## Groq Cloud पर Llama 3.3 सेट अप करें

[console.groq.com/keys](https://console.groq.com/keys) पर जाएं और नई API key बनाएं।

![सीक्रेट जोड़ें](/docs/_fern-img/2dc1bdac30871fb4059a394b8edfedd4cf953f8e1f787ca8b807a9f195e7fdf3.webp)

API key मिलने के बाद, नीचे दिया गया curl कमांड चलाकर उसे टेस्ट कर सकते हैं:

```bash
curl https://api.groq.com/openai/v1/chat/completions -s \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $GROQ_API_KEY" \
-d '{
"model": "llama-3.3-70b-versatile",
"messages": [{
    "role": "user",
    "content": "Hello, how are you?"
}]
}'
```

अपने [AI Agent](https://elevenlabs.io/app/agents) पर जाएं, नीचे स्क्रॉल करके "Secrets" सेक्शन में जाएं और "Add Secret" चुनें। सीक्रेट जोड़ने के बाद, उसे अपने एजेंट के लिए उपलब्ध कराने हेतु "Save" पर ज़रूर क्लिक करें।

![सीक्रेट जोड़ें](/docs/_fern-img/464e123d926fbd9e6986a382af8da55d9f3861d1e593bb1f4b41ba33bed67ae1.webp)

ड्रॉपडाउन मेनू से "Custom LLM" चुनें।

![कस्टम LLM चुनें](/docs/_fern-img/45ec75f558a5c8e5070bd3170d96cbc54ef63e15d9f04ac472a45854a22a17ac.webp)

Server URL के लिए Groq का OpenAI-compatible API endpoint दर्ज करें: `https://api.groq.com/openai/v1`। Model ID के लिए, ऊपर बताए अनुसार `meta-llama/llama-4-scout-17b-16e-instruct` दर्ज करें और ड्रॉपडाउन मेनू से अपनी API key चुनें।

![URL दर्ज करें](/docs/_fern-img/70555982e71101023f8e988102ab505c964fd6796a190a9bce74f3c0ed1b56be.webp)

अब अपने कस्टम Llama 3.3 मॉडल से चैट करने के लिए "Test AI Agent" पर क्लिक करें।