Cloudflare Workers AI

Cloudflare Workers AI पर किसी एजेंट को कस्टम LLM से कनेक्ट करें।

परिचय

Cloudflare का Workers AI प्लेटफ़ॉर्म आपको Cloudflare के वैश्विक नेटवर्क पर, सर्वरलेस GPUs से संचालित मशीन लर्निंग मॉडल चलाने देता है—वह भी मुफ़्त प्लान में!

Workers AI में लोकप्रिय ओपन-सोर्स मॉडल का एक चुना हुआ सेट मिलता है, जिनसे आप इमेज क्लासिफ़िकेशन, टेक्स्ट जनरेशन, ऑब्जेक्ट डिटेक्शन जैसे काम कर सकते हैं।

मॉडल चुनना

ElevenLabs Agents की पूरी क्षमता का इस्तेमाल करने के लिए, आपको ऐसा मॉडल इस्तेमाल करना होगा जो function calling को सपोर्ट करता हो।

मॉडल कैटलॉग देखते समय, उन मॉडलों को खोजें जिनके साथ function calling प्रॉपर्टी दी गई हो।

DeepSeek R1 आज़माएं

Cloudflare Workers AI आपको DeepSeek-R1-Distill-Qwen-32B का एक्सेस देता है, जो Qwen2.5 पर आधारित DeepSeek-R1 से डिस्टिल किया गया मॉडल है। यह कई बेंचमार्क में OpenAI-o1-mini से बेहतर प्रदर्शन करता है और डेंस मॉडल के लिए नए स्टेट-ऑफ़-द-आर्ट नतीजे हासिल करता है।

Cloudflare Workers AI पर DeepSeek R1 सेट अप करें

dash.cloudflare.com पर जाएं और अपना अकाउंट बनाएं या उसमें साइन इन करें। नेविगेशन में AI > Workers AI चुनें, फिर “Use REST API” विजेट पर क्लिक करें।

API key मिलने के बाद, आप उसे तुरंत curl रिक्वेस्ट के साथ आज़मा सकते हैं। Cloudflare एक OpenAI-compatible API endpoint देता है, जिससे यह बहुत सुविधाजनक हो जाता है। इस चरण में मॉडल और account ID सहित पूरे endpoint को नोट कर लें। उदाहरण: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/।

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
-X POST \
-H "Authorization: Bearer {API_TOKEN}" \
-d '{
    "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
    "messages": [
      {"role": "system", "content": "You are a helpful assistant."},
      {"role": "user", "content": "How many Rs in the word Strawberry?"}
    ],
    "stream": false
  }'

अपने AI Agent पर जाएं, नीचे स्क्रॉल करके “Secrets” सेक्शन में जाएं और “Add Secret” चुनें। सीक्रेट जोड़ने के बाद, उसे अपने एजेंट के लिए उपलब्ध कराने हेतु “Save” पर ज़रूर क्लिक करें।

ड्रॉपडाउन मेनू से “Custom LLM” चुनें।

Server URL के लिए Cloudflare का OpenAI-compatible API endpoint दर्ज करें: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/। Model ID के लिए, ऊपर बताए अनुसार @cf/deepseek-ai/deepseek-r1-distill-qwen-32b दर्ज करें और ड्रॉपडाउन मेनू से अपनी API key चुनें।

अब अपने कस्टम DeepSeek R1 मॉडल से चैट करने के लिए “Test AI Agent” पर क्लिक करें।