고급커스텀 모델

Cloudflare Workers AI

Cloudflare Workers AI의 맞춤형 LLM에 에이전트를 연결하세요.

개요

Cloudflare Workers AI 플랫폼을 사용하면 무료 플랜에서도 Cloudflare의 글로벌 네트워크에서 서버리스 GPU 기반 머신러닝 모델을 실행할 수 있습니다!

Workers AI는 이미지 분류, 텍스트 생성, 객체 감지 등의 작업을 수행할 수 있는 엄선된 인기 오픈 소스 모델 세트를 제공합니다.

모델 선택

ElevenLabs Agents의 모든 기능을 활용하려면 함수 호출을 지원하는 모델을 사용해야 합니다.

모델 카탈로그를 탐색할 때 함수 호출 속성이 표시된 모델을 찾아보세요.

DeepSeek R1 사용해 보기

Cloudflare Workers AI는 Qwen2.5 기반 DeepSeek-R1에서 증류된 모델인 DeepSeek-R1-Distill-Qwen-32B에 액세스할 수 있게 해줍니다. 이 모델은 다양한 벤치마크에서 OpenAI-o1-mini보다 뛰어난 성능을 보이며, 밀집형 모델의 새로운 최고 수준 결과를 달성했습니다.

Cloudflare Workers AI에서 DeepSeek R1 설정하기

1

dash.cloudflare.com으로 이동해 계정을 만들거나 로그인하세요. 탐색 메뉴에서 AI > Workers AI를 선택한 다음 “Use REST API” 위젯을 클릭하세요.

시크릿 추가

2

API 키를 받으면 curl 요청으로 바로 테스트할 수 있습니다. Cloudflare는 OpenAI 호환 API 엔드포인트를 제공하므로 매우 편리합니다. 이 단계에서 계정 ID를 포함한 모델과 전체 엔드포인트를 기록해 두세요. 예: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/.

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
-X POST \
-H "Authorization: Bearer {API_TOKEN}" \
-d '{
    "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
    "messages": [
      {"role": "system", "content": "You are a helpful assistant."},
      {"role": "user", "content": "How many Rs in the word Strawberry?"}
    ],
    "stream": false
  }'
3

AI Agent로 이동해 아래로 스크롤하여 “Secrets” 섹션에서 “Add Secret”을 선택하세요. 시크릿을 추가한 후 “Save”를 클릭하여 에이전트에서 시크릿을 사용할 수 있도록 하세요.

시크릿 추가

4

드롭다운 메뉴에서 “Custom LLM”을 선택하세요.

사용자 지정 LLM 선택

5

Server URL에 Cloudflare의 OpenAI 호환 API 엔드포인트 https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/를 지정하세요. Model ID에는 위에서 설명한 대로 @cf/deepseek-ai/deepseek-r1-distill-qwen-32b를 지정하고, 드롭다운 메뉴에서 API 키를 선택하세요.

URL 입력

6

이제 “Test AI Agent”를 클릭해 사용자 지정 DeepSeek R1 모델과 대화할 수 있습니다.