ElevenLabs 대화형 AI로 DeepSeek R1과 대화하기

최근 모두가 DeepSeek에 관해 이야기하고 있지만, 아무도 이런 질문은 하지 않았습니다. DeepSeek가 말할 수 있다면 어떤 목소리일까요? 이를 가능하게 하려면 ElevenLabs의 대화형 AI를 활용해 DeepSeek R1과 대화할 수 있습니다.

ElevenLabs 대화형 AI는 맞춤형 실시간 대화형 음성 에이전트를 배포하기 위한 플랫폼입니다. 이 플랫폼의 큰 장점은 유연성으로, 필요에 따라 다양한 LLM을 연결할 수 있습니다. 

사용자 지정 LLM 옵션은 OpenAI 호환 API 제공업체라면 모델이 도구 사용/함수 호출을 지원하는 한 어디에서나 사용할 수 있습니다. 문서에서 GroqCloud, Together AI, Cloudflare 가이드를 확인할 수 있습니다. 다음 데모에서는 Cloudflare를 사용합니다.

Qwen2.5를 기반으로 DeepSeek-R1에서 증류한 모델인 DeepSeek-R1-Distill-Qwen-32B를 사용합니다. 이 모델은 다양한 벤치마크에서 OpenAI-o1-mini보다 뛰어난 성능을 보이며, 밀집형 모델 분야에서 새로운 최고 수준의 결과를 달성했습니다. 

증류 버전을 사용하는 주된 이유는 순수 버전이 아직 함수 호출과 안정적으로 작동하지 않기 때문입니다. 실제로 R1 추론 모델은 아직 함수 호출을 전혀 지원하지 않습니다! 진행 상황을 확인하려면 이 이슈를 팔로우하세요.

ElevenLabs 대화형 AI 시작하기

사용자 지정 LLM을 연결하는 과정은 매우 간단하며, 에이전트를 만드는 것부터 시작합니다. 이 프로젝트에서는 Math Tutor 템플릿을 사용하겠습니다. DeepSeek의 목소리가 어떤지 확인하고 싶다면, 직접 사용해 볼 수 있는 에이전트 데모를 준비했습니다.

시작하려면 ElevenLabs 대화형 AI 앱 페이지로 이동해 “DeepSeeker”라는 새 AI 에이전트를 만드세요. DeepSeek의 추론 능력이 빛을 발할 수 있는 사용 사례이므로 Math Tutor 템플릿을 선택한 다음 “에이전트 만들기”를 선택하세요.

수학 템플릿에는 LLM이 작성한 형태 그대로가 아닌 자연스러운 언어로 숫자와 방정식을 읽도록 하는 시스템 프롬프트가 포함되어 있습니다. 예를 들어 LLM의 응답이 “알파 곱하기 엑스의 제곱은 4입니다”가 아니라 “ax^2=4”인 경우 그렇게 작성하도록 지시합니다. 

추론 모델은 일반적으로 “사고 과정”을 설명하지만, 시스템 프롬프트를 확장해 풀이를 단계별로 추론하도록 지정하는 등, 더 알찬 수학 강의를 제공하도록 할 수도 있습니다. 일반적으로 유지하거나, 활용할 수 있는 구체적인 예시를 포함하도록 프롬프트를 확장할 수 있습니다.

하지만 DeepSeek R1의 개성을 제대로 느끼고 싶다면, 대신 빈 템플릿을 만들고 에이전트가 자신을 DeepSeek AI로 소개하도록 요청한 뒤 다양한 주제의 질문에 답하도록 시스템 프롬프트를 설정할 수 있습니다. 

Cloudflare Workers AI로 DeepSeek R1 설정하기

다음으로 에이전트와 함께 사용할 DeepSeek R1 버전의 엔드포인트가 필요합니다. 이 예시에서는 평가 목적으로 Workers AI 플랫폼에서 DeepSeek-R1-Distill-Qwen-32B를 제공하는 Cloudflare를 사용하지만, fireworks.ai, GroqCloud,  together.ai

같은 다른 호스팅 옵션도 고려할 수 있습니다. 먼저 dash.cloudflare.com으로 이동해 계정을 만들거나 로그인하세요. 탐색 메뉴에서 AI > Workers AI를 선택한 다음 “Use REST API” 위젯을 클릭하세요.

API 키를 받으려면 “Create a Workers AI API Token”을 클릭하고, 반드시 안전하게 보관하세요.

API 키를 받으면 curl 요청으로 바로 테스트할 수 있습니다. Cloudflare는 OpenAI 호환 API 엔드포인트를 제공하므로 매우 편리합니다. 이 단계에서 계정 ID를 포함한 모델 및 전체 엔드포인트를 기록해 두세요.

예: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
  -X POST \
  -H "Authorization: Bearer {API_TOKEN}" \
  -d '{
     "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
     "messages": [
       {"role": "system", "content": "You are a helpful assistant."},
       {"role": "user", "content": "How many Rs in the word Strawberry?"}
     ],
     "stream": false
   }'

ElevenLabs에서 사용자 지정 LLM 구성하기

다음 단계는 이 정보를 ElevenLabs의 에이전트에 추가하는 것입니다. 먼저 ElevenLabs 앱에서 DeepSeeker AI 에이전트로 이동한 후, 맨 아래에서 새로 만든 API 키를 시크릿으로 추가하세요. CLOUDFLARE_AUTH_TOKEN 같은 키 이름을 지정한 다음 변경 사항을 저장하세요.

다음으로 LLM에서 사용자 지정 LLM 옵션을 선택하고, Cloudflare Workers AI의 OpenAI 호환 API 엔드포인트를 입력하세요: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1

URL의 “{ACCOUNT_ID}”를 Cloudflare에 표시된 계정 ID로 바꾸세요.

모델 ID를 추가하세요: @cf/deepseek-ai/deepseek-r1-distill-qwen-32b

마지막으로 방금 만든 시크릿을 선택하세요.

테스트하기

좋습니다. 이제 모든 설정이 완료되었으니 “Test AI agent”를 클릭하고 테스트해 보세요 다음 수학 문제로:

“두 열차가 동쪽/서쪽 방향으로 각각 시속 65마일과 시속 85마일의 속도로 서로 지나갑니다. 두 열차 사이의 거리가 330마일이 되기까지 얼마나 걸리나요?”

참고: 결제 수단을 설정하지 않으면 Cloudflare Workers AI API가 제한되어 응답 시간이 길어질 수 있습니다. 프로덕션 환경으로 전환하기 전에 결제 계정을 설정하세요. 다른 호스팅 플랫폼에서는 이러한 문제가 발생하지 않을 수도 있습니다.

결론

ElevenLabs 대화형 AI 플랫폼으로 실시간 대화형 AI 에이전트를 구축하면, OpenAI 호환 API 제공업체를 통해 사용자 지정 LLM을 연결하여 새 모델이 출시될 때 빠르게 대응할 수 있습니다.

사용하려는 모델이 OpenAI와 호환되고 함수 호출을 지원한다면 실시간 음성 에이전트와 통합할 수 있습니다. 여기에는 사용자 지정 데이터세트로 파인튜닝한 모델도 포함될 수 있습니다. ElevenLabs 라이브러리에서 제공되는 모든 음성을 사용할 수도 있고, 내 목소리의 클론을 만들었다면 내 목소리를 사용할 수도 있습니다.