처음 만드는 대화형 AI 에이전트: 입문 가이드

Gartner의 최근 연구에 따르면 대화형 AI는 빠르게 고객 서비스의 비용 절감과 효율 향상을 위한 가장 큰 수단 중 하나가 되고 있습니다.

Gartner는 2029년까지 대화형 AI가 일반적인 고객 서비스 문제의 80%를 사람의 개입 없이 자율적으로 해결하고, 더 많은 기업이 음성과 채팅 전반에서 고객 상호작용을 자동화하면서 운영 비용을 30% 절감할 것으로 예측합니다.

내부 비즈니스 문서를 이해하고, 즉시 추론하며, 세밀한 흐름을 따라 대화를 이어갈 수 있는 에이전틱 솔루션은 지원, 프런트 데스크 응대, 영업, 내부 운영에 활용할 수 있습니다. 

하지만 기술 전문성이 없는 팀에는 엔드투엔드 대화형 에이전트를 구축한다는 생각이 막막하게 느껴질 수 있습니다. 이 가이드가 그 격차를 줄여 드립니다. 

기술 전문성이 없는 제작자가 시작하는 데 필요한 모든 내용을 안내합니다. 대화형 AI 에이전트의 정의와 작동 방식, 구축 전 준비 사항, 그리고 초보자가 코딩 없이 대화형 AI 에이전트를 만드는 단계를 개괄적으로 살펴봅니다.

요약 

• 대화형 AI 에이전트는 대규모 언어 모델, 검색 증강 생성이 적용된 지식 베이스, 도구 호출 및 가드레일을 결합해 사용자와 현실적이고 맥락을 이해하는 대화를 나눕니다. 
• 에이전트는 채팅, 음성 또는 둘 다로 운영할 수 있습니다. 음성 에이전트는 사용자의 말을 이해하기 위해 음성 인식(STT)을 추가하고, 소리 내어 답하기 위해 텍스트 음성 변환(TTS)을 사용합니다. 
• ElevenAgents와 같은 플랫폼이 인프라를 처리하므로, 초보자도 코드를 작성하지 않고 대화형 AI 에이전트를 구축할 수 있습니다.
• 흔한 실수를 피하려면 구축 전에 에이전트의 목적과 대상 사용자를 최대한 구체적으로 정의하세요.
• 출시 전에는 가급적 실제 사용자와 함께 품질 보증을 진행해야 합니다.

대화형 AI 에이전트란 무엇인가요?

대화형 AI 에이전트는 인공지능을 사용해 자연어로 입력된 사용자 요청을 이해하고 실시간으로 응답을 생성하는 시스템입니다. 내부 지식 베이스에 연결해 자체 컨텍스트를 넘어선 정보를 검색하고 사용자에게 응답을 제공합니다. 

음성 기반 대화형 AI에서는 전용 음성 레이어가 음성 상호작용을 처리합니다. STT는 사용자의 음성을 텍스트로 변환하고, TTS는 AI의 응답을 자연스러운 음성으로 생성합니다.

대화형 AI 시스템은 음성과 텍스트 전반에 걸친 방대한 양의 데이터로 학습합니다. 시간이 지나며 이 데이터는 모델이 인간의 언어를 처리하는 방식을 이해하게 하고, 모델은 이를 바탕으로 사람과 논리적으로 대화합니다. 

모든 대화형 AI 에이전트는 음성, 채팅 또는 둘 다 여부와 관계없이 다음과 같은 동일한 핵심 기술을 사용합니다. 

• 대규모 언어 모델(LLM): 일관되고 맥락에 적합한 응답을 생성합니다.
• 지식 베이스 및 검색 증강 생성(RAG): 모델이 이미 알고 있는 정보에만 의존하지 않고, 자체 내부 지식 베이스에 기반해 에이전트의 답변을 제공합니다.
• 도구 호출: AI 시스템이 단순히 작업을 논의하는 데 그치지 않고 주문 상태 확인이나 캘린더 일정 예약과 같은 작업을 수행할 수 있게 합니다.
• 가드레일: 모델과 병렬로 작동하며, 설정한 수행 가능 및 불가 범위 안에서 에이전트가 주제를 벗어나지 않고 브랜드에 맞게 작동하도록 합니다. 
• 배포 채널: 전화 통화, 웹사이트, 모바일 앱, 메시징 플랫폼 등 대화형 AI 에이전트가 사용자와 상호작용할 수 있는 다양한 방식입니다.

이와 더불어 음성 에이전트에는 동일한 핵심 기술 위에 실시간 음성 레이어가 추가됩니다.

• 음성 인식: 사용자의 말을 LLM이 처리할 수 있는 텍스트로 변환합니다. 
• 텍스트 음성 변환: TTS 엔진이 에이전트의 응답을 사용자가 듣는 자연스러운 음성으로 바꿉니다. 
• 턴 테이킹: 언제 듣고, 언제 말하며, 중단을 어떻게 처리할지를 포함해 실시간 대화의 주고받음을 관리하는 시스템입니다.

가장 발전된 대화형 에이전트는 하나의 구성으로 채팅과 음성을 모두 운영하고, 두 채널 간 컨텍스트를 공유할 수 있습니다. 그 기능은 기존 챗봇이 할 수 있는 일을 훨씬 뛰어넘습니다.

기존 챗봇은 사용자가 입력한 내용을 미리 작성된 의사결정 트리에서 가장 가까운 분기에 매칭하며, 설계된 정확한 입력만 처리할 수 있습니다. 대화형 AI 에이전트는 위 시스템을 사용해 스크립트 경로를 넘어 추론하고, 작업을 수행하며, 사용자와 실시간 대화를 나눕니다. 

대화형 AI 에이전트는 어디에 활용할 수 있나요?

사용자의 고객 서비스 문제를 해결하는 에이전트부터 영업팀의 신규 기회를 찾는 아웃바운드 AI SDR까지, 대화형 AI 에이전트는 기존 workflow에 자연스럽게 통합됩니다.

어떤 산업에서 사업을 하든 대화형 AI 활용 사례가 있을 가능성이 높습니다. 여러 분야에서 AI 에이전트를 활용하는 방식을 간단히 살펴보겠습니다. 

• 고객 지원: 사이트의 AI 에이전트는 자주 묻는 질문을 해결하고, 주문 상태를 확인하며, 반품을 처리하거나 복잡한 문의를 상담원에게 전달할 수 있습니다. Klarna는 대화형 AI 에이전트로 고객 지원을 크게 확장한 여러 기업 중 하나입니다.
• 영업 아웃리치: 아웃바운드 AI SDR 에이전트는 리드를 검증하고 담당 영업사원의 미팅을 예약할 수 있습니다. 24시간 내내 일하면서 일관되게 높은 수준의 통화 품질과 대화를 제공합니다. Employment Hero는 ElevenAgents를 사용해 기존 고객에게 새 AI 채용 에이전트를 소개하는 전화를 걸었습니다. 그 결과 33%의 응답률을 달성하고, 사람 상담원만으로는 불가능한 규모로 제품 활성화를 이끌었습니다. 
• 일정 예약: 기업은 예약을 잡고 고객이 음성으로 직접 온보딩하도록 돕는 완전 자동화 AI 에이전트 접수원을 만들 수 있습니다. Reception.ai를 사용하면 초보자도 엔드투엔드 일정 예약 시스템을 구축할 수 있습니다. 
• 교육: AI 튜터는 학습 자료에 생동감을 더하고 개인화된 지원으로 학습자의 역량을 높입니다. Brilliant는 플랫폼에 대화형 AI 튜터를 도입해 학생들이 복잡한 문제를 실시간으로 풀도록 안내하며, 학습 경험에 완전히 새로운 수준의 상호작용성을 더했습니다. 
• 헬스케어 지원: 의료 서비스 제공업체는 HIPAA 규정을 준수하면서 다국어 환자 온보딩을 지원하는 대화형 AI 에이전트를 사이트에 도입할 수 있습니다. Everlywell은 ElevenAgents를 사용해 기존의 대화형 음성 응답 시스템(IVR) 대비 스페인어 사용자 회원의 전환율을 3.5배 높였습니다.
• 물류 및 배송 운영: 대화형 AI 에이전트는 아웃바운드 통화, 배송 확인, 상태 업데이트, 예외 관리를 처리할 수 있습니다. Deliveroo는 ElevenAgents를 사용해 비활성 라이더의 80% 이상과 다시 소통하고, Rider Check-In 활성화를 위해 파트너 사이트의 86%에 연락했습니다.
• 내부 지원 도우미: AI 에이전트는 HR 온보딩 프로세스에 직접 통합되어 전체 온보딩 시간을 줄이고 교육 workflow를 확장합니다. TELUS는 ElevenAgents로 신규 입사자의 교육 시간을 20% 줄이고, 90,000건이 넘는 시뮬레이션 고객 대화를 통해 신규 사용자를 교육합니다. 

활용 사례가 유연한 이유 중 하나는 ElevenAgents와 같은 플랫폼에서 매우 다양한 통합을 구현할 수 있기 때문입니다. 일정 예약 에이전트에 Google Calendar와 Calendly를 연결하거나 Twilio와 SIP로 복잡한 전화 workflow를 구축할 수 있습니다. 

ElevenAgents를 사용하면 빈 페이지에서 대화형 AI 에이전트 구축을 시작할 필요가 없습니다. ElevenAgents 템플릿 라이브러리에는 바로 사용할 수 있는 사전 구축 에이전트 60개가 포함되어 있어, 코드 한 줄 없이 비즈니스용 AI 에이전트를 만들 수 있습니다.

대화형 AI 에이전트 구축 전 준비 사항

경험이 전혀 없어도 ElevenAgents에서 대화형 AI 에이전트를 처음부터 만들 수 있지만, 명확한 계획이 있으면 더 빠르게 실용적인 에이전트를 만들 수 있습니다.

특히 초보자라면 시작하기 전에 다음 사항을 계획해 보세요.

• 명확한 활용 사례: 이 에이전트가 필요한 이유는 무엇인가요? 어떤 구체적인 문제를 해결해야 하며, 어떻게 해결할 예정인가요? 맞춤화된 구체적 활용 사례가 있으면 최대한 빠르게 구축하고 프로덕션 준비를 마칠 수 있습니다.
• 대상 사용자 이해: 일반적인 사용자가 AI 에이전트와 상호작용할 때 어떤 경험을 원할까요? 그 답은 비즈니스 유형과 산업에 크게 좌우됩니다. 예를 들어 금융 앱용 에이전트는 여행객의 해변 호텔 예약을 돕는 에이전트보다 훨씬 더 진지하고 데이터 중심적인 말투를 사용할 수 있습니다.
• 플랫폼: 초보자는 모든 인프라를 대신 관리해 주는 플랫폼을 선택해야 합니다. ElevenAgents는 인프라 코드를 관리하지 않고도 대화형 AI 에이전트를 구축, 배포, 관리할 수 있는 단일 플랫폼을 제공합니다. 실시간 오디오부터 멀티채널 배포까지 모두 처리하므로 기술 엔지니어링 대신 사용자 경험 설계에 집중할 수 있습니다.
• 음성: 무엇을, 누구를 위해 만들지 명확히 정했다면 이제 브랜드에 어울리는 음성을 생각할 차례입니다. 따뜻하고 지적인가요? 전문적이고 직접적인가요? ElevenLabs 보이스 라이브러리에서 완벽한 선택지를 찾을 수 있습니다.
• 지식 베이스: 특히 고객 지원 에이전트를 구축한다면, 질문에 답할 때 에이전트가 어떤 정보를 사용해야 하는지 설명하는 문서를 업로드하거나 연결할 수 있도록 준비해야 합니다. 더 자세한 정보를 제공할수록 더 풍부한 답변을 만들 수 있습니다. RAG 활성화에 대해 자세히 알아보고 지식 베이스로 에이전트를 강화해 보세요.

이 다섯 가지 항목에 대한 명확한 방향이 있다면, 노코드 음성 AI 에이전트를 구축하는 데 필요한 모든 준비가 된 것입니다. 

대화형 AI 에이전트 구축 방법: 개요

대화형 AI 에이전트를 처음부터 구축하는 일은 처음에는 막막해 보일 수 있지만, 생각보다 훨씬 쉽습니다. ElevenAgents는 코딩이나 인프라 유지 관리 없이도 초보자가 최대한 간단하게 진행할 수 있도록 만들었습니다.

프로세스를 4가지 간단한 단계로 나누었습니다.

1. ElevenAgents에서 에이전트 만들기: ElevenAgents의 설정 workflow를 사용해 구축할 에이전트를 선택하세요.
2. 에이전트 구성: 시스템 프롬프트, 첫 메시지, 기본 음성, 언어 기능을 추가하세요.
3. 지식 베이스 업로드: 파일을 업로드하거나 플랫폼에 직접 작성하거나 URL을 붙여 넣어 정보를 추가하세요.
4. 테스트 및 출시: Tests 탭에서 시뮬레이션을 실행해 예외적인 문제를 해결하세요.

바로 시작할 준비가 되었다면 에이전트를 만들고 셀프서비스 플랫폼에서 즉시 구축을 시작할 수 있습니다.

대규모 배포가 필요하거나 전문가의 안내가 필요한 팀은 영업팀에 문의하여 활용 사례, 아키텍처, 출시 전략 평가에 도움을 받으세요. 

아래에서 대화형 AI 에이전트를 만드는 단계별 과정을 살펴보세요.

1단계: 에이전트 만들기

Agents workspace에 로그인한 후 왼쪽 메뉴로 이동해 Agents 옆의 더하기 아이콘을 클릭하세요. 

설정 과정에서 다음과 같은 내용을 물어볼 수 있습니다.

• 구축하려는 에이전트 유형(빈 에이전트, 개인 비서 또는 비즈니스 에이전트)
• 비즈니스가 속한 산업
• 연결하려는 도구 및 지식 베이스
• 필요한 활용 사례와 주요 목표
• 에이전트 이름

다양한 활용 사례를 위한 기존 템플릿도 둘러볼 수 있어 몇 단계를 바로 건너뛸 수 있습니다. 이 60개 템플릿 중 하나를 사용하면 고객 지원, 교육, 접수원, 영업 및 아웃리치 활용 사례의 구축 과정을 빠르게 진행할 수 있습니다.

요청된 정보를 모두 입력했거나 템플릿을 선택했다면 “Create agent”를 누르세요. ElevenAgents가 실험해 볼 수 있는 작동하는 초안을 만듭니다.

2단계: 에이전트 구성

몇 가지 설정으로 에이전트의 행동 방식과 직원 및 고객과 상호작용하는 방식을 정의할 수 있습니다. 시스템 프롬프트가 가장 중요하지만, ElevenAgents는 구축 과정에서 살펴볼 만한 다양한 설정을 제공합니다. 

진행하면서 이러한 구성은 언제든 변경할 수 있다는 점도 중요합니다. 과정 전반에서 정보를 수정하고 변경 사항을 미리 볼 수 있으므로, 한 번 내린 결정에 얽매일 필요가 없습니다.

다음 구성은 모두 메인 대시보드에서 수정할 수 있으며(왼쪽의 Agent로 이동), 코딩이 전혀 필요하지 않습니다.

• 시스템 프롬프트: 에이전트의 성격, 말투, 목표, 가드레일을 정의하는 핵심 지침 세트입니다. ElevenAgents는 1단계에서 제공한 정보를 바탕으로 시작 프롬프트를 생성합니다. 브랜드에 맞게 수정하거나 처음부터 새로 작성하세요. 명확한 5가지 구조(성격, 환경, 말투, 목표, 가드레일)는 플랫폼의 작동 방식을 설명합니다. 훌륭한 시스템 프롬프트 작성하기 가이드를 확인해 보세요.
• 첫 메시지: 대화가 시작될 때 에이전트가 하는 말입니다. 짧고, 에이전트가 처리하는 업무를 구체적으로 담되, 따뜻하게 작성하세요. 
• 음성: ElevenAgents는 11,000개 이상의 자연스러운 음성 라이브러리를 제공합니다. 비즈니스에 가장 적합한 음성을 선택하기 전에 전체 샘플 대화 맥락에서 몇 가지를 들어 보세요. 
• 언어: 에이전트가 사용할 기본 언어와 추가 언어를 선택할 수 있습니다. 자동 언어 감지는 발신자가 실제로 사용하는 언어로 에이전트를 전환하므로 매 대화마다 수동으로 설정할 필요가 없습니다. 

이 단계에서 에이전트를 구동할 LLM 구성 요소도 선택할 수 있습니다. ElevenLabs는 선택 가능한 모델의 세부 정보와 지연 시간 및 분당 비용 정보를 제공합니다.

더 복잡한 흐름에는 Tools 탭에서 추가 도구를 삽입하고 프로시저를 사용하세요. 이는 환불용 프로시저와 계정 복구용 프로시저처럼 관련 상황에서만 에이전트가 불러오는 작업별 지침입니다.

또한 에이전트 워크플로를 구축할 수 있습니다. 이는 하나의 선형 스크립트를 따르는 대신 사용자 요구에 맞춰 분기되는 대화를 위한 시각적 그래프 기반 편집기입니다. workflow는 서브에이전트 같은 노드 사이를 라우팅하며, 대화의 특정 단계에 맞게 다른 시스템 프롬프트, LLM 또는 음성으로 전환할 수 있습니다. 

3단계: 지식 베이스에 문서 업로드

왼쪽 열에서 ‘Knowledge Base’ 탭으로 이동하면 에이전트에 연결된 문서를 확인할 수 있습니다. 이 문서는 에이전트가 실제로 말하는 내용과 추천을 안내하고 고객 질문에 답할 때 사용하는 정보를 결정합니다. 

‘Add document’를 클릭한 후 다음 옵션 중 하나를 선택하세요.

• URL 추가: URL을 붙여 넣고 콘텐츠를 7일마다 자동 새로고침할지 설정하세요. 
• 파일 추가: 각각 최대 21MB의 epub, pdf, docx, txt, html 또는 md 파일을 업로드하세요.
• 텍스트 만들기:플랫폼의 지식 베이스에 텍스트를 직접 작성하거나 붙여 넣으세요.

사전 준비 단계에서 지식 베이스를 준비해 두어야 합니다. 대부분의 도구에서는 이것만으로도 사용자 질문에 신뢰성 있게 답할 충분한 정보를 제공할 수 있습니다. 문서 집합이 더 큰 경우 RAG를 활성화하면 응답 속도를 늦추지 않고 훨씬 더 큰 지식 베이스를 활용할 수 있습니다. 

4단계: 테스트 및 출시

이 단계에서는 대화하고 전체 대화를 시뮬레이션할 수 있는 에이전트가 준비되어 있어야 합니다. 지식 베이스의 컨텍스트가 적용된 에이전트는 고객의 요구를 가장 잘 충족하도록 개인화됩니다.

변경하는 즉시 결과를 미리 볼 수 있어, 매번 에이전트를 재배포하지 않고도 프롬프트와 대화 흐름을 반복 개선할 수 있습니다.

프로덕션에 배포하기 전에는 항상 모델을 최대한 광범위하게 테스트하세요. 실제로는 ‘Tests’ 탭에서 다양한 시뮬레이션을 실행할 수 있습니다. 일반적인 활용 사례에 맞는 새 테스트를 설계한 후 테스트 배치를 3회, 5회, 15회 또는 50회 실행할 수 있습니다. 

테스트는 통과하거나 실패하며, 연결된 트랜스크립트에서 무엇이 잘못되었는지(문제가 있다면)와 해결 방법을 정확히 확인할 수 있습니다. 모든 시뮬레이션이 미리보기를 통과하고 직접 테스트도 마쳤다면 에이전트를 게시할 차례입니다. 

이렇게 코드 한 줄 없이 브랜드에 맞는 개인화된 대화형 AI 에이전트를 만들었습니다.

초보자도 ElevenAgents로 대화형 AI 에이전트를 만들 수 있습니다

고품질 고객 서비스 경험을 구축하는 것부터 사용자가 질문할 수 있는 페이지 내 도구를 삽입하는 것까지, 대화형 AI 에이전트는 간결하고 매끄러운 상호작용 경로를 만듭니다. ElevenAgents를 사용하면 초보자도 대화형 AI 에이전트를 대규모로 구축하고 배포할 수 있습니다. 

실시간 오디오 처리, 턴 테이킹, 중단 감지, 멀티채널 배포까지 개인화된 ElevenAgent가 복잡한 작업을 모두 처리합니다. 자체 지식 베이스를 연결하고 일관된 브랜드 음성을 구축한 다음, 인프라를 관리하지 않고도 전화, 웹 채팅, 메시징 채널에 배포하세요.

ElevenAgents에 대해 자세히 알아보거나, 지금 영업팀에 문의하여 시작하세요.

대화형 AI 에이전트 구축 FAQ