AI 고객 서비스 에이전트: 정의와 도입 방법

고객 서비스 담당자의 4명 중 3명 이상이 1년 전과 비교해 업무량이 늘고 더 복잡해졌다고 답했으며, 78%는 고객 기대치가 그 어느 때보다 높아졌다고 말합니다. 편의성 경제는 기준을 새롭게 설정했습니다. 고객은 빠르고 완전한 해결을 기대하며, 이를 제공하지 못하는 팀을 용납하지 않습니다.

AI 고객 서비스 에이전트는 지원 리더가 더 많은 문의를 더 빠르게 처리할 수 있도록 합니다. 이 에이전트는 대화의 맥락을 파악하고, 연결된 도구에서 작업을 수행하며, 필요할 때 사람에게 넘길 수 있습니다. 또한 많은 팀이 이미 시도했다가 포기한 규칙 기반 챗봇보다 훨씬 진화한 솔루션입니다.

AI 에이전트를 검토 중이든 이미 도입할 준비가 되었든, 이 글에서는 AI 에이전트의 정의와 작동 방식, 해결률을 높이는 데 필요한 요소를 알아봅니다.

요약

• AI 고객 서비스 에이전트는 고객 대화를 처음부터 끝까지 처리하며, 문제를 해결하고 필요 시 에스컬레이션하며, 전체 맥락과 함께 담당자에게 인계합니다.
• AI 고객 서비스 에이전트의 주요 활용 사례에는 AI 고객 서비스의 인바운드 지원, 업무 시간 외 대응, 다국어 고객 서비스가 있습니다.
• ElevenAgents는 기본 제공되는 규정 준수 기능, 통합, 담당자 인계 제어 기능을 갖춘 음성 및 채팅 에이전트 배포용 엔터프라이즈급 플랫폼입니다.

AI 고객 서비스 에이전트란 무엇인가요?

AI 고객 서비스 에이전트는 음성과 채팅 전반에서 고객과 실시간으로 대화하며 문의를 해결하는 자동화 시스템입니다. 

고정된 스크립트와 패턴을 대조하는 규칙 기반 챗봇과 달리, AI 에이전트는 대화의 전체 맥락을 파악하고 업로드된 지식 베이스 및 CRM이나 헬프데스크 같은 연결된 도구의 실시간 데이터를 활용해 동적으로 응답을 생성합니다. 문의가 처리 범위를 벗어나면 전체 대화 맥락을 유지한 채 담당자에게 인계할 수도 있습니다.

기존 자동화와의 차이점은 단순히 정보를 검색하는 데 그치지 않고 실제 작업을 수행할 수 있다는 점입니다. AI 고객 서비스 에이전트는 사람의 개입 없이 다음 작업을 처리할 수 있습니다. 

• 예약을 잡습니다.
• 환불을 처리합니다.
• 계정을 업데이트합니다.
• 티켓을 에스컬레이션합니다.
• 문제를 해결합니다.

에이전트가 기존 시스템에 연결되어 있으므로 이러한 변경 사항은 자동으로 동기화됩니다. 예약은 캘린더에 업데이트되고, 처리된 환불은 결제 플랫폼에 반영되며, 새 티켓은 헬프데스크에 표시됩니다.

AI 고객 서비스 에이전트 활용 사례

대부분의 지원팀은 하나의 활용 사례로 시작해 점차 확장합니다. 아래 3가지는 문의량이 가장 많고, 지원 공백의 비용이 가장 크며, 자동화의 필요성을 가장 쉽게 입증할 수 있는 고효율 출발점입니다.

인바운드 지원 및 문의 해결

주문 상태, 비밀번호 재설정, 결제 문의, 정책 조회처럼 대량으로 반복되는 문의는 지원팀 역량의 대부분을 소모해 복잡한 사례의 우선순위를 낮춥니다.

AI 에이전트의 지원 방식: 에이전트는 지식 베이스나 연결된 시스템에서 관련 정보를 가져오고, 응답을 제공하고, 티켓을 해결하여 문의를 처음부터 끝까지 처리합니다. 계정 접근이 필요한 문의(예: 주문 상태 확인)의 경우 에이전트는 고객을 인증하고 CRM에서 실시간 고객 데이터를 가져옵니다.

업무 시간 외 대응

오후 5시가 되어도 문의량은 줄지 않지만, 인력 운영은 끝날 수 있습니다. 업무 시간 외 문의는 고객을 좌절시킨 채 다음 날 아침까지 기다리거나, 비용이 많이 드는 야간 인력이 필요합니다.

AI 에이전트의 지원 방식: 에이전트는 피크 시간대와 동일한 품질로 문의에 답하고, 예약을 잡고, 요청을 처리하며 업무 시간 외 교대 전체를 담당합니다. 담당자는 다음 날 아침 이미 기록된 전체 대화 맥락과 함께 에스컬레이션을 인계받습니다.

다국어 지원

여러 언어로 고객을 지원하려면 보통 언어별로 별도 팀이나 워크플로를 구축해야 합니다. 이는 비용이 많이 들고 확장하기 어렵습니다.

AI 에이전트의 지원 방식:AI 에이전트는 고객의 첫 메시지나 문장에서 언어를 자동으로 감지하고 그에 맞춰 응답합니다. 단일 에이전트 구성으로 수십 개 언어를 동시에 지원할 수 있으며, 필요하면 대화 중간에 언어를 전환할 수도 있습니다. ElevenAgents는 별도 설정 없이 90개 이상의 언어를 지원하며, 자동 감지와 실시간 전환 기능이 기본 탑재되어 있습니다.

AI 고객 서비스 에이전트의 이점

AI 고객 서비스 에이전트 도입의 이점은 고객 경험 개선과 지원팀 효율 향상이라는 두 범주로 나뉩니다.

• 24시간 연중무휴 지원: AI 에이전트는 인력 조정 없이 언제든, 어느 날이든 문의를 처리합니다. 지원팀은 업무 시간 외 지원 공백을 완전히 없앨 수 있습니다. 고객이 새벽 2시에 문의해도 다음 날 아침의 회신이 아니라 몇 초 안에 응답을 받습니다.
• 더 빠른 해결 시간: 고객의 72%가 기대하는 즉각적인 서비스가 제공되지 않으면 대기 시간은 고객 이탈의 원인이 됩니다. 에이전트는 지식 베이스에서 답변을 가져오고 연결된 시스템에서 실시간으로 작업을 수행해 고객 문의를 몇 초 만에 해결합니다. 
• 모든 채널에서 일관된 브랜드 응답: 담당자에게도 컨디션이 좋지 않은 날이 있고, 정책을 다르게 해석하거나 브랜드 가이드라인에서 벗어난 표현을 사용할 수 있습니다. AI 에이전트는 모든 접점에 동일한 어조, 용어, 프로세스를 적용하므로 부정확한 표현으로 인한 규정 준수 공백, 지역별 브랜드 불일치, 대규모 운영에서의 QA 문제를 막을 수 있습니다.
• 90개 이상의 언어로 제공하는 다국어 지원: 여러 시장의 고객을 지원하려면 일반적으로 언어별로 별도 팀이나 워크플로를 구축해야 하며, 이는 비용이 많이 들고 확장하기 어렵습니다. AI 에이전트는 고객 언어를 자동으로 감지하고 필요 시 대화 도중 언어를 전환할 수 있습니다.
• 모든 대화에서 얻는 데이터와 인사이트: 모든 상호작용은 기록되고 검색할 수 있으므로, 지원 리더는 고객이 문의하는 이유의 추세를 파악하고 지식 공백을 식별하며 대화 데이터를 활용해 에이전트 성능과 운영 프로세스를 개선할 수 있습니다.
• 필요할 때 원활한 담당자 인계: 대화가 에이전트의 처리 범위를 벗어나면 대화 기록, 의도, 계정 데이터 등 전체 맥락과 함께 담당자에게 통화를 인계할 수 있습니다. 담당자는 처음부터 다시 시작할 필요가 없어 고객 만족도가 높아집니다.

이러한 효과는 실제 운영에서 빠르게 누적됩니다. mdhub는 행동 건강 플랫폼으로, 클리닉 입원 및 환자 지원 워크플로 전반에 ElevenAgents를 도입했습니다. AI 에이전트는 이제 인바운드 통화의 90%를 처음부터 끝까지 처리하며, 환자 인구통계 정보를 수집하고 보험을 확인하며 예약을 잡습니다. 그 결과 mdhub의 최초 문의부터 예약까지 걸리는 시간은 몇 주에서 며칠로 줄었고, 예약 건수는 30% 증가했습니다.

AI 고객 서비스 에이전트는 어떻게 작동하나요?

ElevenAgents는 실시간 파이프라인을 통해 음성 및 텍스트 입력을 모두 처리합니다. 작동 방식은 다음과 같습니다.

1. 고객이 말하거나 입력합니다. 음성의 경우 ElevenLabs의 음성 텍스트 변환 모델인 Scribe가 고객의 오디오를 실시간으로 텍스트로 변환합니다. 고객이 말을 마치기 전부터 처리가 시작될 만큼 빠릅니다. 텍스트 입력은 메시지가 바로 파이프라인으로 전달됩니다.
2. LLM이 대화의 전체 맥락을 구성합니다. 여기에는 이미 오간 대화, 지식 베이스에서 관련성이 있는 정보, 연결된 도구의 실시간 데이터, 에이전트의 동작 방식을 정의하는 시스템 프롬프트가 포함됩니다. LLM은 이 모든 정보를 분석한 뒤 응답을 생성합니다.
3. 응답이 실시간으로 전달됩니다. 음성의 경우 LLM의 응답은 텍스트 음성 변환 시스템을 통해 다시 음성으로 변환되어 고객에게 전달됩니다.

이는 파이프라인을 단순화한 모습입니다. 내부적으로는 여러 기술이 함께 작동해 대화가 자연스럽게 느껴지도록 합니다.

• 턴테이킹 모델: 사용자가 말을 마친 시점을 감지해 에이전트가 언제 응답할지 알 수 있도록 하며, 자연스러운 대화 흐름을 만듭니다.
• VAD(음성 활동 감지): 주 화자의 오디오를 배경 소음에서 분리하여 전사 정확도를 높이고 대화와 무관한 소리를 걸러냅니다.
• 음성사서함 감지: 통화가 음성사서함으로 연결되었는지 실제 사람에게 연결되었는지가 아닌지를 식별하여 에이전트가 적절히 응답할 수 있게 합니다.
• 가드레일: 대화가 어떤 방향으로 흘러가든 에이전트가 스크립트, 규정 준수 요건, 설정한 경계 안에 머물도록 합니다.

이러한 구성 요소가 함께 대규모 환경에서 에이전트가 실제 대화를 얼마나 안정적으로 처리하는지를 결정합니다.

AI 고객 서비스 에이전트 구현 모범 사례

해결률을 높이는 AI 에이전트와 고객을 좌절시키는 에이전트의 차이는 대개 다섯 가지 요소에서 비롯됩니다.

강력한 지식 베이스를 에이전트의 기반으로 구축하세요

AI 에이전트의 답변 품질은 검색할 수 있는 정보의 품질에 달려 있습니다. 시스템의 나머지 구성이 아무리 뛰어나도 지식 베이스가 취약하거나 정리되어 있지 않으면 모호하고 부정확하거나 도움이 되지 않는 응답이 나옵니다.

먼저 에이전트가 가장 자주 참조할 콘텐츠를 수집하세요.

• 표준 운영 절차(SOP).
• FAQ 및 일반적인 문의 응답.
• 제품 문서.
• 정책 문서.
• 담당자가 정기적으로 참조하는 기타 콘텐츠.

일관된 용어를 사용하고 주제별로 정리하며 최신 상태를 유지하세요. 오래된 콘텐츠는 오래된 답변과 좋지 않은 고객 경험을 만듭니다.

ElevenAgents에서는 지식 베이스를 쉽게 추가할 수 있습니다. 에이전트로 이동해 “Agent” 탭을 클릭하고 “knowledge base” 섹션을 찾은 다음 “Add document”를 클릭하세요. 새 문서를 만들거나 파일을 업로드하거나 기존 문서에서 선택할 수 있습니다. 

더 큰 지식 베이스를 위해 ElevenAgents는 검색 증강 생성(RAG)도 지원합니다. 이는 모든 정보를 한 번에 모델에 전달하는 대신, 각 응답에 필요한 가장 관련성 높은 콘텐츠만 지식 베이스에서 가져오는 기술입니다. 이를 통해 응답의 정확성과 집중도를 유지하고, 관련 없는 정보가 에이전트를 압도하는 것을 방지합니다.

효과적인 시스템 프롬프트를 작성하세요

시스템 프롬프트는 에이전트의 직무 설명서입니다. 에이전트가 누구인지, 무엇을 하는지, 어떻게 말하는지, 무엇을 하지 않을지를 정의합니다. 모호한 프롬프트는 모호한 에이전트를 만듭니다.

모델이 지시 사항의 우선순위를 정확히 정할 수 있도록 프롬프트를 명확한 마크다운 섹션으로 구성하세요. 포함해야 할 핵심 섹션은 다음과 같습니다.

• 성격: 에이전트가 누구이며 어떻게 소통하는지.
• 목표: 달성하려는 목표를 순서대로 정의합니다.
• 도구: 사용할 수 있는 도구, 사용 시점, 오류 처리 방식을 정의합니다.
• 가드레일: 절대 해서는 안 되는 작업을 정의합니다.

모든 지시 사항은 짧고 행동 중심으로 작성하세요. 장황한 지시 사항은 오해의 원인이 됩니다. 엔터프라이즈 배포에서는 각 에이전트를 전문화하세요. 하나의 에이전트에 집중된 범위를 부여하는 편이 모든 일을 하려는 하나의 프롬프트보다 더 안정적으로 작동합니다.

다음은 잘 구조화된 프롬프트의 간략한 예시입니다.

# Personality:
You are a billing specialist. You are empathetic, efficient, and solution-oriented.
# Goal:
1. Verify customer identity. This step is important.
2. Look up account and billing history.
3. Process refunds under $500 or escalate to a supervisor.
# Tools:
## processRefund
Use this tool only after verifying customer identity and confirming the refund 
is under $500. If the tool fails, apologize and escalate to a supervisor.
# Guardrails:
Never access account information without identity verification.
Never process refunds over $500 without supervisor approval.

프로덕션 에이전트를 위한 프롬프트 엔지니어링을 더 자세히 알아보려면 ElevenLabs의 전체 프롬프팅 가이드를 참조하세요.

출시 전에 명확한 에스컬레이션 규칙을 정의하세요

명확한 에스컬레이션 기준이 없으면 에이전트는 처리해서는 안 되는 일을 처리해 위험을 만들거나, 모든 일을 에스컬레이션해 도입 목적을 무색하게 합니다. 두 결과 모두 시스템에 대한 신뢰를 약화시킵니다.

출시 전에 다음 각각에 대한 에스컬레이션 조건을 정의하세요.

• 불만이 있거나 폭언을 하는 고객.
• 특정 키워드 또는 민감한 주제 유형.
• 인증 시도 실패.
• 사람의 승인이 필요한 고위험 작업.

ElevenAgents에서는 결정론적 워크플로를 통해 단계 기반 승인 프로세스 뒤에 고위험 작업을 배치할 수 있어, 승인된 경로 없이는 되돌릴 수 없는 일이 발생하지 않습니다. 시각적 워크플로 빌더를 사용하면 의사결정 지점을 매핑하고, 에스컬레이션을 유발하는 조건을 정의하며, 대화가 전문 서브에이전트 또는 담당자에게 정확히 언제 라우팅될지 제어할 수 있습니다. 모든 인계 시 전체 맥락도 함께 전달됩니다.

이를 올바르게 설정하면 담당자는 이미 전체 맥락이 첨부된 에스컬레이션을 받습니다. 고객에게 같은 내용을 다시 말해 달라고 요청할 필요가 없습니다.

실제 대화 시나리오로 테스트하세요

통제된 환경에서 좋은 성능을 보이는 에이전트도 모호한 문의, 불만이 있는 고객, 지식 베이스 범위를 약간 벗어난 요청처럼 실제 문의량에서 의미 있는 비중을 차지하는 엣지 케이스에서는 실패하는 경우가 많습니다.

출시 전에 과거 연락 데이터에서 추출한 실제 대화 시나리오로 에이전트를 테스트하세요. 쉬운 문의만 테스트하지 마세요. 엣지 케이스, 불완전한 정보, 감정적으로 격앙된 상호작용도 포함해야 합니다. 이러한 상황에서 구성이 부실한 에이전트가 가장 쉽게 실패합니다.

ElevenAgents에는 기본 제공 테스트 프레임워크가 있으며, 다음 세 가지 유형의 테스트를 지원합니다.

• 다음 응답 테스트: 특정 상호작용을 시뮬레이션하고 정의된 성공 기준에 따라 응답을 평가합니다.
• 도구 호출 테스트: 에이전트가 올바른 매개변수로 올바른 도구를 호출하는지 확인합니다. 전송, 조회, 환불 같은 중요한 작업에 필수적입니다.
• 시뮬레이션 테스트: 시뮬레이션된 사용자와 전체 멀티턴 대화를 실행해 상호작용 전체가 정의한 결과에 도달하는지 확인합니다.

테스트 시나리오의 최소 80%를 에이전트가 올바르게 처리하고 나머지는 적절히 에스컬레이션하도록 목표를 설정하세요. 또한 테스트 세트의 어떤 항목에서도 자신감은 있지만 틀린 답변을 내놓지 않아야 합니다.

에이전트를 기존 시스템에 연결하세요

정적 지식 베이스의 질문에만 답할 수 있는 에이전트는 기능이 제한적입니다. 대부분의 고객 문의에는 기존 시스템에서 주문 상태, 계정 정보, 예약 가능 여부와 같은 실시간 데이터를 가져와야 합니다. 통합이 없으면 에이전트는 정책을 설명할 수는 있어도 작업을 수행할 수 없습니다.

에이전트를 CRM, 티켓 시스템, 전화 시스템 및 담당자가 문의 해결에 사용하는 기타 시스템에 연결하세요. 잘 통합된 에이전트는 고객에게 이메일을 확인하라고 안내하는 대신 실시간으로 고객 계정을 조회해 결제 문의를 해결합니다.

ElevenAgents에서는 외부 시스템 연결을 도구를 통해 처리합니다. 에이전트 구성에서 Tools 탭으로 이동해 환경에 맞는 통합 유형을 선택하세요. 

• 클라이언트 도구: 사용자 브라우저 또는 앱에서 작업을 실행합니다.
• 웹훅 도구: API 호출을 통해 자체 백엔드에 연결하여 실시간 데이터를 가져오거나 시스템에서 작업을 수행합니다.
• 통합 도구: 웹훅 구성을 통해 Salesforce, Zendesk, Stripe 같은 타사 서비스에 연결합니다.

ElevenAgents는 Salesforce, Zendesk, Stripe, Twilio, Google Calendar 및 전자 건강 기록(EHR) 시스템과 기본적으로 연결되며, 맞춤형 통합을 위해 REST API와 MCP를 제공합니다. 

이 전체 프로세스가 어떻게 작동하는지 보고 싶으신가요? ElevenLabs에는 AI 음성 에이전트 구축에 관한 YouTube 시리즈가 있으며 전체 구축 과정을 안내합니다.

ElevenAgents 시작하기

ElevenAgents는 고객 서비스를 개선하고 처리 가능한 고객 문의 규모를 확장하려는 엔터프라이즈 지원팀을 위해 설계되었습니다. ElevenAgents로 구축한 AI 에이전트는 다음 기능을 제공합니다.

• 1초 미만의 음성 지연 시간으로 대화가 기계적이지 않고 자연스럽게 느껴집니다.
• 90개 이상의 언어를 자동 감지 및 실시간 전환 기능과 함께 지원합니다.
• 엔터프라이즈 규정 준수를 기본 제공합니다: SOC 2 Type II, ISO 27001, PCI DSS Level 1, HIPAA, GDPR.
• 기본 통합으로 Salesforce, Zendesk, Twilio, Stripe, Google Calendar 등을 지원합니다.
• 담당자 인계 시 수신 담당자에게 전체 대화 맥락이 전달됩니다.

규정 준수 요구 사항, 다중 지역 출시 또는 심층 통합이 필요한 팀을 위해 ElevenLabs의 Forward Deployed Engineers가 팀에 직접 참여하여 배포 범위를 정하고 출시 후에도 KPI에 대한 책임을 함께합니다. 준비가 되었다면 첫 번째 에이전트를 만드세요. 

FAQ