AI 고객 서비스 에이전트: 정의와 도입 방법

고객 서비스 담당자의 4명 중 3명 이상이 1년 전과 비교해 업무량이 늘고 더 복잡해졌다고 답했으며, 78%는 고객 기대치가 그 어느 때보다 높아졌다고 답했습니다. 편의 경제가 기준선을 바꿨습니다. 고객은 빠르고 완전한 해결을 기대하며, 이를 제공하지 못하는 팀을 쉽게 용서하지 않습니다.

AI 고객 서비스 에이전트는 지원 리더가 더 많은 문의를 더 빠르게 처리할 수 있게 합니다. 이 에이전트는 대화의 맥락을 추론하고, 연결된 도구에서 작업을 수행하며, 필요할 때 사람에게 인계할 수 있습니다. 이미 많은 팀이 시도했다가 포기한 규칙 기반 챗봇을 크게 뛰어넘는 솔루션입니다.

AI 에이전트를 검토 중이든 배포할 준비가 되었든, 이 글에서 AI 에이전트의 정의와 작동 방식, 해결률을 높이는 데 필요한 요소를 알아보세요.

요약

• AI 고객 서비스 에이전트는 고객 대화를 처음부터 끝까지 처리하며, 문제를 해결하고 필요시 에스컬레이션하며, 전체 맥락과 함께 사람에게 인계합니다.
• AI 고객 서비스 에이전트의 주요 활용 사례로는 인바운드 지원, 업무 시간 외 지원, 다국어 고객 서비스가 있습니다.
• ElevenAgents는 기본 제공되는 컴플라이언스, 통합 및 사람 인계 제어 기능을 갖춘 엔터프라이즈급 음성 및 채팅 에이전트 배포 플랫폼입니다.

AI 고객 서비스 에이전트란 무엇인가요?

AI 고객 서비스 에이전트는 음성과 채팅을 통해 고객과 실시간으로 대화하며 문의를 해결하는 자동화 시스템입니다. 

고정된 스크립트와 패턴을 대조하는 규칙 기반 챗봇과 달리, AI 에이전트는 대화의 전체 맥락을 추론하고 업로드된 지식 베이스 및 CRM이나 헬프데스크처럼 연결된 도구의 실시간 데이터를 바탕으로 동적으로 응답을 생성합니다. 문의가 처리 범위를 벗어나면 전체 대화 맥락을 유지한 채 사람 에이전트에게 인계할 수도 있습니다.

기존 자동화와 차별화되는 점은 단순히 정보를 검색하는 데 그치지 않고 작업을 수행할 수 있다는 것입니다. AI 고객 서비스 에이전트는 사람의 개입 없이 다음 작업을 처리할 수 있습니다. 

• 예약을 잡습니다.
• 환불을 처리합니다.
• 계정을 업데이트합니다.
• 티켓을 에스컬레이션합니다.
• 문제를 해결합니다.

에이전트가 기존 시스템에 연결되어 있으므로 이러한 변경 사항은 자동으로 동기화됩니다. 예약은 캘린더에 업데이트되고, 처리된 환불은 청구 플랫폼에 반영되며, 새 티켓은 헬프데스크에 표시됩니다.

AI 고객 서비스 에이전트 활용 사례

대부분의 지원 팀은 한 가지 활용 사례부터 시작해 점차 확장합니다. 아래 세 가지는 문의량이 가장 많고, 지원 공백의 비용이 가장 크며, 자동화의 필요성을 가장 쉽게 입증할 수 있는 고효율 시작점입니다.

인바운드 지원 및 문의 해결

주문 상태, 비밀번호 재설정, 청구 문의, 정책 조회와 같은 대량의 반복 문의가 지원 팀 역량 대부분을 차지해 복잡한 사례의 우선순위가 낮아집니다.

AI 에이전트의 지원 방식: 에이전트는 지식 베이스나 연결된 시스템에서 관련 정보를 검색하고, 응답을 제공하며, 티켓을 해결해 문의를 처음부터 끝까지 처리합니다. 계정 접근이 필요한 문의(예: 주문 상태 확인)의 경우 고객을 인증하고 CRM에서 실시간 고객 데이터를 가져옵니다.

Klarna는 ElevenAgents를 도입했습니다 미국 고객 3,500만 명을 위한 전화 지원의 첫 번째 창구로 사용하기 위해서입니다. 에이전트가 처리한 문의의 해결 시간은 10배 빨라져, 사람 에이전트는 복잡한 사례에 집중할 수 있게 되었습니다.

업무 시간 외 지원

오후 5시가 지나도 문의량은 멈추지 않지만 인력 배치는 그럴 수 있습니다. 업무 시간 외 문의는 다음 날 아침까지 기다려 고객의 불만을 키우거나, 비용이 많이 드는 야간 인력이 필요합니다.

AI 에이전트의 지원 방식: 에이전트는 문의 응대, 예약, 요청 처리를 포함해 업무 시간 외 근무 전체를 피크 시간과 동일한 품질로 처리합니다. 사람 에이전트는 다음 날 아침 전체 대화 맥락이 이미 기록된 에스컬레이션을 이어받습니다.

Zingage는 400개 이상의 기관에 서비스를 제공하는 재택 돌봄 운영 플랫폼으로, 24시간 통화를 처리할 수 있는 HIPAA 준수 음성 에이전트가 필요했습니다. ElevenAgents 도입 후 현재 통화의 90% 이상을 자율적으로 해결하고, 통화량은 3배 증가했으며, 발신자는 더 이상 전화 메뉴를 탐색하거나 대기할 필요가 없습니다.

다국어 지원

여러 언어로 고객을 지원하려면 일반적으로 언어별로 별도 팀이나 workflow를 구축해야 합니다. 이는 비용이 많이 들고 확장하기 어렵습니다.

AI 에이전트의 지원 방식: AI 에이전트는 고객의 첫 메시지나 문장에서 언어를 자동으로 감지하고 그에 맞춰 응답합니다. 하나의 에이전트 구성으로 수십 개 언어를 동시에 지원할 수 있으며, 필요하면 대화 중간에 언어를 전환할 수도 있습니다. ElevenAgents는 자동 감지와 실시간 전환 기능을 기본으로 제공하며 70개 이상의 언어를 지원합니다.

Revolut은 ElevenAgents를 도입했습니다 영국과 유럽 전역에서 31개 이상의 언어로 고객을 지원하기 위해서입니다. 해결 시간은 8배 단축됐고 통화 성공률은 99.7%를 기록했습니다. 마찬가지로, eDreams ODIGEO는 확장했습니다 단일 언어 테스트에서 ElevenAgents를 활용한 5개 언어의 전체 프로덕션 환경으로 확장해, 해결 속도와 전환율 모두에서 두 자릿수 개선을 달성했습니다.

AI 고객 서비스 에이전트의 이점

AI 고객 서비스 에이전트 도입의 이점은 고객 경험 향상과 지원 팀 효율성 증대라는 두 가지 범주로 나뉩니다.

• 24시간 연중무휴 가용성: AI 에이전트는 인력 조정 없이 언제든, 어떤 날이든 문의를 처리합니다. 지원 팀은 업무 시간 외 지원 공백을 완전히 없앨 수 있습니다. 고객이 새벽 2시에 문의해도 다음 날 아침의 콜백이 아니라 몇 초 안에 응답을 받습니다.
• 더 빠른 해결 시간: 고객의 72%가 기대하는 즉각적인 서비스를 제공하지 못하면 대기 시간은 고객 이탈의 원인이 됩니다. 에이전트는 지식 베이스에서 답변을 찾고 연결된 시스템에서 실시간으로 작업을 수행해 고객 문의를 몇 초 만에 해결합니다. 
• 모든 채널에서 일관된 브랜드 응답:사람 에이전트에게도 컨디션이 좋지 않은 날이 있고, 정책을 다르게 해석하거나 브랜드 가이드라인에서 벗어난 표현을 사용할 수 있습니다. AI 에이전트는 모든 문의에 동일한 톤, 용어, 프로세스를 적용하므로 부정확한 표현으로 인한 컴플라이언스 공백, 지역 간 브랜드 불일치, 대규모 운영에서의 QA 문제를 방지합니다.
• 70개 이상 언어로 제공되는 다국어 지원:여러 시장의 고객을 지원하려면 보통 언어별로 별도 팀이나 workflow를 구축해야 하므로 비용이 많이 들고 확장하기 어렵습니다. AI 에이전트는 고객 언어를 자동으로 감지하며 필요시 대화 중간에 언어를 전환할 수 있습니다.
• 모든 대화에서 얻는 데이터와 인사이트: 모든 상호작용은 기록되고 검색할 수 있으므로 지원 리더는 고객 문의 이유의 추세를 파악하고, 지식 공백을 식별하며, 대화 데이터를 활용해 에이전트 성능과 운영 프로세스를 개선할 수 있습니다.
• 필요할 때 사람 에이전트에게 원활하게 인계:대화가 에이전트의 처리 범위를 벗어나면 대화 기록, 의도, 계정 데이터를 포함한 전체 맥락과 함께 사람 에이전트에게 통화를 인계할 수 있습니다. 사람 에이전트가 처음부터 다시 시작할 필요가 없어 고객 만족도가 높아집니다.

이러한 효과는 실제 운영에서 빠르게 누적됩니다. mdhub는 행동 건강 플랫폼으로, 클리닉 입원 및 환자 지원 workflow 전반에 ElevenAgents를 배포했습니다. 이제 AI 에이전트가 환자 인구통계 정보 수집, 보험 확인, 예약을 포함해 인바운드 통화의 90%를 처음부터 끝까지 처리합니다. 그 결과 mdhub의 첫 문의부터 예약까지 걸리는 시간은 몇 주에서 며칠로 줄었고, 예약은 30% 증가했습니다.

AI 고객 서비스 에이전트는 어떻게 작동하나요?

ElevenAgents는 실시간 파이프라인을 통해 음성 및 텍스트 입력을 모두 처리합니다. 작동 방식은 다음과 같습니다.

1. 고객이 말하거나 입력합니다. 음성의 경우 ElevenLabs의 음성 텍스트 변환 모델인 Scribe가 고객의 오디오를 실시간으로 텍스트로 변환합니다. 고객이 말을 끝내기도 전에 처리가 시작될 만큼 빠릅니다. 텍스트 입력은 메시지가 바로 파이프라인으로 전달됩니다.
2. LLM이 대화의 전체 맥락을 구성합니다. 여기에는 지금까지의 대화 내용, 지식 베이스에서 관련성이 있다고 판단한 정보, 연결된 도구의 실시간 데이터, 에이전트의 행동 방식을 정의하는 시스템 프롬프트가 포함됩니다. 응답을 생성하기 전에 이 모든 정보를 추론합니다.
3. 응답이 실시간으로 전달됩니다. 음성의 경우 LLM의 응답은 텍스트 음성 변환 시스템을 통해 다시 음성으로 변환되어 고객에게 전달됩니다.

이는 파이프라인을 단순화해 보여드린 것입니다. 내부적으로는 여러 기술이 함께 작동해 대화를 자연스럽게 유지합니다.

• 턴 테이킹 모델: 사용자가 말을 마친 시점을 감지해 에이전트가 언제 응답해야 하는지 알 수 있게 하며, 자연스러운 대화 흐름을 만듭니다.
• VAD(음성 활동 감지):주 화자의 오디오와 배경 소음을 분리해 전사 정확도를 높이고 대화와 무관한 소리를 필터링합니다.
• 음성사서함 감지: 통화가 실제 사람 대신 음성사서함에 연결된 경우를 식별해 에이전트가 적절히 응답할 수 있게 합니다.
• 가드레일:대화가 어디로 흘러가든 에이전트가 스크립트, 컴플라이언스 및 설정한 범위 내에서 작동하도록 합니다.

이러한 구성 요소가 함께 대규모 환경에서 에이전트가 실제 대화를 얼마나 안정적으로 처리하는지를 결정합니다.

AI 고객 서비스 에이전트 구현 모범 사례

해결률을 높이는 AI 에이전트와 고객을 불편하게 하는 에이전트의 차이는 보통 다음 다섯 가지에서 비롯됩니다.

탄탄한 지식 베이스를 에이전트의 기반으로 구축하세요

AI 에이전트의 답변 품질은 검색할 수 있는 정보의 품질만큼 좋습니다. 나머지 시스템 구성이 아무리 뛰어나도 지식 베이스가 약하거나 체계적이지 않으면 모호하고 부정확하거나 도움이 되지 않는 응답이 나옵니다.

먼저 에이전트가 가장 자주 참조할 콘텐츠를 수집하세요.

• 표준 운영 절차(SOP).
• FAQ 및 일반적인 문의 응답.
• 제품 문서.
• 정책 문서.
• 사람 에이전트가 정기적으로 참조하는 기타 모든 콘텐츠.

일관된 용어를 사용하고, 주제별로 정리하며, 최신 상태로 유지하세요. 오래된 콘텐츠는 오래된 답변과 좋지 않은 고객 경험을 만듭니다.

ElevenAgents에서 지식 베이스를 추가하는 방법은 간단합니다. 에이전트로 이동해 “Agent” 탭을 클릭하고 “knowledge base” 섹션에서 "Add document"를 클릭하세요. 새 문서를 만들거나, 파일을 업로드하거나, 기존 문서에서 선택할 수 있습니다. 

더 큰 지식 베이스를 위해 ElevenAgents는 검색 증강 생성(RAG)도 지원합니다. 이는 모든 정보를 한 번에 모델에 전달하는 대신 각 응답에 필요한 가장 관련성 높은 콘텐츠만 지식 베이스에서 가져오는 기술입니다. 응답의 정확성과 집중도를 높이고, 관련 없는 정보로 에이전트가 과부하되는 것을 방지합니다.

효과적인 시스템 프롬프트 작성

시스템 프롬프트는 에이전트의 직무 설명서입니다. 에이전트가 누구인지, 무엇을 하는지, 어떻게 말하는지, 무엇을 하지 않을지를 정의합니다. 모호한 프롬프트는 모호한 에이전트를 만듭니다.

모델이 지침의 우선순위를 올바르게 판단할 수 있도록 명확한 마크다운 섹션으로 프롬프트를 구성하세요. 포함해야 할 핵심 섹션은 다음과 같습니다.

• 성격: 에이전트가 누구이며 어떻게 소통하는지.
• 목표: 달성하려는 결과와 그 순서.
• 도구: 사용할 수 있는 도구, 사용 시점 및 오류 처리 방식.
• 가드레일: 절대 해서는 안 되는 일.

모든 지침은 짧고 행동 중심으로 작성하세요. 장황한 지침은 오해의 원인이 됩니다. 엔터프라이즈 배포에서는 각 에이전트의 역할을 전문화하세요. 에이전트 하나에 집중된 범위를 부여하는 편이 모든 일을 하려는 하나의 프롬프트보다 더 안정적으로 작동합니다.

다음은 잘 구성된 프롬프트의 간략한 예시입니다.

# Personality:
You are a billing specialist. You are empathetic, efficient, and solution-oriented.
# Goal:
1. Verify customer identity. This step is important.
2. Look up account and billing history.
3. Process refunds under $500 or escalate to a supervisor.
# Tools:
## processRefund
Use this tool only after verifying customer identity and confirming the refund 
is under $500. If the tool fails, apologize and escalate to a supervisor.
# Guardrails:
Never access account information without identity verification.
Never process refunds over $500 without supervisor approval.

프로덕션 에이전트를 위한 프롬프트 엔지니어링을 자세히 알아보려면 ElevenLabs의 전체 프롬프팅 가이드를 참조하세요.

출시 전 명확한 에스컬레이션 규칙 정의

명확한 에스컬레이션 기준이 없으면 에이전트가 처리해서는 안 되는 일을 처리해 위험을 만들거나, 모든 것을 에스컬레이션해 목적을 무색하게 만듭니다. 어느 쪽이든 시스템에 대한 신뢰를 떨어뜨립니다.

출시 전에 다음 각각에 대한 에스컬레이션 조건을 정의하세요.

• 불만이 크거나 폭언을 하는 고객.
• 특정 키워드 또는 민감한 주제 유형.
• 인증 시도 실패.
• 사람의 승인이 필요한 고위험 작업.

ElevenAgents에서는 결정론적 workflow를 통해 단계별 승인 프로세스 뒤에 고위험 작업을 배치할 수 있어 승인된 경로 없이는 되돌릴 수 없는 일이 발생하지 않습니다. 시각적 workflow 빌더를 사용하면 의사 결정 지점을 매핑하고, 에스컬레이션을 유발하는 조건을 정의하며, 대화가 전문 서브에이전트나 사람 운영자에게 정확히 언제 라우팅될지 제어할 수 있습니다. 모든 인계 시 전체 맥락이 유지됩니다.

이 설정을 올바르게 마치면 사람 에이전트는 전체 맥락이 이미 첨부된 에스컬레이션을 받습니다. 고객에게 같은 말을 반복해 달라고 요청할 필요가 없습니다.

실제 대화 시나리오로 테스트하세요

통제된 조건에서 뛰어난 성능을 보이는 에이전트도 모호한 문의, 불만 고객, 지식 베이스 범위를 약간 벗어난 요청처럼 실제 문의량에서 유의미한 비중을 차지하는 엣지 케이스에서는 실패하는 경우가 많습니다.

출시 전에 과거 문의 데이터에서 가져온 실제 대화 시나리오로 에이전트를 실행하세요. 쉬운 문의만 테스트하지 마세요. 엣지 케이스, 불완전한 정보, 감정적으로 격앙된 상호작용을 포함해야 합니다. 이런 상황에서 잘못 구성된 에이전트가 가장 쉽게 실패합니다.

ElevenAgents에는 기본 제공 테스트 프레임워크가 있으며, 다음 세 가지 테스트를 지원합니다.

• 다음 응답 테스트: 특정 상호작용을 시뮬레이션하고 정의된 성공 기준에 따라 응답을 평가합니다.
• 도구 호출 테스트: 에이전트가 올바른 도구를 올바른 파라미터로 호출하는지 검증합니다. 전환, 조회, 환불 같은 중요한 작업에 필수적입니다.
• 시뮬레이션 테스트: 시뮬레이션된 사용자와 전체 멀티턴 대화를 실행해 전체 상호작용이 정의한 결과에 도달하는지 확인합니다.

테스트 시나리오의 최소 80%를 에이전트가 올바르게 처리하고 나머지는 적절히 에스컬레이션하도록 목표를 세우세요. 또한 테스트 세트의 어떤 항목에서도 자신감은 있지만 틀린 답변을 생성하지 않아야 합니다.

에이전트를 기존 시스템에 연결하세요

정적인 지식 베이스의 질문에만 답할 수 있는 에이전트는 기능이 제한적입니다. 대부분의 고객 문의는 기존 시스템에서 실시간 데이터(주문 상태, 계정 정보, 예약 가능 여부)를 가져와야 합니다. 통합이 없으면 에이전트는 정책을 설명할 수는 있어도 작업을 수행할 수 없습니다.

에이전트를 CRM, 티켓 시스템, 전화 시스템 및 사람 에이전트가 문의 해결에 사용하는 기타 시스템에 연결하세요. 잘 통합된 에이전트는 고객에게 이메일을 확인하라고 안내하는 대신 실시간으로 고객 계정을 조회해 청구 문의를 해결합니다.

ElevenAgents에서 외부 시스템 연결은 도구를 통해 처리됩니다. 에이전트 구성의 Tools 탭으로 이동해 설정에 맞는 통합 유형을 선택하세요. 

• 클라이언트 도구: 사용자의 브라우저 또는 앱에서 작업을 트리거합니다.
• Webhook 도구: API 호출을 통해 자체 백엔드에 연결하여 실시간 데이터를 가져오거나 시스템에서 작업을 수행합니다.
• 통합 도구:Webhook 구성으로 Salesforce, Zendesk, Stripe 같은 타사 서비스에 연결합니다.

ElevenAgents는 Salesforce, Zendesk, Stripe, Twilio, Google Calendar 및 전자 건강 기록(EHR) 시스템과 기본으로 연결되며, 맞춤형 통합을 위한 REST API와 MCP도 제공합니다. 

이 과정이 처음부터 끝까지 어떻게 작동하는지 확인하고 싶으신가요? ElevenLabs에는 AI 음성 에이전트 구축 YouTube 시리즈가 있으며 전체 구축 과정을 안내합니다.

ElevenAgents 시작하기

ElevenAgents는 고객 서비스를 개선하고 처리 가능한 고객 문의 규모를 확장하려는 엔터프라이즈 지원 팀을 위해 만들어졌습니다. ElevenAgents로 구축한 AI 에이전트는 다음 기능을 제공합니다.

• 1초 미만의 음성 지연 시간으로 로봇 같지 않고 자연스러운 대화를 구현합니다.
• 70개 이상 언어의 자동 감지 및 실시간 전환.
• 엔터프라이즈 컴플라이언스 기본 제공: SOC 2 Type II, ISO 27001, PCI DSS Level 1, HIPAA, GDPR.
• 기본 통합: Salesforce, Zendesk, Twilio, Stripe, Google Calendar 등.
• 사람 인계 시 수신 에이전트에게 전체 대화 맥락을 전달합니다.

컴플라이언스 요구 사항, 다중 지역 출시 또는 심층 통합이 필요한 팀을 위해 ElevenLabs의 Forward Deployed Engineers가 팀에 합류해 배포 범위를 정의하고, 출시 후에도 KPI에 대한 책임을 함께합니다. 준비가 되셨다면 첫 번째 에이전트를 만드세요. 

FAQ