AI 고객 서비스 에이전트: 정의와 도입 방법

고객 서비스 담당자 4명 중 3명 이상은 1년 전과 비교해 업무량이 늘고 복잡해졌다고 답했으며, 78%는 고객 기대치가 그 어느 때보다 높아졌다고 말합니다. 편의 경제가 기준선을 바꿨습니다. 고객은 빠르고 완전한 해결을 기대하며, 이를 제공하지 못하는 팀을 쉽게 용서하지 않습니다.

AI 고객 서비스 에이전트는 지원 리더가 더 많은 문의를 더 빠르게 처리할 수 있도록 돕습니다. 이 에이전트는 대화의 맥락을 이해하고, 연결된 도구에서 작업을 수행하며, 필요할 때 사람에게 인계할 수 있습니다. 또한 많은 팀이 이미 시도했다가 포기한 규칙 기반 챗봇보다 한 단계 발전한 솔루션입니다.

AI 에이전트를 검토 중이거나 도입할 준비가 되었다면, 이 글에서 AI 에이전트의 정의와 작동 방식, 해결률을 높이는 방법을 알아보세요.

요약

• AI 고객 서비스 에이전트는 고객 대화를 처음부터 끝까지 처리하고, 문제를 해결하며, 필요할 경우 에스컬레이션하고, 모든 맥락을 포함해 사람에게 인계합니다.
• AI 고객 서비스 에이전트의 주요 활용 사례로는 인바운드 지원, 업무 시간 외 대응, 다국어 고객 서비스가 있습니다.
• ElevenAgents는 규정 준수, 통합, 사람 인계 제어 기능을 기본 제공하여 음성 및 채팅 에이전트를 배포할 수 있는 엔터프라이즈용 플랫폼입니다.

AI 고객 서비스 에이전트란 무엇인가요?

AI 고객 서비스 에이전트는 음성과 채팅을 통해 고객과 실시간으로 대화하며 문의를 해결하는 자동화 시스템입니다.

고정된 스크립트와 패턴을 대조하는 규칙 기반 챗봇과 달리, AI 에이전트는 대화 전체 맥락을 이해하고 업로드된 지식 베이스 및 CRM이나 헬프데스크 같은 연결된 도구의 실시간 데이터를 활용해 동적으로 응답을 생성합니다. 문의가 처리 범위를 벗어나면 전체 대화 맥락을 유지한 채 사람 상담원에게 인계할 수도 있습니다.

기존 자동화와의 차별점은 단순히 정보를 검색하는 데 그치지 않고 실제 작업을 수행할 수 있다는 것입니다. AI 고객 서비스 에이전트는 사람의 개입 없이 다음 작업을 처리할 수 있습니다.

• 예약 잡기.
• 환불 처리.
• 계정 업데이트.
• 티켓 에스컬레이션.
• 문제 해결.

에이전트가 기존 시스템과 연결되어 있으므로 이러한 변경 사항은 자동으로 동기화됩니다. 예약은 캘린더에 업데이트되고, 처리된 환불은 결제 플랫폼에 반영되며, 새 티켓은 헬프데스크에 표시됩니다.

AI 고객 서비스 에이전트 활용 사례

대부분의 지원팀은 하나의 활용 사례에서 시작해 점차 확장합니다. 아래 세 가지는 문의량이 가장 많고, 지원 공백의 비용이 가장 크며, 자동화의 필요성을 가장 쉽게 입증할 수 있는 효과적인 시작점입니다.

인바운드 지원 및 문의 해결

주문 상태, 비밀번호 재설정, 청구 문의, 정책 조회처럼 대량으로 반복되는 문의가 지원팀 역량 대부분을 차지해 복잡한 사례의 우선순위가 낮아집니다.

AI 에이전트가 돕는 방법: 에이전트는 지식 베이스나 연결된 시스템에서 관련 정보를 가져와 응답을 제공하고 티켓을 해결함으로써 문의를 처음부터 끝까지 처리합니다. 계정 접근이 필요한 문의(예: 주문 상태 확인)의 경우 고객을 인증하고 CRM에서 실시간 고객 데이터를 가져옵니다.

업무 시간 외 대응

오후 5시가 되었다고 문의량이 멈추는 것은 아니지만, 인력 운영은 멈출 수 있습니다. 업무 시간 외 문의는 고객을 불만스럽게 한 채 다음 날 아침까지 기다리거나, 값비싼 야간 인력이 필요합니다.

AI 에이전트가 돕는 방법: 에이전트는 문의 응대, 예약, 요청 처리를 포함한 업무 시간 외 근무 전체를 피크 시간과 동일한 품질로 처리합니다. 사람 상담원은 다음 날 아침 전체 대화 맥락이 기록된 에스컬레이션을 이어받습니다.

다국어 지원

여러 언어로 고객을 지원하려면 일반적으로 언어별로 별도 팀이나 workflow를 구축해야 합니다. 이는 비용이 많이 들고 확장하기 어렵습니다.

AI 에이전트가 돕는 방법: AI 에이전트는 고객의 첫 메시지나 문장에서 언어를 자동으로 감지하고 그에 맞춰 응답합니다. 단일 에이전트 구성으로 수십 개 언어를 동시에 지원할 수 있으며, 필요하면 대화 중간에도 언어를 전환합니다. ElevenAgents는 자동 감지 및 실시간 전환 기능을 내장해 90개 이상의 언어를 기본 지원합니다.

AI 고객 서비스 에이전트의 이점

AI 고객 서비스 에이전트 도입의 이점은 고객 경험 향상과 지원팀 효율 증대라는 두 범주로 나뉩니다.

• 24시간 연중무휴 운영: AI 에이전트는 인력 조정 없이 언제든, 어느 날이든 문의를 처리합니다. 지원팀은 업무 시간 외 지원 공백을 완전히 없앨 수 있습니다. 고객이 새벽 2시에 문의해도 다음 날 아침의 콜백이 아니라 몇 초 안에 응답을 받습니다.
• 더 빠른 해결 시간: 고객의 72%가 기대하는 즉각적인 서비스 환경에서 대기 시간은 고객 이탈의 이유가 됩니다. 에이전트는 지식 베이스에서 답을 찾고 연결된 시스템에서 실시간으로 작업을 수행해 고객 문의를 몇 초 만에 해결합니다.
• 모든 채널에서 일관된 브랜드 응답:사람 상담원에게도 컨디션이 좋지 않은 날이 있고, 정책을 다르게 해석하거나 브랜드 가이드라인과 다른 방식으로 표현할 수 있습니다. AI 에이전트는 모든 문의에 동일한 톤, 용어, 절차를 적용하므로 부정확한 표현으로 인한 규정 준수 공백, 지역별 브랜드 불일치, 대규모 운영에서의 QA 문제를 방지합니다.
• 90개 이상 언어로 제공하는 다국어 지원:여러 시장의 고객을 지원하려면 보통 언어별로 별도 팀이나 workflow를 구축해야 하며, 이는 비용이 많이 들고 확장하기 어렵습니다. AI 에이전트는 고객 언어를 자동으로 감지하고 필요하면 대화 중간에 전환할 수 있습니다.
• 모든 대화에서 얻는 데이터와 인사이트: 모든 상호작용은 기록되고 검색할 수 있으므로 지원 리더는 고객 문의 이유의 추세를 파악하고, 지식 공백을 식별하며, 대화 데이터를 활용해 에이전트 성능과 운영 프로세스를 개선할 수 있습니다.
• 필요할 때 사람 상담원에게 원활하게 인계: 대화가 에이전트의 처리 범위를 벗어나면 대화 기록, 의도, 계정 데이터를 포함한 전체 맥락과 함께 사람 상담원에게 통화를 인계할 수 있습니다. 사람 상담원은 처음부터 다시 시작할 필요가 없어 고객 만족도가 높아집니다.

이러한 효과는 실제 운영에서 빠르게 누적됩니다. mdhub는 행동 건강 플랫폼으로, 진료 접수 및 환자 지원 workflow 전반에 ElevenAgents를 도입했습니다. AI 에이전트는 이제 인바운드 통화의 90%를 처음부터 끝까지 처리하며 환자 인구통계 정보를 수집하고, 보험을 확인하며, 예약을 잡습니다. 그 결과 mdhub의 최초 문의부터 예약까지 걸리는 시간은 수주에서 수일로 줄었고 예약은 30% 증가했습니다.

AI 고객 서비스 에이전트는 어떻게 작동하나요?

ElevenAgents는 실시간 파이프라인을 통해 음성 및 텍스트 입력을 모두 처리합니다. 작동 방식은 다음과 같습니다.

1. 고객이 말하거나 입력합니다. 음성의 경우 ElevenLabs의 음성 텍스트 변환 모델인 Scribe가 고객의 오디오를 실시간으로 텍스트로 변환합니다. 고객이 말을 마치기 전부터 처리가 시작될 만큼 빠릅니다. 텍스트 입력은 메시지가 바로 파이프라인으로 전달됩니다.
2. LLM이 대화의 전체 맥락을 구성합니다. 여기에는 이미 오간 대화, 지식 베이스의 관련 정보, 연결된 도구의 실시간 데이터, 에이전트 행동 방식을 정의하는 시스템 프롬프트가 포함됩니다. LLM은 이 모든 정보를 바탕으로 추론한 뒤 응답을 생성합니다.
3. 응답이 실시간으로 전달됩니다. 음성의 경우 LLM의 응답은 텍스트 음성 변환 시스템을 통해 다시 음성으로 변환되어 고객에게 전달됩니다.

이는 파이프라인을 단순화해 보여드린 것입니다. 내부적으로는 여러 기술이 함께 작동해 대화를 자연스럽게 유지합니다.

• 턴테이킹 모델: 사용자가 말을 마친 시점을 감지해 에이전트가 언제 응답해야 하는지 알 수 있도록 하며, 자연스러운 대화 흐름을 만듭니다.
• VAD(음성 활동 감지): 주 화자의 오디오를 배경 소음에서 분리하여 전사 정확도를 높이고 대화와 무관한 소리를 걸러냅니다.
• 음성사서함 감지: 통화가 실제 사람이 아닌 음성사서함에 연결된 경우를 식별해 에이전트가 적절히 응답할 수 있도록 합니다.
• 가드레일: 대화가 어디로 흘러가든 에이전트가 스크립트를 따르고, 규정을 준수하며, 설정한 범위 안에서 작동하도록 합니다.

이 구성 요소들이 함께 대규모 환경에서 에이전트가 실제 대화를 얼마나 안정적으로 처리하는지를 결정합니다.

AI 고객 서비스 에이전트 구현 모범 사례

해결률을 높이는 AI 에이전트와 고객을 불편하게 하는 에이전트의 차이는 보통 다섯 가지에 달려 있습니다.

탄탄한 지식 베이스를 에이전트의 기반으로 구축하세요

AI 에이전트의 답변 품질은 가져올 수 있는 정보의 품질만큼만 좋습니다. 시스템의 나머지 구성이 아무리 뛰어나도, 부실하거나 체계적이지 않은 지식 베이스는 모호하고 부정확하거나 도움이 되지 않는 응답을 만듭니다.

먼저 에이전트가 가장 자주 참조할 콘텐츠를 모으세요.

• 표준 운영 절차(SOP).
• FAQ 및 일반적인 문의 응답.
• 제품 문서.
• 정책 문서.
• 사람 상담원이 정기적으로 참조하는 기타 모든 콘텐츠.

일관된 용어를 사용하고, 주제별로 정리하며, 최신 상태를 유지하세요. 오래된 콘텐츠는 오래된 답변과 좋지 않은 고객 경험을 만듭니다.

ElevenAgents에서는 지식 베이스를 쉽게 추가할 수 있습니다. 에이전트로 이동해 “Agent” 탭을 클릭하고 “knowledge base” 섹션에서 "Add document"를 클릭하세요. 새 문서를 만들거나, 파일을 업로드하거나, 기존 문서에서 선택할 수 있습니다.

더 큰 지식 베이스를 위해 ElevenAgents는 검색 증강 생성(RAG)도 지원합니다. 이는 모든 정보를 한 번에 모델에 전달하는 대신, 각 응답에 필요한 가장 관련성 높은 콘텐츠만 지식 베이스에서 가져오는 기술입니다. 이를 통해 응답은 정확하고 집중된 상태를 유지하며, 관련 없는 정보가 에이전트를 압도하는 일을 막을 수 있습니다.

효과적인 시스템 프롬프트 작성

시스템 프롬프트는 에이전트의 직무 설명서입니다. 에이전트가 누구인지, 무엇을 하는지, 어떻게 말하는지, 무엇을 하지 않을지를 정의합니다. 모호한 프롬프트는 모호한 에이전트를 만듭니다.

모델이 지침의 우선순위를 올바르게 정할 수 있도록 명확한 마크다운 섹션으로 프롬프트를 구성하세요. 포함해야 할 핵심 섹션은 다음과 같습니다.

• 성격: 에이전트가 누구이며 어떻게 소통하는지.
• 목표: 달성하려는 목표를 순서대로 정의합니다.
• 도구: 사용할 수 있는 도구, 사용 시점, 오류 처리 방법.
• 가드레일: 절대 해서는 안 되는 작업.

모든 지침은 짧고 행동 중심으로 작성하세요. 장황한 지침은 오해의 원인이 됩니다. 엔터프라이즈 배포에서는 각 에이전트를 전문화하세요. 하나의 에이전트에 집중된 범위를 부여하는 편이 모든 것을 하려는 하나의 프롬프트보다 더 안정적으로 작동합니다.

잘 구성된 프롬프트의 축약된 예시는 다음과 같습니다.

# Personality:
You are a billing specialist. You are empathetic, efficient, and solution-oriented.
# Goal:
1. Verify customer identity. This step is important.
2. Look up account and billing history.
3. Process refunds under $500 or escalate to a supervisor.
# Tools:
## processRefund
Use this tool only after verifying customer identity and confirming the refund 
is under $500. If the tool fails, apologize and escalate to a supervisor.
# Guardrails:
Never access account information without identity verification.
Never process refunds over $500 without supervisor approval.

프로덕션 에이전트를 위한 프롬프트 엔지니어링을 더 자세히 알아보려면 ElevenLabs의 전체 프롬프팅 가이드를 참고하세요.

라이브 전 명확한 에스컬레이션 규칙 정의

명확한 에스컬레이션 기준이 없으면 에이전트가 처리해서는 안 되는 일을 처리해 위험을 만들거나, 모든 것을 에스컬레이션해 도입 목적을 무력화합니다. 두 결과 모두 시스템에 대한 신뢰를 떨어뜨립니다.

출시 전에 다음 각각에 대한 에스컬레이션 조건을 정의하세요.

• 불만이 크거나 공격적인 고객.
• 특정 키워드 또는 민감한 주제 유형.
• 인증 실패 시도.
• 사람의 승인이 필요한 고위험 작업.

ElevenAgents에서는 결정론적 workflow를 통해 단계별 승인 프로세스 뒤에 고위험 작업을 배치할 수 있으므로, 승인된 경로 없이는 되돌릴 수 없는 작업이 발생하지 않습니다. 시각적 workflow 빌더를 사용하면 의사결정 지점을 매핑하고, 에스컬레이션을 유발하는 조건을 정의하며, 대화가 전문 하위 에이전트나 사람 운영자에게 정확히 언제 라우팅될지 제어할 수 있습니다. 각 인계 시 전체 맥락도 함께 전달됩니다.

올바르게 설정하면 사람 상담원은 전체 맥락이 이미 첨부된 에스컬레이션을 받습니다. 고객에게 같은 내용을 반복해 달라고 요청할 필요가 없습니다.

실제 대화 시나리오로 테스트

통제된 조건에서 좋은 성능을 보이는 에이전트도 모호한 문의, 불만을 가진 고객, 지식 베이스 범위를 약간 벗어나는 요청처럼 실제 문의량에서 의미 있는 비중을 차지하는 엣지 케이스에서는 실패하는 경우가 많습니다.

라이브 전환 전에 과거 문의 데이터에서 가져온 실제 대화 시나리오로 에이전트를 실행해 보세요. 쉬운 문의만 테스트하지 마세요. 엣지 케이스, 불완전한 정보, 감정적으로 격한 상호작용도 포함해야 합니다. 이런 상황에서 잘못 구성된 에이전트가 가장 쉽게 실패합니다.

ElevenAgents에는 내장 테스트 프레임워크가 있으며, 다음 세 가지 테스트를 제공합니다.

• 다음 응답 테스트: 특정 상호작용을 시뮬레이션하고 정의된 성공 기준에 따라 응답을 평가합니다.
• 도구 호출 테스트: 에이전트가 올바른 매개변수로 올바른 도구를 호출하는지 확인합니다. 전송, 조회, 환불 같은 중요한 작업에서 특히 중요합니다.
• 시뮬레이션 테스트: 시뮬레이션된 사용자와 전체 멀티턴 대화를 실행하여 완전한 상호작용이 정의한 결과에 도달하는지 확인합니다.

에이전트가 테스트 시나리오의 최소 80%를 올바르게 처리하고 나머지는 적절히 에스컬레이션하도록 목표를 설정하세요. 또한 테스트 세트의 어떤 항목에서도 자신감은 있지만 틀린 답변을 생성하지 않도록 하세요.

에이전트를 기존 시스템에 연결하세요

정적 지식 베이스의 질문에만 답할 수 있는 에이전트는 기능이 제한적입니다. 대부분의 고객 문의는 기존 시스템에서 주문 상태, 계정 정보, 예약 가능 여부 등의 실시간 데이터를 가져와야 합니다. 통합이 없으면 에이전트는 정책을 설명할 수는 있어도 작업을 수행할 수 없습니다.

에이전트를 CRM, 티켓 시스템, 전화 시스템 및 사람 상담원이 문의 해결에 사용하는 기타 시스템에 연결하세요. 잘 통합된 에이전트는 고객에게 이메일을 확인하라고 말하는 대신 실시간으로 고객 계정을 조회해 청구 문의를 해결합니다.

ElevenAgents에서 외부 시스템 연결은 도구를 통해 처리합니다. 에이전트 구성의 Tools 탭으로 이동해 환경에 맞는 통합 유형을 선택하세요.

• 클라이언트 도구: 사용자의 브라우저나 앱에서 작업을 실행합니다.
• Webhook 도구: API 호출을 통해 자체 백엔드에 연결하여 실시간 데이터를 가져오거나 시스템에서 작업을 수행합니다.
• 통합 도구: webhook 구성으로 Salesforce, Zendesk, Stripe 같은 타사 서비스에 연결합니다.

ElevenAgents는 Salesforce, Zendesk, Stripe, Twilio, Google Calendar, 전자 건강 기록(EHR) 시스템을 기본 연동하며, 맞춤형 통합을 위해 REST API와 MCP도 제공합니다.

이 과정이 처음부터 끝까지 어떻게 작동하는지 보고 싶으신가요? ElevenLabs는 AI 음성 에이전트 구축 YouTube 시리즈를 통해 전체 구축 과정을 안내합니다.

ElevenAgents 시작하기

ElevenAgents는 고객 서비스를 개선하고 처리 가능한 고객 문의 규모를 확장하려는 엔터프라이즈 지원팀을 위해 설계되었습니다. ElevenAgents로 구축한 AI 에이전트는 다음 기능을 제공합니다.

• 1초 미만의 음성 지연 시간으로 로봇이 아닌 자연스러운 대화를 구현합니다.
• 90개 이상의 언어를 자동 감지 및 실시간 전환과 함께 지원합니다.
• 엔터프라이즈 규정 준수 기본 제공: SOC 2 Type II, ISO 27001, PCI DSS Level 1, HIPAA, GDPR.
• 기본 통합으로 Salesforce, Zendesk, Twilio, Stripe, Google Calendar 등을 지원합니다.
• 사람 인계 시 수신 상담원에게 전체 대화 맥락을 전달합니다.

규정 준수 요건, 다중 리전 출시 또는 심층 통합이 필요한 팀을 위해 ElevenLabs의 Forward Deployed Engineers가 팀에 직접 참여해 배포 범위를 설정하고 출시 후에도 KPI에 대한 책임을 함께합니다. 준비가 되면 첫 번째 에이전트를 만들어 보세요.

자주 묻는 질문