성공 평가
성공 평가
대화 품질, 목표 달성 및 고객 만족도를 평가할 맞춤 기준을 정의하세요.
성공 평가를 사용하면 대화를 위한 맞춤 목표와 성공 지표를 정의할 수 있습니다. 각 기준은 대화 기록을 기준으로 평가되며, 상세한 근거와 함께 success, failure 또는 unknown 결과를 반환합니다.
개요
성공 평가는 LLM 기반 분석을 사용하여 특정 비즈니스 목표에 따라 대화 품질을 평가합니다. 이를 통해 모든 고객 상호작용에서 체계적인 성과 측정과 품질 보증이 가능합니다.
작동 방식
각 평가 기준은 맞춤 프롬프트를 사용해 대화 기록을 분석하고 다음을 반환합니다.
- 결과:
success,failure또는unknown - 근거: 해당 결과가 선택된 이유에 대한 상세한 설명
평가 기준 유형
목표 프롬프트 기준
목표 프롬프트 기준은 특정 목표가 달성되었는지 확인하기 위해 대화 기록과 맞춤 프롬프트를 LLM에 전달합니다. 이는 가장 유연한 평가 유형으로, 복잡한 비즈니스 로직에 사용할 수 있습니다.
예시:
- 고객 만족도 평가
- 문제 해결 확인
- 규정 준수 검사
- 맞춤 비즈니스 규칙 검증
구성
모범 사례
효과적인 평가 프롬프트 작성
- 성공과 실패의 기준을 구체적으로 정의합니다
- 프롬프트에 엣지 케이스와 예시를 포함합니다
- 가능한 경우 명확하고 측정 가능한 기준을 사용합니다
- 다양한 대화 시나리오로 프롬프트를 테스트합니다
일반적인 평가 기준
- 고객 만족도: “고객이 만족을 표현했거나 문제가 해결된 경우 성공으로 표시합니다” - 목표 완료: “고객이 요청된 작업(예약, 구매 등)을 완료한 경우 성공으로 표시합니다” - 규정 준수: “에이전트가 필수 규정 준수 절차를 모두 따른 경우 성공으로 표시합니다” - 문제 해결: “통화 중 고객의 기술적 문제가 해결된 경우 성공으로 표시합니다”
모호한 결과 처리
LLM이 기록에서 성공 또는 실패를 판단할 수 없는 경우 unknown 결과가 반환됩니다. 이는 주로 다음과 같은 경우에 발생합니다.
- 불완전한 대화
- 모호한 고객 응답
- 기록의 정보 누락
unknown 결과를 모니터링하여 기준 프롬프트를 개선해야 할 영역을 파악하세요.
사용 사례
문제 해결
평가 기준에서 예상치 못한 결과가 반환됨
- 프롬프트의 명확성과 구체성을 검토합니다
- 샘플 대화로 테스트하여 로직을 검증합니다
- 평가 기준의 엣지 케이스를 고려합니다
- 기록에 평가를 위한 충분한 정보가 포함되어 있는지 확인합니다
'unknown' 결과의 빈도가 높음
- 프롬프트에 찾아야 할 정보를 구체적으로 명시합니다 - 대화에 평가에 충분한 맥락이 포함되어 있는지 고려합니다 - 기록의 품질과 완전성을 검토합니다 - 일반적인 엣지 케이스를 처리하도록 기준을 조정합니다
성능 고려사항
- 각 평가 기준은 대화 분석에 처리 시간을 추가합니다
- 복잡한 프롬프트는 평가 시간이 더 오래 걸릴 수 있습니다
- 포괄적인 분석과 응답 시간 간의 균형을 고려합니다
- 특정 요구사항에 맞게 최적화할 수 있도록 사용량을 모니터링합니다
성공 평가 결과는 외부 시스템 및 분석 플랫폼과 통합할 수 있도록 통화 후 웹훅을 통해 제공됩니다.


