대화 흐름

개요

대화 흐름 설정은 사용자 침묵 시간, 발화 중 끼어듦, 턴 전환 방식을 어시스턴트가 처리하는 방법을 결정합니다. 이러한 설정을 통해 더 자연스러운 대화를 만들 수 있으며, 사용 사례에 맞게 맞춤 설정할 수 있습니다.

최대 대화 시간

최대 대화 시간 설정은 대화가 활성 상태로 유지될 수 있는 총 시간을 제한합니다. 이 전역 제한은 대화가 시작될 때 적용되며 턴 수준의 타임아웃과 별개로 작동합니다. 기본값은 600초(10분)입니다. 60초에서 7,200초 사이의 값을 설정할 수 있습니다.

구성

CLI 및 API에서는 conversation_config.conversation.max_duration_seconds 필드로 이 설정을 구성합니다.

침묵 후 턴 전환

침묵 후 턴 전환 설정은 사용자 침묵 시간 동안 어시스턴트가 다음 턴을 진행하고 응답을 요청하기 전까지 대기하는 시간을 결정합니다.

구성

값은 초 단위로 지정하며 1초에서 30초 사이여야 합니다. CLI 및 API에서는 conversation_config.turn.turn_timeout 필드로 이 설정을 구성합니다.

권장 사항

• 빠른 대화가 예상되는 일상적인 대화에는 짧은 타임아웃(5~10초)을 설정합니다
• 사용자가 생각하거나 복잡한 응답을 구성하는 데 더 많은 시간이 필요할 수 있다면 긴 타임아웃(10~30초)을 사용합니다
• 사용자 상황을 고려하세요. 고객 서비스에는 짧은 타임아웃이 유리할 수 있지만 기술 지원에는 더 긴 타임아웃이 필요할 수 있습니다

소프트 타임아웃

소프트 타임아웃은 LLM이 응답을 생성하는 데 예상보다 오래 걸릴 때 즉각적인 오디오 피드백을 제공합니다. 대기 중 어색한 침묵 대신 에이전트가 “흠…” 또는 “생각해 볼게요…”와 같은 짧은 추임새를 말해 자연스러운 대화 흐름을 유지합니다.

이 기능은 다음과 같은 경우에 유용합니다:

• 더 긴 LLM 처리가 필요한 복잡한 쿼리
• LLM 제공업체의 가변적인 지연 시간 처리
• 자연스러운 생각의 쉼을 통해 더 사람 같은 대화 만들기

작동 방식

1. 사용자가 말을 마치면 시스템이 LLM 응답 생성을 시작합니다
2. 구성된 타임아웃 시간을 기준으로 타이머가 시작됩니다
3. LLM 응답이 타임아웃 이전에 도착하면 추임새를 말하지 않습니다
4. LLM이 응답하기 이전에 타임아웃에 도달하면:
   • 구성된 추임새 메시지를 즉시 말합니다
   • 에이전트는 실제 응답을 계속 기다립니다
   • 준비가 완료되면 에이전트가 전체 LLM 응답을 말합니다

소프트 타임아웃은 추임새가 연속으로 여러 번 나오는 것을 방지하기 위해 턴당 한 번만 실행됩니다.

구성

타임아웃 시간

LLM 응답을 기다리는 동안 추임새 메시지를 말하기 전까지의 시간(초)입니다.

정적 메시지

소프트 타임아웃이 실행될 때 말하는 미리 정의된 추임새 문구입니다.

이 메시지는 다음을 지원합니다:

• 언어 재정의: 에이전트에 구성된 추가 언어로 자동 번역됩니다
• 클라이언트 재정의: SDK를 통해 통화별로 맞춤 설정할 수 있습니다

LLM 생성 메시지

활성화하면 정적 메시지 대신 경량 LLM을 사용해 문맥에 맞는 추임새 문구를 동적으로 생성합니다.

시스템은 최근 대화 문맥(최대 4개 메시지, 1000자)을 사용하여 “흠…”, “그렇군요…”, “알겠습니다…”, “이해했습니다…”, “좋아요…”와 같은 관련 추임새를 생성합니다.

권장 사항

• 실제 응답 시간은 예측할 수 없으므로 추임새 메시지에 시간 표현(예: “잠시만요…”)을 넣지 마세요
• 응답이 일관되게 빠른 간단한 FAQ 봇에서는 소프트 타임아웃을 비활성화하세요

끼어듦

끼어듦 처리는 어시스턴트가 말하는 동안 사용자가 끼어들 수 있는지를 결정합니다.

구성

끼어듦 설정은 에이전트의 고급 탭에 있는 클라이언트 이벤트에서 구성할 수 있습니다.

끼어듦을 활성화하려면 끼어듦이 선택된 클라이언트 이벤트인지 확인하세요.

끼어듦 활성화

끼어듦 비활성화

끼어듦 권장 사항

• 자연스러운 대화 흐름에서 주고받는 대화가 예상되는 경우 끼어듦을 활성화하세요
• 메시지 완료가 중요한 경우(예: 이용 약관, 안전 정보)에는 끼어듦을 비활성화하세요
• 사용 사례의 맥락을 고려하세요. 고객 서비스에는 끼어듦이 유용할 수 있지만 정보 전달에는 그렇지 않을 수 있습니다

턴 응답 적극성

턴 응답 적극성은 대화 중 어시스턴트가 사용자 입력에 응답하는 속도를 제어합니다. 이 설정은 감지된 발화 패턴을 바탕으로 어시스턴트가 턴을 전환하고 말하기 시작하는 데 얼마나 적극적인지를 결정합니다.

작동 방식

이제 어시스턴트에는 더 자연스러운 턴 전환을 위한 두 가지 주요 개선 사항이 포함됩니다:

1. 더 빠른 응답 생성 - 어시스턴트는 언어 모델에서 충분한 단어와 쉼표를 받으면 완전한 문장을 기다리지 않고 말하기 시작합니다. 이를 통해 지연 시간이 줄어들고, 특히 어시스턴트의 응답이 긴 경우 더 반응성 높은 대화를 만들 수 있습니다.

2. 구성 가능한 턴 응답 적극성 - 어시스턴트가 멈춤이나 발화 패턴을 응답 기회로 해석하는 속도를 제어합니다.

구성

세 가지 모드를 사용할 수 있습니다:

• 적극적 - 어시스턴트가 사용자 입력에 빠르게 응답하며, 가장 이른 기회에 대화에 참여합니다. 즉각적인 응답이 중요한 빠른 템포의 대화에 적합합니다.
• 일반 - 대부분의 대화 시나리오에 잘 맞는 균형 잡힌 턴 전환입니다. 어시스턴트는 자연스러운 대화의 휴지 후에 응답합니다.
• 여유 있음 - 어시스턴트는 턴을 전환하기 전에 더 오래 기다려 사용자가 생각을 마칠 시간을 더 제공합니다. 상세 정보를 수집하거나 사용자가 응답을 구성할 시간이 필요한 경우에 적합합니다.

턴 응답 적극성 권장 사항

• 빠른 응답이 사용자 경험을 개선하는 고객 서비스 시나리오에는 적극적 모드를 사용하세요
• 전화번호, 주소, 이메일 주소와 같은 구조화된 정보를 수집할 때는 여유 있음 모드를 사용하세요
• 일반적인 대화 흐름의 기본값으로는 일반 모드를 사용하세요
• workflow와 결합하여 대화 맥락에 따라 턴 응답 적극성을 동적으로 조정하세요
• 특정 사용 사례에서 최적의 균형을 찾기 위해 다양한 설정을 테스트하세요

권장 구성