프롬프팅 가이드
프롬프팅 가이드
프로덕션 수준 대화형 AI를 위한 시스템 설계 원칙
소개
효과적인 프롬프팅은 ElevenLabs Agents를 기계적인 수준에서 생동감 있는 수준으로 바꿉니다.

시스템 프롬프트는 AI 에이전트의 개성과 정책을 담은 청사진입니다. 엔터프라이즈 환경에서는 에이전트의 역할, 목표, 사용 가능한 도구, 특정 작업을 위한 단계별 지침, 그리고 에이전트가 해서는 안 될 일을 설명하는 가드레일을 정의하므로 대개 정교하게 구성됩니다. 이 프롬프트를 구성하는 방식은 안정성에 직접적인 영향을 미칩니다.
시스템 프롬프트는 대화 행동과 응답 스타일을 제어하지만, 차례 주고받기와 같은 대화 흐름 메커니즘이나 에이전트가 말할 수 있는 언어와 같은 에이전트 설정은 제어하지 않습니다. 이러한 측면은 플랫폼 수준에서 처리됩니다.
호스팅 MCP 서버를 사용하면 Claude 및 기타 MCP 클라이언트가 에이전트의 시스템 프롬프트를 직접 읽고 업데이트할 수 있으므로, 대화형으로 프롬프트를 작성하고 검토하며 개선할 수 있습니다.

프롬프트 엔지니어링 기본 원칙
시스템 프롬프트는 AI 에이전트의 성격과 정책을 설계하는 청사진입니다. 엔터프라이즈 환경에서는 에이전트의 역할, 목표, 사용 가능한 도구, 특정 작업을 위한 단계별 지침, 그리고 에이전트가 해서는 안 되는 일을 설명하는 가드레일을 정의하므로 대체로 복잡해집니다. 이 프롬프트를 구성하는 방식은 신뢰성에 직접적인 영향을 미칩니다.
다음 원칙은 프로덕션급 프롬프트 엔지니어링의 기반을 이룹니다.
지침을 명확한 섹션으로 분리하세요
마크다운 제목을 사용해 지침을 전용 섹션으로 분리하면 모델이 지침의 우선순위를 정하고 올바르게 해석하는 데 도움이 됩니다. 공백과 줄바꿈으로 지침을 구분하세요.
신뢰성에 중요한 이유: 모델은 특정 제목, 특히 # Guardrails에 더 주의를 기울이도록 조정되어 있으며, 명확한 섹션 경계는 한 컨텍스트의 규칙이 다른 컨텍스트에 영향을 주는 지침 간섭을 방지합니다.
최대한 간결하게 작성하세요
모든 지침은 짧고 명확하며 행동 중심으로 작성하세요. 불필요한 표현은 제거하고, 모델이 올바르게 행동하는 데 꼭 필요한 내용만 다시 명시하세요.
신뢰성에 중요한 이유: 간결한 지침은 모호성과 토큰 사용량을 줄입니다. 불필요한 모든 단어는 오해의 원인이 될 수 있습니다.
에이전트가 특정한 어조를 유지해야 한다면 # Personality 또는 # Tone 섹션에서 명확하고 간결하게 정의하세요. 프롬프트 전체에서 어조 관련 지침을 반복하지 마세요.
중요한 지침을 강조하세요
줄 끝에 “이 단계는 중요합니다”를 추가해 중요한 단계를 강조하세요. 프롬프트에서 가장 중요한 지침 1~2개를 두 번 반복하면 이를 강화하는 데 도움이 될 수 있습니다.
신뢰성에 중요한 이유: 복잡한 프롬프트에서는 모델이 이전 지침보다 최근 컨텍스트를 우선시할 수 있습니다. 강조와 반복은 중요한 규칙이 간과되지 않도록 합니다.
텍스트 정규화
텍스트 음성 변환 모델, 특히 더 빠른 모델은 알파벳 텍스트에서 음성을 생성하는 데 가장 뛰어납니다. 따라서 숫자와 ”@”, ”£” 같은 기호는 잘못된 발음이나 음성 환각을 일으킬 가능성이 더 높습니다.
이를 해결하기 위해 텍스트가 TTS 모델에 도달하기 전에 알파벳이 아닌 텍스트를 단어로 정규화하고(예: 123 -> one-hundred and twenty three, john@gmail.com -> john at gmail dot com), 서로 다른 장단점이 있는 여러 정규화 전략을 선택할 수 있도록 지원합니다.
정규화 전략
text_normalisation_type 에이전트 구성에서 2가지 정규화 전략을 지원합니다.
system_prompt (기본값) — 텍스트가 TTS 모델에 도달하기 전에 LLM이 숫자와 기호를 단어로 풀어 쓰도록 시스템 프롬프트에 지침을 추가합니다.
- 추가 지연 시간 없음
- LLM이 가끔 정규화에 실패할 수 있음
- 트랜스크립트에 모든 내용이 단어로 풀어 쓰여 표시됨(예: “$1,000” 대신 “one thousand dollars”)
TTS 정규화기를 사용하지 않고 있는데도 LLM이 가끔 정규화되지 않은 텍스트로 응답한다면, 더 지능적인 LLM으로 전환하거나 시스템 프롬프트에 추가 정규화 지침을 넣어 보세요.
elevenlabs — LLM 생성 후 텍스트가 TTS 모델에 도달하기 전에 TTS 정규화기를 사용하여 텍스트를 정규화합니다.
- LLM 기반 정규화보다 안정적
- 시스템 프롬프트를 수정하지 않음
- 트랜스크립트에 기호와 숫자가 포함된 자연스러운 형식이 유지됨(예: “$1,000”)
- 약간의 지연 시간 추가
사용 사례에서 트랜스크립트 가독성이 중요하다면 elevenlabs 정규화기 사용을 고려하세요. 자연스러운 기호와 숫자를 유지해 트랜스크립트를 깔끔하게 보존하면서도 올바르게 발화된 오디오를 생성합니다.
플랫폼의 “Agent” 탭에서 “Voices” 섹션의 톱니바퀴 아이콘을 클릭해 공통 음성 설정 시트를 열고, 하단에서 이 구성을 설정할 수 있습니다.
도구 입력을 위한 구조화된 데이터
system_prompt 정규화 설정을 사용하면 LLM은 응답에서 기호와 숫자를 단어로 풀어 씁니다(예: john@gmail.com 대신 john at gmail dot com). 음성-텍스트 변환으로 생성된 사용자 트랜스크립트도 비표준 형식으로 들어올 수 있습니다. 따라서 이러한 세부 정보를 도구 호출의 파라미터로 사용할 때 LLM은 대화 컨텍스트에 있는 비구조화된 버전을 사용할 수 있습니다.
도구 파라미터가 올바르게 형식화된 값(예: john at gmail dot com이 아닌 john@gmail.com)을 기대한다면 LLM이 이를 알아야 합니다. 예시와 함께 기대하는 형식을 도구 파라미터 설명에 직접 포함하세요.
가드레일 전용 섹션을 만드세요
모델이 항상 따라야 하는 타협 불가능한 규칙을 전용 # Guardrails 섹션에 모두 나열하세요. 모델은 이 제목에 특히 더 주의를 기울이도록 조정되어 있습니다.
신뢰성에 중요한 이유: 가드레일은 부적절한 응답을 방지하고 정책 준수를 보장합니다. 전용 섹션에 모아 두면 감사와 업데이트가 더 쉬워집니다.
효과적인 가드레일 설계에 대해 자세히 알아보려면 가드레일 가이드를 참고하세요.
신뢰성을 위한 도구 구성
트랜잭션 workflow를 처리할 수 있는 에이전트는 매우 효과적일 수 있습니다. 이를 위해 에이전트에는 다른 시스템에서 작업을 수행하거나 실시간 데이터를 가져올 수 있는 도구가 갖춰져야 합니다.
프롬프트 구조만큼 중요한 것은 에이전트가 사용할 수 있는 도구를 설명하는 방식입니다. 명확하고 행동 중심적인 도구 정의는 모델이 도구를 올바르게 호출하고 오류 발생 시 원활하게 복구하도록 돕습니다.
세부 파라미터로 도구를 정확하게 설명하세요
도구를 만들 때 모든 파라미터에 설명을 추가하세요. 이렇게 하면 LLM이 도구 호출을 정확하게 구성하는 데 도움이 됩니다.
도구 설명: “주문 ID로 고객 주문 상태를 조회하고 현재 상태, 예상 배송일 및 배송 추적 번호를 반환합니다.”
파라미터 설명:
order_id(필수): “작성된 문자 형식의 고유 주문 식별자(예: ‘ORD123456’)”include_history(선택 사항): “true이면 상태 변경을 포함한 전체 주문 이력을 반환합니다”
신뢰성에 중요한 이유: 파라미터 설명은 모델을 위한 인라인 문서 역할을 합니다. 형식 기대치, 필수 및 선택 필드, 허용되는 값을 명확히 합니다.
시스템 프롬프트에서 각 도구를 언제, 어떻게 사용할지 설명하세요
시스템 프롬프트에서 각 도구를 언제 어떻게 사용해야 하는지 명확하게 정의하세요. 도구 설명에만 의존하지 말고 사용 컨텍스트와 순서 논리를 제공하세요.
도구 파라미터 설명에 예상 형식을 명시하세요
도구에 구조화된 식별자(이메일, 전화번호, 코드)가 필요한 경우, 예시와 함께 예상 형식을 파라미터 설명에 명시하세요. 정규화 및 음성-텍스트 트랜스크립션으로 인해 대화 컨텍스트에 발화 형식의 값이 생성될 수 있으므로 이는 특히 중요합니다. 배경 정보는 도구 입력을 위한 구조화된 데이터를 참고하세요.
도구 호출 실패를 원활하게 처리하세요
도구는 네트워크 문제, 누락된 데이터 또는 기타 오류로 인해 가끔 실패할 수 있습니다. 복구를 위한 명확한 지침을 시스템 프롬프트에 포함하세요.
신뢰성에 중요한 이유: 프로덕션 환경에서는 도구 실패가 불가피합니다. 명시적인 처리 지침이 없으면 에이전트가 응답을 환각하거나 잘못된 정보를 제공할 수 있습니다.
신뢰할 수 있는 도구 통합 구축에 관한 자세한 안내는 클라이언트 도구, 웹훅 도구, MCP 도구 문서를 참고하세요.
엔터프라이즈 에이전트를 위한 아키텍처 패턴
강력한 프롬프트와 도구가 에이전트 신뢰성의 기반을 이루지만, 프로덕션 시스템에는 신중한 아키텍처 설계가 필요합니다. 엔터프라이즈 에이전트는 단일하고 모놀리식한 프롬프트의 범위를 넘어서는 복잡한 workflow를 처리합니다.
에이전트를 전문화하세요
지침이 지나치게 광범위하거나 컨텍스트 윈도우가 크면 지연 시간이 늘어나고 정확도가 낮아집니다. 각 에이전트는 좁고 명확하게 정의된 지식 기반과 책임 범위를 가져야 합니다.
신뢰성에 중요한 이유: 전문화된 에이전트는 처리할 엣지 케이스가 적고, 성공 기준이 더 명확하며, 응답 시간이 더 빠릅니다. 테스트, 디버그, 개선도 더 쉽습니다.
범용 “모든 것을 하는” 에이전트는 명확한 핸드오프가 있는 전문 에이전트 네트워크보다 유지 관리가 어렵고 프로덕션에서 실패할 가능성이 더 높습니다.
오케스트레이터와 전문 에이전트 패턴을 사용하세요
복잡한 작업의 경우, 전문 에이전트 간에 작업을 전달하고 필요할 때는 사람 운영자에게도 전달하는 멀티 에이전트 workflow를 설계하세요.
아키텍처 패턴:
- 오케스트레이터 에이전트: 의도 분류에 따라 들어오는 요청을 적절한 전문 에이전트로 라우팅
- 전문 에이전트: 도메인별 작업 처리(청구, 일정 관리, 기술 지원 등)
- 사람 에스컬레이션: 복잡하거나 민감한 사례를 위한 정의된 핸드오프 기준
이 패턴의 이점:
- 각 전문 에이전트에 집중된 프롬프트와 줄어든 컨텍스트 제공
- 시스템에 영향을 주지 않고 개별 전문 에이전트를 더 쉽게 업데이트 가능
- 도메인별 명확한 지표 제공(청구 해결률, 일정 예약 성공률 등)
- 상호작용당 지연 시간 감소(더 작은 프롬프트, 더 빠른 추론)
명확한 핸드오프 기준을 정의하세요
멀티 에이전트 workflow를 설계할 때는 에이전트 간 또는 사람 운영자에게 제어를 정확히 언제 어떻게 전달해야 하는지 명시하세요.
멀티 에이전트 workflow 구축에 관한 자세한 안내는 Workflow 문서를 참고하세요.
엔터프라이즈 신뢰성을 위한 모델 선택
적합한 모델 선택은 성능 요구 사항, 특히 지연 시간, 정확도, 도구 호출 신뢰성에 따라 달라집니다. 모델마다 속도, 추론 능력, 비용 간의 장단점이 다릅니다.
장단점을 이해하세요
지연 시간: 일반적으로 더 작은 모델(파라미터 수가 적은 모델)은 응답이 더 빠르므로 빈도가 높고 복잡도가 낮은 상호작용에 적합합니다.
정확도: 더 큰 모델은 더 강력한 추론 능력을 제공하고 복잡한 다단계 작업을 더 잘 처리하지만, 지연 시간과 비용이 더 높습니다.
도구 호출 신뢰성: 모든 모델이 도구/함수 호출을 동일한 정확도로 처리하는 것은 아닙니다. 일부 모델은 구조화된 출력에 뛰어나지만, 다른 모델은 더 명시적인 프롬프트가 필요할 수 있습니다.
사용 사례별 모델 권장 사항
수백만 건의 에이전트 상호작용 배포를 바탕으로 다음과 같은 패턴이 나타납니다.
-
GLM 5.2 또는 GPT-6 Luna (권장 시작점): 지연 시간, 정확도, 비용의 균형이 모두 필요한 범용 엔터프라이즈 에이전트에 가장 적합합니다. 낮음에서 보통 수준의 지연 시간, 강력한 도구 호출 성능, 합리적인 상호작용당 비용을 제공합니다. 고객 지원, 일정 관리, 주문 관리, 일반 문의 처리에 이상적입니다.
-
DeepSeek Flash 4.1 또는 Gemini 3.5 Flash-Lite (초저지연): 속도가 중요한 고빈도 단순 상호작용에 가장 적합합니다. 폭넓은 일반 지식과 가장 낮은 지연 시간을 제공하지만, 복잡한 도구 호출에서는 성능이 낮습니다. 초기 라우팅/분류, 간단한 FAQ, 예약 확인, 기본 데이터 수집에 대규모로 비용 효율적입니다.
-
Claude Sonnet 5.5 (복잡한 추론): 다단계 문제 해결, 섬세한 판단, 복잡한 도구 오케스트레이션에 가장 적합합니다. 더 높은 지연 시간과 비용이 들지만, 뛰어난 도구 호출 신뢰성과 함께 최고 수준의 정확도와 추론 능력을 제공합니다. 기술 문제 해결, 재무 자문, 규정 준수에 민감한 workflow, 복잡한 환불/에스컬레이션 결정처럼 실수 비용이 큰 작업에 이상적입니다.
제공업체의 모델 라인업은 자주 변경됩니다. 프로덕션에 사용할 모델을 결정하기 전에 모델 페이지에서 현재 옵션과 가격을 확인하세요.
실제 프롬프트로 벤치마킹하세요
모델 성능은 프롬프트 구조와 작업 복잡도에 따라 크게 달라집니다. 모델을 결정하기 전에 다음을 수행하세요.
- 실제 시스템 프롬프트로 후보 모델 2~3개를 테스트합니다
- 실제 사용자 쿼리 또는 합성 테스트 사례로 평가합니다
- 지연 시간, 정확도, 도구 호출 성공률을 측정합니다
- 특정 요구 사항에 맞는 최적의 균형을 찾습니다
자세한 모델 구성 옵션은 모델 문서를 참고하세요.
반복 개선 및 테스트
프로덕션 환경의 신뢰성은 지속적인 반복 개선에서 나옵니다. 잘 구성된 프롬프트도 실제 사용 환경에서는 실패할 수 있습니다. 중요한 것은 이러한 실패에서 배우고 체계적인 테스트를 통해 개선하는 것입니다.
평가 기준을 구성하세요
각 에이전트에 구체적인 평가 기준을 연결해 시간에 따른 성공을 모니터링하고 회귀를 확인하세요.
추적할 주요 지표:
- 작업 완료율: 성공적으로 처리된 사용자 의도의 비율
- 에스컬레이션 비율: 사람의 개입이 필요한 대화의 비율
ElevenLabs에서 평가 기준을 구성하는 자세한 안내는 성공 평가를 참고하세요.
실패 패턴을 분석하세요
에이전트 성능이 기대에 못 미칠 때는 문제가 있는 상호작용의 패턴을 파악하세요.
- 에이전트가 잘못된 정보를 제공하는 곳은 어디인가요? → 특정 섹션의 지침을 강화하세요
- 사용자 의도를 이해하지 못하는 경우는 언제인가요? → 예시를 추가하거나 언어를 단순화하세요
- 어떤 사용자 입력에서 역할을 벗어나나요? → 엣지 케이스를 위한 가드레일을 추가하세요
- 가장 자주 실패하는 도구는 무엇인가요? → 오류 처리 또는 파라미터 설명을 개선하세요
사용자 만족도가 낮거나 작업이 완료되지 않은 대화 트랜스크립트를 검토하세요.
목표에 맞게 개선하세요
식별된 문제를 해결하도록 프롬프트의 특정 섹션을 업데이트하세요.
- 문제를 분리하세요: 어떤 프롬프트 섹션이나 도구 정의가 실패를 유발하는지 파악합니다
- 구체적인 예시로 변경 사항을 테스트하세요: 이전에 실패한 대화를 테스트 사례로 사용합니다
- 한 번에 하나만 변경하세요: 무엇이 효과적인지 파악할 수 있도록 개선 사항을 분리합니다
- 동일한 테스트 사례로 다시 평가하세요: 새 문제가 생기지 않고 변경 사항이 문제를 해결했는지 확인합니다
여러 프롬프트 변경을 동시에 적용하지 마세요. 그렇게 하면 개선 또는 회귀가 어떤 수정 때문에 발생했는지 파악할 수 없습니다.
데이터 수집을 구성하세요
각 대화의 데이터를 요약하도록 에이전트를 구성하세요. 이를 통해 상호작용 패턴을 분석하고, 일반적인 사용자 요청을 파악하며, 실제 사용 데이터를 바탕으로 프롬프트를 지속적으로 개선할 수 있습니다.
ElevenLabs에서 데이터 수집을 구성하는 자세한 안내는 데이터 수집을 참고하세요.
회귀 테스트에 시뮬레이션을 사용하세요
프롬프트 변경 사항을 프로덕션에 배포하기 전에 알려진 시나리오 세트를 대상으로 테스트하여 회귀를 포착하세요.
프로그래밍 방식으로 에이전트를 테스트하는 방법은 대화 시뮬레이션을 참고하세요.
프로덕션 고려 사항
엔터프라이즈 에이전트에는 프롬프트 품질 외에도 추가적인 안전장치가 필요합니다. 프로덕션 배포에서는 오류 처리, 규정 준수, 원활한 성능 저하를 고려해야 합니다.
모든 도구 통합에서 오류를 처리하세요
모든 외부 도구 호출은 잠재적인 실패 지점입니다. 프롬프트에 다음 상황을 위한 명시적인 오류 처리가 포함되어 있는지 확인하세요.
- 네트워크 실패: “시스템에 연결하는 데 문제가 있습니다. 다시 시도해 보겠습니다.”
- 데이터 누락: “시스템에서 해당 정보를 찾을 수 없습니다. 세부 정보를 확인해 주시겠어요?”
- 시간 초과 오류: “예상보다 오래 걸리고 있습니다. 전문가에게 에스컬레이션하거나 다시 시도할 수 있습니다.”
- 권한 오류: “해당 정보에 접근할 권한이 없습니다. 도움을 드릴 수 있는 담당자에게 연결해 드리겠습니다.”
예시 프롬프트
다음 예시는 이 가이드에서 설명한 원칙을 실제 엔터프라이즈 사용 사례에 적용하는 방법을 보여줍니다. 각 예시에는 어떤 신뢰성 원칙이 사용되었는지 강조하는 주석이 포함되어 있습니다.
예시 1: 기술 지원 에이전트
적용된 원칙:
- ✓ 명확한 섹션 분리(
# Personality,# Goal,# Tools등) - ✓ 줄마다 하나의 작업(
# Goal의 번호가 매겨진 단계 참고) - ✓ 간결한 지침(어조 섹션이 짧고 명확함)
- ✓ 중요한 단계 강조(“이 단계는 중요합니다”)
- ✓ 파라미터 설명의 형식 변환(이메일 정규화)
- ✓ 전용 가드레일 섹션
- ✓ 언제/어떻게/오류 시 지침을 포함한 정확한 도구 설명
- ✓ 명시적인 오류 처리 지침
예시 2: 고객 서비스 환불 에이전트
적용된 원칙:
- ✓ 전문화된 에이전트 범위(일반 지원이 아닌 환불만 처리)
- ✓
# Goal섹션의 명확한 workflow 단계 - ✓ 중요한 규칙 반복 강조(환불 한도, 확인)
- ✓ “사용 시점” 및 “필수 확인 사항”이 포함된 상세한 도구 사용법
- ✓ 파라미터 설명의 형식 변환(주문 ID, 이메일)
- ✓ 도구별 명시적인 오류 처리
- ✓ 명확하게 정의된 에스컬레이션 기준
서식 지정 모범 사례
프롬프트 서식은 언어 모델이 이를 얼마나 효과적으로 해석하는지에 영향을 미칩니다.
- 마크다운 제목을 사용하세요: 기본 섹션에는
#, 하위 섹션에는##로 구조화하세요 - 글머리 기호 목록을 선호하세요: 지침을 이해하기 쉬운 글머리 기호로 나누세요
- 공백을 사용하세요: 빈 줄로 섹션과 지침 그룹을 구분하세요
- 제목은 문장형 대소문자로 작성하세요:
# GOAL이 아니라# Goal - 일관성을 유지하세요: 프롬프트 전체에서 동일한 서식 패턴을 사용하세요
자주 묻는 질문
여러 에이전트에서 일관성을 유지하려면 어떻게 해야 하나요?
캐릭터 정규화, 오류 처리, 가드레일과 같은 공통 섹션을 위한 공유 프롬프트 템플릿을 만드세요. 이를 중앙 리포지토리에 저장하고 전문 에이전트 전반에서 참조하세요. 오케스트레이터 패턴을 사용해 일관된 라우팅 로직과 인계 절차를 보장하세요.
프로덕션용 최소 실행 가능 프롬프트에는 무엇이 포함되어야 하나요?
최소한 다음을 포함하세요. (1) 성격/역할 정의, (2) 주요 목표, (3) 핵심 가드레일, (4) 도구를 사용하는 경우 도구 설명입니다. 간단한 에이전트도 명시적인 섹션 구조와 오류 처리 지침의 이점을 얻을 수 있습니다.
에이전트를 중단시키지 않고 도구를 사용 중단하려면 어떻게 해야 하나요?
도구를 사용 중단할 때는 먼저 새 도구를 추가한 다음, 이전 도구는 대체 수단으로 유지하면서 새 도구를 우선 사용하도록 프롬프트를 업데이트하세요. 사용량을 모니터링한 뒤 사용량이 0이 되면 이전 도구를 제거하세요. 사용 중단된 도구가 호출되더라도 에이전트가 복구할 수 있도록 항상 오류 처리를 포함하세요.
LLM마다 다른 프롬프트를 사용해야 하나요?
일반적으로 이 가이드의 원칙에 따라 구조화한 프롬프트는 여러 모델에서 작동합니다. 하지만 모델별 튜닝은 특히 도구 호출 형식과 추론 단계에서 성능을 개선할 수 있습니다. 여러 모델로 프롬프트를 테스트하고 필요에 따라 조정하세요.
시스템 프롬프트는 어느 정도 길이가 적절한가요?
보편적인 제한은 없지만 2,000토큰을 초과하는 프롬프트는 지연 시간과 비용을 늘립니다. 간결성에 집중하세요. 모든 줄에는 분명한 목적이 있어야 합니다. 프롬프트가 2,000토큰을 넘는다면 여러 전문 에이전트로 분할하거나 참고 자료를 지식 베이스로 추출하는 것을 고려하세요.
일관성과 적응성 사이의 균형은 어떻게 맞추나요?
핵심 성격 특성, 목표, 가드레일은 확실하게 정의하되, 사용자 커뮤니케이션 스타일에 따라 어조와 상세함은 유연하게 조정하세요. 조건부 지침을 사용하세요. “사용자가 불만을 표현하면 진행하기 전에 우려 사항을 인정하세요.”
배포 후에도 프롬프트를 업데이트할 수 있나요?
네. 시스템 프롬프트는 언제든 수정하여 동작을 조정할 수 있습니다. 이는 특히 새롭게 발생하는 문제를 해결하거나 사용자 상호작용을 통해 학습한 내용을 바탕으로 기능을 개선할 때 유용합니다. 프로덕션에 배포하기 전에 항상 스테이징 환경에서 변경 사항을 테스트하세요.
도구가 실패할 때 에이전트의 환각을 방지하려면 어떻게 해야 하나요?
모든 도구에 명시적인 오류 처리 지침을 포함하세요. 가드레일 섹션에서 “절대 추측하거나 정보를 지어내지 마세요”를 강조하세요. 이 지침을 도구별 오류 처리 섹션에도 반복하세요. 개발 중 도구 실패 시나리오를 테스트하여 에이전트가 복구 지침을 따르는지 확인하세요.
다음 단계
이 가이드는 프롬프트 엔지니어링, 도구 구성, 아키텍처 패턴을 통해 신뢰할 수 있는 에이전트 동작을 위한 기반을 마련합니다. 프로덕션 수준의 시스템을 구축하려면 다음을 계속 살펴보세요.
- 워크플로: 멀티 에이전트 오케스트레이션 및 전문 에이전트 인계 설계
- 성공 평가: 지표 및 평가 기준 구성
- 데이터 수집: 대화에서 구조화된 인사이트 수집
- 테스트: 회귀 테스트 및 시뮬레이션 구현
- 가드레일: 안전한 에이전트 응답을 위한 콘텐츠 조정 구성
- 개인정보 보호: 규정 준수 및 데이터 보호 보장
- ElevenLabs 문서 에이전트: 이러한 원칙이 적용된 완전한 사례 연구 확인
엔터프라이즈 배포 지원이 필요하면 팀에 문의하세요.