스트리밍 아바타가 범용 모델에 의존하는 대신 기업 고유의 정보를 바탕으로 답변할 수 있게 되면 그 활용도는 훨씬 높아집니다. 외부 LLM 지식 베이스를 연결하는 가장 안전한 방법은 검색, 모델 호출, 권한 관리 및 답변 검증을 애플리케이션 백엔드에서 처리하고, 그 이후에 AKOOL 스트리밍 아바타 을(를) 실시간 시각적 대화 레이어로 사용하는 것입니다.
이 방식은 검색 증강 생성(RAG) 서비스, 벡터 데이터베이스, 엔터프라이즈 검색 시스템 또는 에이전트 프레임워크와 함께 작동합니다. 또한 민감한 자격 증명이 브라우저에 노출되지 않도록 보호하며, 아바타가 발화할 수 있는 내용을 팀에서 직접 제어할 수 있게 해줍니다.
핵심 요약
연결을 제어 가능한 파이프라인으로 구축하세요:
- 고객이 애플리케이션에 음성이나 텍스트로 질문을 입력합니다.
- 백엔드에서 사용자를 식별하고 허용된 지식 정보를 검색한 뒤, 근거가 포함된 컨텍스트를 LLM으로 전송합니다.
- 애플리케이션이 답변의 정책 준수 여부, 신뢰도, 형식을 검토합니다.
- 승인된 응답이 실시간 아바타 세션으로 전송되어 사용자에게 전달됩니다.
- 세션 이벤트, 인용 정보, 지연 시간 및 오류는 모니터링을 위해 기록됩니다.
AKOOL은 또한 knowledge_id 필드를 통해 기본 지식 베이스 옵션을 제공합니다. 이는 콘텐츠가 이미 AKOOL 내에 있을 때 유용합니다. 외부 RAG 스택을 사용하는 경우, 임의의 타사 데이터베이스를 AKOOL 지식 ID로 직접 전달할 수 있다고 가정하지 말고 애플리케이션 계층 통합으로 처리해야 합니다.
시작하기 전에 필요한 것
대화형 흐름을 구축하기 전에 다음 네 가지 구성 요소를 준비하세요:
- 엄선된 지식 소스: 제품 문서, 정책, 카탈로그, 지원 문서 또는 기타 승인된 자료.
- 검색 및 LLM 계층: 허용된 콘텐츠를 검색하고 추적 가능한 출처 컨텍스트와 함께 응답을 생성할 수 있는 서비스.
- 백엔드 오케스트레이터: 자격 증명을 보유하고, 아바타 세션을 생성하며, 액세스 규칙을 적용하고, 대화를 조정하는 서버입니다.
- 고객 대면 인터페이스: 아바타를 표시하고, 입력을 캡처하며, 연결 상태를 처리하는 웹 또는 모바일 환경입니다.
1단계: 안정적인 검색을 위한 지식 준비
좋은 아바타 답변은 좋은 소스 자료에서 시작됩니다. 중복 항목을 제거하고, 오래된 지침은 보관 처리하며, 긴 문서는 의미가 유지되도록 섹션별로 나눕니다. 제품, 지역, 언어, 대상, 유효 날짜와 같은 메타데이터를 추가하여 검색기가 결과를 순위 지정하기 전에 필터링할 수 있도록 하세요.
각 사용자가 어떤 문서에 액세스할 수 있는지 결정하세요. 일반 방문자, 인증된 고객, 내부 직원이 동일한 컬렉션에서 자동으로 검색하게 해서는 안 됩니다. 콘텐츠가 모델에 도달하기 전에 이러한 규칙을 적용하세요.
2단계: 백엔드에서 아바타 세션 생성
서버 측 엔드포인트를 사용하여 AKOOL로 인증하고 라이브 아바타 세션을 생성하세요. 세션 생성 API 은(는) 아바타, 음성, 언어, 지속 시간, 스트리밍 모드 및 선택적 네이티브 지식 베이스 식별자와 같은 설정을 허용합니다.
클라이언트가 필요로 하는 단기 세션 정보만 반환하세요. 브라우저 코드에 AKOOL 클라이언트 비밀 키, LLM API 키 또는 제한 없는 데이터베이스 자격 증명을 노출하지 마세요. AKOOL의 SDK 모범 사례 는 백엔드 세션 관리, 단기 토큰, 구조화된 오류 처리 및 로깅을 권장합니다.
3단계: LLM을 통해 각 대화 턴 라우팅
고객이 질문하면 대화 내용이나 입력된 메시지를 백엔드로 보내세요. 백엔드는 승인된 구절만 검색하고, 집중된 프롬프트를 구성하며, 모델이 제공된 증거를 바탕으로 답변하도록 지시해야 합니다. 증거가 불충분한 경우, 모델은 즉흥적으로 답변하기보다 명확한 질문을 하거나 상담원에게 연결해야 합니다.
전달하기 전에 사용 사례에 필요한 제어 기능을 적용하세요. 일반적인 확인 사항으로는 개인 식별 정보, 금지된 주제, 규제 관련 문구, 최대 답변 길이, 인용문 제공 여부 등이 있습니다. 짧고 대화체인 답변이 긴 문단보다 카메라 앞에서 더 효과적입니다.
4단계: 아바타를 통해 답변 전달
고객 인터페이스에서 AKOOL JavaScript SDK을(를) 사용하여 아바타를 초기화하세요. SDK는 실시간 통신을 사용하며, 인터페이스에서 연결 피드백, 마이크 상태, 메시지 기록 및 토큰 만료를 위해 사용할 수 있는 라이프사이클 이벤트를 발생시킵니다.
승인된 응답을 활성 세션으로 보내 아바타가 선택된 음성과 언어로 발표하게 하세요. 검색이 진행되는 동안 시각적 인터페이스가 반응하도록 유지하세요. 듣기 또는 생각 중 상태를 표시하고, 사용자가 취소할 수 있게 하며, 실시간 연결이 중단될 경우를 대비해 텍스트 대체 수단을 제공하세요.
에이전트 기반 대안
이미 음성 에이전트 프레임워크를 사용 중인 팀은 해당 아키텍처 내에 아바타를 배치할 수 있습니다. AKOOL은 공식적인 LiveKit 에이전트 통합 가이드 를 제공하며, 이를 통해 서버 측 에이전트와 AKOOL 스트리밍 아바타를 연결할 수 있습니다. 이 설계에서 에이전트는 음성 인식, LLM, 외부 도구 및 아바타를 조정할 수 있으며, 백엔드는 자격 증명과 비즈니스 로직에 대한 제어권을 유지합니다.
통합 테스트 방법
아바타가 단순히 말을 할 수 있는지 확인하는 것 이상을 테스트하세요. 직접적인 사실, 모호한 요청, 오래된 정보, 제한된 문서, 지원되지 않는 질문, 그리고 다국어를 포함한 질문 세트를 사용하세요. 모든 테스트마다 다음 사항을 기록하세요.
- 올바른 문서가 검색되었는지 여부
- 답변이 해당 문서의 내용을 충실히 따랐는지 여부
- 시각적 또는 청각적 응답이 나타나기까지 걸리는 시간
- 중단, 재연결 및 토큰 만료 시의 동작
- 올바른 대체 수단(fallback)이나 상담원 연결이 이루어졌는지 여부
주요 콘텐츠, 프롬프트, 모델 또는 SDK 변경 후에도 동일한 점검을 수행하세요. 아바타 인터페이스가 변경되지 않았더라도 검색 품질은 저하될 수 있습니다.
피해야 할 일반적인 실수
- 브라우저에서 모델을 직접 호출하는 경우: 이는 자격 증명을 노출하고 액세스 제어를 약화시킵니다.
- 너무 많은 컨텍스트를 검색하는 경우: 방대하고 초점이 맞지 않는 프롬프트는 지연 시간을 증가시키고 답변 품질을 떨어뜨릴 수 있습니다.
- 아바타가 답변을 지어내도록 두는 경우: 답변할 수 없는 경우에 대한 명확한 대응 방식과 에스컬레이션 경로를 정의하세요.
- 세션 정리를 무시하는 경우: 모든 연결을 영구적인 것으로 간주하지 말고, 중단된 세션을 종료하고 실패 사례를 모니터링하세요.
- 모델 품질만 측정하는 경우: 사용자는 검색, 생성, 음성, 애니메이션 및 네트워크 지연 시간을 하나의 시스템으로 경험합니다.
근거 기반 아바타 경험 구축하기
가장 신뢰할 수 있는 설계 방식은 역할을 분리하는 것입니다. 지식 및 LLM 스택이 무엇을 말할지 결정하고, 백엔드가 보안 및 정책을 강화하며, AKOOL 스트리밍 아바타가 승인된 답변을 실시간 디지털 휴먼으로 전달하도록 하세요. 좁고 잘 선별된 사용 사례로 시작하여 전체 대화 과정을 측정하고, 대체 경로가 안정화된 후에 확장하는 것이 좋습니다.
AKOOL 스트리밍 아바타 SDK 살펴보기 또는 AKOOL에 문의 하여 엔터프라이즈 통합에 대해 논의하세요.
