概览
概览
在泛娱乐与广告行业的客户服务场景下，对于长尾用户提供快速高质量的服务存在来自于成本和准确性方面的挑战。亚马逊云科技帮助泛娱乐与广告客户构建端到端的智能客服 Chatbot，该指南支持基于企业知识库，使用说明，历史对话数据等多种输入文档作为应答知识库，并配置场景问答提示词模版，帮助终端用户高效获取有效信息，能够有效提升长尾用户对于客服反馈的满意度，并通过该方式提升用户体验和高净值客户的转化率。该指南基于 Amazon SageMaker、Amazon OpenSearch、Amazon ECS 等服务构建。
在泛娱乐与广告行业的客户服务场景下，对于长尾用户提供快速高质量的服务存在来自于成本和准确性方面的挑战。亚马逊云科技帮助泛娱乐与广告客户构建端到端的智能客服 Chatbot，该指南支持基于企业知识库，使用说明，历史对话数据等多种输入文档作为应答知识库，并配置场景问答提示词模版，帮助终端用户高效获取有效信息，能够有效提升长尾用户对于客服反馈的满意度，并通过该方式提升用户体验和高净值客户的转化率。该指南基于 Amazon SageMaker、Amazon OpenSearch、Amazon ECS 等服务构建。
常见挑战
常见挑战
传统的客户服务解决方案，部署门槛高
需要 7*24 无间断服务支持，业务全球化过程中需要对多语言的支持
为长尾客户提供高质量的客户服务可能会增加高额的人力成本以及必要的培训成本
优势
优势
一个全面的知识库，涵盖了常见的查询、产品信息和故障排除指南。这使客户服务代表能够迅速找到准确的答案，提高他们的效率和效果。
生成式人工智能客户服务系统利用自然语言处理技术自动响应常见问题，为客户提供及时的协助和支持。
依托大语言模型对多语言的理解，可以接受多语言的输入
对接外部系统，获取实时数据，流程自动化
支持用户反馈分析和用户会话分析。
架构图及说明
Application Load Balancer 将用户的 Http 请求转发到 ChatbotApplication，ChatbotBackend 也提供了流式输出的 API
Chatbot 调用托管在 Amazon SageMaker 上的大语言模型，使用 RAG 的方式将用户的问题和背景知识发送给 LLM，获取答案
用户的问答会记录到 Amazon DynamoDB 里，用于数据分析和统计
* 您应当依法使用服务和本解决方案并遵循相应的合规要求（包括进行算法备案、使用经过备案的大语言模型等等，如适用）
架构图及说明
在 Amazon ECS 里部署 ChatbotApplication，并从 Amazon ECR 里获取镜像
用户从 Application Load Balancer 的 Endpoint 访问 Chatbot Application，也可以通过 Amazon Route53 里绑定的域名访问
Application Load Balancer 将用户的 Http 请求转发到 ChatbotApplication，ChatbotBackend 也提供了流式输出的 API
ChatbotApplication 使用语义搜索从 Amazon OpenSearch 里检索相似的问题和答案
Chatbot 调用托管在 Amazon SageMaker 上的大语言模型，使用 RAG 的方式将用户的问题和背景知识发送给 LLM，获取答案
用户的问答会记录到 Amazon DynamoDB 里，用于数据分析和统计
* 您应当依法使用服务和本解决方案并遵循相应的合规要求（包括进行算法备案、使用经过备案的大语言模型等等，如适用）
