生成式人工智能 (AI) 金融客服助手解决方案指南

基于智能搜索和大模型打造智能机器人问答，在实现金融数据安全私有化的前提下，提高金融信息检索和总结能力，提升用户体验。

联系云计算专家

注册立享免费套餐

首页 » 亚马逊云科技解决方案 » 金融服务行业 » 智能客服及呼叫中心智能化

金融服务

生成式人工智能 (AI) 金融客服助手解决方案指南

基于智能搜索和大模型打造智能机器人问答，在实现金融数据安全私有化的前提下，提高金融信息检索和总结能力，提升用户体验。

联系云计算专家

注册立享免费套餐

概览

基于亚马逊云科技 Amazon SageMaker 和 Amazon Lex，融合大语言模型的能力，构建智能金融客服助手。该助手能够准确识别客户意图，深入理解客户的描述并做出人性化回复，提高客户意图识别的准确率，同时增强对自然语言的理解能力，使金融机构能够为客户提供高质量的交互式服务，显著提升客户体验和运营效率。

方案优势

数据安全

支持私有化部署，保障金融企业数据安全

效率提升

数据支持批量导入以及优化检索方式，提高关联答案的获取效率

自然语言处理

通过针对业务人员提问与企业数据进行自然语言的匹配，获得相关信息并加以总结，提升用户查询效率

架构图及说明

第 1 步

终端用户通过托管在 Amazon Amplify 的网站输入查询请求或提交结果反馈。

第 2 步

网站将查询请求或结果反馈传递给 Amazon API Gateway，并从 API Gateway 接收响应。

第 3 步

API Gateway 将查询请求传递给搜索和问答组件。该组件由集成了 Langchain (开源框架) 的 Amazon Lambda，具有搜索功能的 Amazon OpenSearch Service 或 Amazon Kendra ，以及 Amazon SageMaker 构成。
Lambda 首先从搜索引擎 (OpenSearch 或 Amazon Kendra) 获取搜索结果。随后 Lambda 输入提前预置好的提示词。
这个过程使用到大语言模型 (LLM) 赋能的检索增强生成 (RAG) 技术。大语言模型托管在 Amazon SageMaker 端点上，API Gateway 用于向用户返回 LLM 建议的答案。

第 4 步

API Gateway 将反馈传递给搜索优化组件，该组件包含 Lambda、Amazon DynamoDB 和 Amazon EventBridge。Lambda 函数将结果反馈写入 DynamoDB，以帮助调整下一步中的模型。

第 5 步

Lambda 函数从 Amazon Simple Storage Service (Amazon S3) 读取原始文件。它将数据分块、embedding 并注入到搜索引擎中。embedding 模型托管在 SageMaker 端点上。这一步用来为搜索引擎构建知识库。

* 您应当依法使用服务和本解决方案并遵循相应的合规要求（包括进行算法备案、使用经过备案的大语言模型等等，如适用）

架构图及说明

第 1 步

终端用户通过托管在 Amazon Amplify 的网站输入查询请求或提交结果反馈。

第 2 步

网站将查询请求或结果反馈传递给 Amazon API Gateway，并从 API Gateway 接收响应。

第 3 步

API Gateway 将查询请求传递给搜索和问答组件。该组件由集成了 Langchain (开源框架) 的 Amazon Lambda，具有搜索功能的 Amazon OpenSearch Service 或 Amazon Kendra ，以及 Amazon SageMaker 构成。
Lambda 首先从搜索引擎 (OpenSearch 或 Amazon Kendra) 获取搜索结果。随后Lambda 输入提前预置好的提示词。
这个过程使用到大语言模型 (LLM) 赋能的检索增强生成 (RAG) 技术。大语言模型托管在 Amazon SageMaker 端点上，API Gateway 用于向用户返回 LLM 建议的答案。

第 4 步

第 5 步

收起

* 您应当依法使用服务和本解决方案并遵循相应的合规要求（包括进行算法备案、使用经过备案的大语言模型等等，如适用）

亚马逊云科技产品入门

产品的用户指南、培训和教程

立即查看 »

轻量应用服务器

国内外轻量应用服务器全解析，从分区到安全挑战一网打尽，助力高效部署

立即了解 »

云手机

云手机全景解析，从架构到应用场景无遗漏，指导移动新时代高效使用