Amazon ElastiCache
什么是 ElastiCache？
Amazon ElastiCache 是一项无服务器缓存服务，可为代理、数据库和分析提供微秒级延迟，完全兼容 Valkey。它提供零基础架构管理、零停机维护以及即时扩展到每秒超过一百亿个请求，以满足任何应用程序需求。ElastiCache 通过语义和即时缓存为代理 AI 工作负载提供支持，通过为重复或语义相似的查询提供缓存响应，降低 LLM 推理成本和延迟。为了增强弹性，您可以使用 ElastiCache 作为永久数据存储来增强耐久性，它具有自动故障转移、备份和快照功能，可保护您的数据免受故障影响。对于现代应用程序，ElastiCache 全球数据存储通过完全托管的跨区域复制提供本地化读取。由于 ElastiCache 与 Valkey 完全兼容，您可以迁移到托管解决方案，几乎无需更改应用程序代码。ElastiCache 还提供领先的安全性（亚马逊 VPC、亚马逊 IAM）和合规标准。
优势
响应时间快
在每天数百万亿次请求中实现微秒级响应时间
成本优化的性能
为频繁读取的数据添加缓存，最大限度地利用资源，降低总体拥有成本
无容量管理
在一分钟内创建高度可用的无服务器缓存，并立即扩展以满足需求
业务连续性
通过多可用区部署实现 99.99% 的 SLA，并通过跨区域复制加强灾难恢复能力
兼容 Valkey、Memcached 和 Redis OSS
使用流行的开源 Valkey、Memcached 和 Redis API 快速构建应用程序。
提高弹性
通过耐久性，在不丢失数据的情况下进行恢复，同时保持本地低延迟性能的多区域功能，增强您的灾难恢复状态，并实现高达 99.99% 的可用性。
工作原理
使用案例
通过将语义缓存用于对话式内存和检索增强生成，从而节省成本、缩短响应时间并提高生成式人工智能应用程序的准确性。
保护您的数据免受罕见故障的影响，同时保持工作负载的微秒读取延迟，例如 RAG 知识库、AI 代理长期内存、支付代币化和实时库存管理。
将常用数据存储在内存中，实现微秒级响应时间和高吞吐量，支持每秒数亿次操作。
存储临时会话数据，以微秒级的响应时间快速实现游戏、电子商务、社交媒体和在线应用程序的个性化体验。
使用 ElastiCache 内置的数据结构简化应用程序开发。
