发布于: Apr 22, 2021
Amazon EC2 Inf1 实例现已在由光环新网运营的亚马逊云科技中国(北京)区域和西云数据运营的亚马逊云科技中国(宁夏)区域推出。Inf1 实例采用 Amazon Inferentia 芯片,这种芯片由亚马逊云科技专为在云中提供高性能和最低成本的机器学习推理而定制设计。
与成本最低的基于 GPU 的实例相比,这些实例的吞吐量最高提高了 30%,每次推理的成本最高降低了 45%,是图像识别、自然语言处理、个性化和异常检测等应用领域的理想选择。
开发人员可以通过 Amazon Deep Learning AMI(其中包括 Neuron SDK)启动 Inf1 实例,或通过 Amazon Elastic Kubernetes Service (EKS) 或适用于容器化机器学习应用程序的 Amazon Elastic Container Service (ECS) 来使用 Inf1 实例,从而管理自己的机器学习应用程序开发平台。
Amazon EC2 Inf1 实例有 4 种大小可供选择,最高配备 16 个 Inferentia 芯片、96 个 vCPU、192GB 内存、100Gbps 联网带宽和 19Gbps 的 Elastic Block Store (EBS) 带宽。这些实例均可作为按需实例、预留实例或 Spot 实例购买。
要开始使用,请访问入门指南。要了解更多信息,请访问 Amazon EC2 实例类型页面。