Amazon EC2 G5 实例

与 G4dn 实例相比，G5 实例的图形性能最高可提高 3 倍，性价比最高可提高 40%。G5 实例拥有比任何其他基于 GPU 的 EC2 实例更多的光线跟踪内核，每个 GPU 具有 24 GB 的内存，并支持 NVIDIA RTX 技术。因此，这些实例非常适合更快地渲染逼真场景、运行强大的虚拟工作站以及以更高的保真度支持图形量大的应用程序。

与 G4dn 实例相比，G5 实例在机器学习推理方面的性能提高了 3 倍，性价比提高了 40%。对于想要使用诸如 TensorRT、CUDA 和 cuDNN 之类的 NVIDIA 库来运行机器学习应用程序的客户来说，G5 实例是一种高性能且高性价比的解决方案。

与 Amazon EC2 P3 实例相比，G5 实例的训练成本最多可降低 15%。与 G4dn 实例相比，G5 实例可将机器学习训练的性能提高 3.3 倍。因此，这些实例成为一种高性价比的解决方案，用于为自然语言处理、计算机视觉和推荐引擎应用场景训练中等复杂的单节点机器学习模型。

G5 实例基于 Amazon Nitro System 构建，该系统是专用硬件和轻量虚拟机管理程序的组合，几乎可以将主机硬件的所有计算和内存资源提供给您的实例，以提高整体性能和安全性。对于 G5 实例，Nitro 系统以直通模式预置 GPU，提供与裸机相当的性能。

G5 实例是云中首款采用 NVIDIA A10G Tensor Core GPU 的实例，可为图形密集型和机器学习应用程序提供高性能。每个实例最多配备 8 个 A10G Tensor Core GPU，每个 GPU 配备 80 个光线跟踪内核和 24 GB 内存。还提供 320 个第三代 NVIDIA Tensor Core，可提供高达 250 TOPS，从而为机器学习工作负载带来高性能。

G5 实例免费向客户提供 NVIDIA RTX Enterprise 和游戏驱动程序。NVIDIA RTX Enterprise 驱动程序可用于为各种图形密集型工作负载提供高质量的虚拟工作站。NVIDIA 游戏驱动程序为游戏开发提供无与伦比的图形和计算支持。G5 实例还支持 CUDA、cuDNN、NVENC、TensorRT、cuBLAS、OpenCL、DirectX 11/12、Vulkan 1.1 和 OpenGL 4.5 库。

G5 实例具有高达 100 Gbps 的网络吞吐量，使其能够支持机器学习推理和图形密集型应用程序的低延迟需求。每个 GPU 具有 24 GB 内存，支持高达 7.6 TB 的本地 NVMe SSD 存储，支持本地存储大型模型和数据集，用于高性能机器学习训练和推理。G5 实例还可以在本地存储大型视频文件，从而提高图形性能并能够渲染更大、更复杂的视频文件。

G5 实例基于 Amazon Nitro System 构建，该系统是一组丰富的构建块，可将许多传统虚拟化功能转移到专用硬件和软件上，从而提供高性能、高可用性和高安全性，同时减少虚拟化开销。