虚拟内存是什么？

Amazon SageMaker 是一项全托管服务，能够帮助开发人员与数据科学家快速、轻松地构建、训练并部署任意规模的机器学习（ML）模型。在本文中，我们将重点介绍在 Amazon SageMaker 上进行训练时，能够切实提高 I/O 以优化 GPU 性能的通用型技术。这些技术方法具有良好的普适性，不对基础设施或深度学习框架本身做出任何要求。通过优化 I/O 处理例程，整个 GPU 训练中的性能提升最多可提升至 10 倍水平。

根据亚马逊云科技最佳实践，当推出新的 EC2 实例机型后，建议升级到最新的可用机型。少量实例机型升级并不难，然而当实例数量较多、实例关系较复杂时，要规划可行、低成本的实例升级，手工操作的耗时和难度会显著增加。本文利用轻量的类结构化查询语言和亚马逊云科技无服务器解决方案，实现一套崭新和通用的规划实例机型升级架构，以达到两个目的。一是把手工需要数小时的规划操作大幅减少到数秒完成；二是根据预留期限和其他约束条件规划升级以尽量降低成本。

多处理机制的引入能够避免 Python 全局解释器锁 (GIL) 使用全部 CPU 进行完全并行，进而导致资源余量不足；但这同时也意味着内存利用率将与工作程序的数量等比例增加，因为每个进程都需要在内存中保留自己的对象副本。当大家开始增加工作程序数量时，可能会引发内存不足问题。在这种情况下，我们需要选择 CPU 内存容量更高的实例类型。

在云上进行高性能计算的客户越来越多，利用云计算资源充足、按需使用、弹性伸缩的特点，客户不仅能快速的得到结果，而且成本很低。为了让客户能快速的部署高性能计算集群，亚马逊云科技推出了开源的 ParallelCluster 集群管理软件，该软件可以让客户在数分钟之内部署一个高性能计算集群。