重温 2024 年亚马逊云科技 re:Invent 的精彩瞬间,一键查看主题演讲及创新讲座的精彩回放

 ✕

Amazon IoT Greengrass ML 推理

优化部署机器学习模型,以便能在 Amazon IoT Greengrass 设备上运行

Amazon IoT Greengrass 通过使用在云中创造、培训和优化的模型,使得在设备上本地执行机器学习推理变得容易。IoT Greengrass 给您以灵活性,可以引入您自己在 Amazon S3 存储的预培训模型。

机器学习使用基于现有数据的统计算法(该过程称为培训),以作出关于新数据的决策(该过程称为推理)。培训期间,通过确认数据中的模式和关系来构建模型。该模型允许系统作出关于之前从未遇到过的数据的智能决策。优化模型会压缩该模型的大小,因此模型能快速运行。培训和优化机器学习模型要求大量的计算资源,因此它与云自然契合。但是,推理花费远远更少的计算力气,经常在新数据可用时实时完成。获得较低延迟的推理结果对确保您的 IoT 应用可以快速响应本地事件非常重要。

IoT Greengrass 为您提供两方面的优势。您可以使用在云中构建、培训和优化的机器学习模型,并在设备本地运行推理。例如,您可以为场景检测分析构建一个预测模型,对其进行优化以便在任何摄像头上运行,进行部署以预测可疑活动并发送警报。在 IoT Greengrass 上运行的推理中收集的数据可以发回到云端,数据在云中可以被标记并用来持续改善机器学习模型的质量。

优势

灵活

Amazon IoT Greengrass 包括由 Intel Atom,NVIDIA Jetson TX2 和 Raspberry Pi 提供支持的设备预建 TensorFlow,Apache MXNet 和 Chainer package,因此您不必为您的设备从头构建和配置机器学习框架。另外,Amazon IoT Greengrass 与包括 Caffe2 和 Microsoft Cognitive Toolkit 的其他热门框架结合使用。

单击几次,将模型部署到您连接的设备上。

借助 Amazon IoT Greengrass,您可以轻松将机器学习模型从云端部署到设备上。仅在 IoT Greengrass 控制台中单击几下,您就能在 Amazon S3 中部署已培训模型,选择所需模型并将其部署到目标设备。您的模型将部署在您选择的连接设备上。

加速推理性能

Amazon IoT 也通过为常见 ML 框架和目标设备(如 Nvidia Jetson TX2 板)提供预建运行时,允许您访问硬件加速器(如您设备上的 GPU)。

在连接的设备上轻松运行推理

在运行 Amazon IoT Greengrass 的连接设备上本地执行推理,可降低延迟,还可降低发送设备数据到云中以作预测的成本。您可在设备上直接运行推理,而非为了执行机器学习推理把全部数据发送到云端。

构建更多精确的模型

您可以通过使用 亚马逊云科技 执行推理、捕获结果、检测异常值以及把数据发回云端,因为数据在云端可以被重新分类并标记,以改善机器学习模型。

工作原理

Greengrass ML 推理 - 工作原理

使用案例

视频处理

Amazon IoT 在诸如安全摄像头、流量摄像头、随身摄像头和医疗成像设备之类的连接的设备上部署,以帮助它们作本地预测。有了 Amazon IoT Greengrass,您可以在设备上直接部署和运行机器学习模型,比如面部识别、对象检测和成像密度。比如,成像摄像头可以记录通过十字路口的自行车、机动车和行人,并检测交通信号灯什么时候需要为了保持交通流量最优以及保持人员安全而做出调整。

零售业与酒店业

零售商、游轮与游乐场正在投资物联网应用,以提供更好的客户服务。比如,您可以在游乐场运行游客检测模型,以跟踪游客数量。摄像头不用把大量的视频源发送到云端,就可以定位本地游客并维持运行人数,是因为有限的网络宽带使得把大量视频源发送到云端具有挑战性。该解决方案可以预测热门主题公园游乐设施的等待时间,并帮助改善客户体验。

安全性

安全摄像头制造商正在寻找新的方式,将设备制造得更智能并将其威胁检测功能自动化。Amazon IoT Greengrass 可以帮助改善安全摄像头的功能。IoT Greengrass 摄像头可以持续扫描经营场所,目的是寻找场景的变化,比如来客,并发送警报。摄像头能够在本地快速执行场景检测分析,并且只有在有需要的时候将数据发送到云端,比如需要其他分析以确定来客是否是家庭成员。

精准农业

农业正在经历两大中断。首先,世界人口持续增长,导致对食物的需求大于粮食产出。其次,气候变化正在导致无法预测的气候状况,影响庄稼产量。Amazon IoT Greengrass 可以帮助农业实践转型并为客户提供新的价值。安装在温室和农场的 IoT Greengrass 摄像头可以处理植物、庄稼的映像,以及来自土壤中传感器的数据,其目的不仅是检测环境异常,比如温度变化、湿度变化和营养水平变化,还包括触发警报。

预测产业维护

由于制造商的定价压力加重,他们在寻求更新颖的方式来帮助提升厂房的操作效率。装配生产线上检测作业的时间如果延迟,会导致时间和资源的浪费。Amazon IoT Greengrass 可以帮助您提早检测出厂房的故障设备和问题。IoT Greengrass 工业网关可以持续监控传感器数据(比如震动、噪音水平)、预测异常并采取相关措施,比如发送警报或关闭电源将损失最小化。
洋马

洋马利用 Amazon IoT Greengrass ML 推理,将其作为 IoT 精准农业解决方案的一部分。该农业解决方案通过自动检测和识别蔬菜的主要生长阶段来增加温室运转的智能性。

DFDS

Amazon IoT Greengrass ML 推理让 IoT 设备允许 DFDS 预测并优化船舶推进,最终减少整个舰队的燃料消耗。


Leopard imaging

人工智能的普及和数字转化的速度以惊人的速度持续增长。对 Amazon IoT Greengrass ML 推理的最新改进明显降低了延迟,但未降低 ML 推理的准确性,像这样的创新,加快了用于正在兴起的对象识别和分类的工业自动化用例的解决方案。亚马逊云科技 的新机器学习解决方案与由 NVIDIA® GPU 提供支持的 Leopard Imaging’s AICam 集成,该解决方案无疑将成为云工业和智能城市解决方案的基石。

- Leopard Imaging 的总裁和共同创始人 Bill Pu


联想

“IoT 和人工智能支持的计算机视觉的潜能对于企业来说是巨大的,它可以以指数级的速度提高生产率和效率。在这一次的智能转型中,我们的由 Amazon IoT Greengrass 提供支持的高端工业 Think IoT 摄像头进行了最新机器学习升级,旨在为企业客户带来明显不同的体验。”

- Jon Pershke,新兴业务、智能设备的战略副总裁


松下

“松下的 Vieureka 非常高兴使用了由 Amazon IoT Greengrass 支持的 亚马逊云科技 机器学习的演化功能。为了向 亚马逊云科技 社区所有的合作伙伴提供 Vieureka-Cameras 和服务管理功能,我想要尽快打造出 Amazon IoT Greengrass 兼容版本。我们将在 2019 年春季为开发人员创造环境,商业版本将在同年秋季生效。

- Miyazaki,松下 Vieureka Service 的 首席执行官


ADLINK

“在 ADLINK 工业视觉系统上运行的最新 ML 推理更新上添加了 Amazon IoT Greengrass,可以实现真正的即插即用式 IoT。现在,当我们打开一个运行 Amazon IoT Greengrass 的现成 ADLINK NEON 智能摄像头时,其带有最新的 ML 推理更新,我们可以更快得获得高质量结果。这允许我们为我们的物流、质量检查、工业机器人和其他制造客户进一步加快我们的 IoT 数据实验的发展。”

- Elizabeth Campbell,美国 ADLINK 技术总经理

了解有关 Amazon IoT Greengrass 功能的更多信息

访问功能页面
准备好开始使用了吗?
访问控制台
还有其他问题?
联系我们
关闭
1010 0766
由光环新网运营的
北京区域
1010 0966
由西云数据运营的
宁夏区域
关闭
由光环新网运营的
北京区域
由西云数据运营的
宁夏区域