发布于: Aug 29, 2023
近日，硬件创建平台 Efabless 宣布了其第一届“生成式 AI 开源芯片设计挑战赛” (AI Generated Open-Source Silicon Design Challenge) 的评选结果。
来自清华大学的 RISC-V 国际开源实验室 (RIOS Lab) 团队基于亚马逊云科技云上科研计算平台的支持，凭借参赛项目“CyberRio”的基于 RISC-V 的 CPU 设计荣获亚军，在全球范围内首先实现了由生成式 AI (Generative AI) 作为第一贡献者实现 CPU 设计并以全开源方式成功流片（tape-out）。
本次评选是由 Efabless 组织的，面向全球的软硬件设计工程师、爱好者和研究人员的国际性比赛，旨在激发人工智能和机器学习在 IC 制造领域的创新力量，推动开源硬件社区和人工智能的协同发展。参赛者需要使用生成式 AI 为数字设计生成完整的 Verilog 模型。
RIOS 团队成员王心泽、尹国华、朱奕霏成功地基于亚马逊云科技云上科研计算平台的支持并基于大语言模型，设计了面向处理器应用场景的设计流程，用该流程生成可综合 HDL（硬件描述语言），完成了五级流水架构，支持 RV32I 非特权 ISA 和机器模式的 CPU 设计，并通过了基本的仿真和验证，最后基于 130nm 工艺成功流片。这标志着全球第一个由大语言模型（LLM）完成主要设计的 CPU 被实际制造，为 LLM 在 IC 设计领域的应用开启了新可能。
图：CyberRio: 世界上第一个使用 LLM 设计的 RISC-V CPU
来自 RIOS 实验室的亚马逊创新支持项目负责人王翕博士表示：“非常感谢亚马逊云科技助力 AI 算力和创新支持计划，为我们这个项目发挥了关键的作用，提供了强大的计算能力和丰富的工具支持。这些服务的使用，使得团队能够在短时间内完成复杂的计算任务，从而实现了这一重要的技术突破，依托此平台，最终顺利完成流片，获得了相关比赛亚军，同近期备受关注的纽约大学一起成为该领域的首批探索者。我们在此表达对亚马逊云科技的感谢，相信今后的合作会带来更多的创新和突破。”
亚马逊云科技基于云计算的自服务式开源平台的科研云上工作台（Service Workbench），帮助 RIOS 研究人员实现了协作研究的可视化。研究人员通过访问用户界面即可快速找到并获取和使用感兴趣的机器学习分析数据。Service Workbench 目前提供了三种类型的数据集（Studies）：个人数据集、组织数据集和公共数据集，便于研究人员同组织中其他成员共享和协同。配合本项目中使用到的配备了 DDR5 内存的最新一代内存优化型高性能实例 R7g，帮助 RIOS 加速了计算和分析的处理效率。该实例采用定制的基于 ARM 架构的 Graviton 3 处理器，相对于上一代 Graviton 2 处理器内存带宽，计算性能以及浮点性能分别提升了50%，25%和200%。机器学习推理性能更是提升了3倍，已被广泛应用于包括开放源数据库、内存缓存和实时大数据分析等场景在内的内存密集型工作负载中。
图：亚马逊云科技的科研云上工作台界面
王翕博士提到的创新支持计划，是亚马逊云科技一项旨在加强与高校和科研机构在技术创新上的合作与交流计划，包括：
- 支持构建云端科研、研发环境，包括科研软件、研发软件的云端部署和任务执行；
- 执行概念验证、基准测试、性能测试，评估将研究工作负载或公共数据集迁移至云中的效能提升；
- 通过研讨会或培训，培养更广泛社区对云的研究工作负载。
在符合条件情况下，可为相关科研机构提供以亚马逊云科技服务抵扣券形式发放的支持经费用于支付亚马逊云科技所提供的服务。
作为全球领先的云服务提供商及半导体行业领导者，亚马逊云科技不仅自身持续开发并批量生产了多款高端制程芯片，同时也提供安全、敏捷且可扩展的平台，包含全面服务集成的解决方案以实现高性能设计、验证和智能制造。
面向半导体芯片设计领域 Chiplet 的兴起，AI/ML 技术提升 IC 设计效率以及云上高性能算力的三大趋势，亚马逊云科技基于自身多款高性能芯片设计经验以及全球众多领先芯片设计公司作为客户的最佳实践，持续发布并更新适用于电子设计自动化（EDA）的高性能计算（HPC）方案实现最佳匹配。包括适用于 EDA 设计的高弹性自动集成计算解决方案（SOCA），帮助客户一站式解决从 UI 用户界面、云端集群预处理和后处理的可视化、实时分析、自定义代码和自动化能力等半导体芯片设计类客户痛点。
借助近乎无限的计算容量、高性能文件系统和高吞吐量网络，更快地获得洞察力，并快速将创意和产品推向市场。基于相关亚马逊云科技方案及合作伙伴方案，成功帮助联发科（MediaTek）、安谋科技（ARM）、恩智浦（NXP）、高通（Qualcomm）等客户完成了相关云上设计工作负载。