亚马逊云科技现已支持 Meta 推出的最新 Llama 2 基础模型 - 亚马逊云科技

发布于: Jul 19, 2023

一直以来 Llama 可以说是 AI 社区内最强大的开源大模型。但因为开源协议问题，一直不可免费商用。今天，Meta 发布了大家期待已久的免费可商用版本 Llama 2。一夜之间，大模型格局再次发生巨变。

作为 Meta 宣布的首批合作伙伴之一，今天，我们非常激动地宣布，客户可通过 Amazon SageMaker JumpStart，使用由 Meta 开发的 Llama 2 基础模型！

Llama 2 大语言模型 (LLM) 系列是经过预训练和微调的生成式文本模型，其参数数量从 70 亿到 700 亿不等。微调的大语言模型称为 Llama-2-chat，它们专为对话用例进行优化，现在，SageMaker JumpStart 支持您轻松试用和使用这些模型；SageMaker JumpStart 是机器学习 (ML) 中心，提供了对算法、模型和机器学习解决方案的访问权限，以便您可以快速开始使用机器学习。

Llama 2 简介

Llama 2 是一种使用优化的 Transformer 架构的自回归语言模型。Llama 2 旨在用于英文领域的商业和研究用途。该模型提供了一系列参数规模，70 亿、130 亿和 700 亿，以及预训练和微调的变量。

Meta 表示，微调的版本采用监督微调 (SFT) 和基于人类反馈的强化学习 (RLHF)，与人类喜好保持一致，从而确保实用性和安全性。Llama 2 使用来自公开来源的 2 万亿个字节数据进行了预训练。微调的模型用于辅助式聊天，而预训练的模型可适用于各种自然语言生成任务。无论开发人员使用哪个版本的模型，Meta 的负责使用指南都可以帮助指导通过适当的安全缓解措施定制和优化模型可能需要的额外微调。

Amazon SageMaker JumpStart 介绍

在亚马逊云科技，我们致力于不断降低机器学习的使用门槛。截至目前，我们已经帮助超过 10 万家来自各行各业的不同规模的客户使用机器学习进行创新。

为此，我们推出了机器学习一站式开发平台 Amazon SageMaker，为所有开发人员构建、训练和部署基础模型提供最大的便利，为更多客户提供能够访问基础模型能力。作为 Amazon SageMaker 的核心组件之一，SageMaker JumpStart 内置 300+ 种开源模型，10+ 种预设场景解决方案，可以帮助用户“一键式”部署和微调诸如 Stable Diffusion，Bloom、FLAN-T5、Alexa TM 等主流的生成式 AI 基础模型，用户可以通过 SageMaker JumpStart 一键部署或微调众多预训练模型，轻松开发高质量模型并缩短部署时间。

现在，只需在 Amazon SageMaker Studio 中点击几下，或通过 SageMaker Python SDK 以编程方式发现和部署 Llama 2，即可利用 Amazon SageMaker Pipelines、Amazon SageMaker Debugger 或容器日志等 SageMaker 功能体验模型性能和 MLOps 控制。模型部署到亚马逊云科技安全环境中并接受您的 VPC 控制，有助于确保数据安全。目前，Amazon SageMaker Studio 支持 Llama 2 模型（仅限 us-east 1 和 us-west 2 地区使用）。