Amazon SageMaker JumpStart是亚马逊AWS推出的一个机器学习（ML）中心，提供了一种高效的方法帮助用户来访问和利用大模型，助力用户轻松启动和开发机器学习项目。目前百川智能和零一万物基础模型现已在SageMaker JumpStart上线。为了大家可以更直观地了解，本文就以零一万物基础模型为例，来为大家具体介绍一下借助Amazon SageMaker JumpStart轻松访问Yi-1.5-9B-Chat模型的教程。
本文涉及到的亚马逊云服务：
Amazon SageMaker
Amazon SageMaker是一项完全托管的服务，可为每位开发人员和数据科学家提供快速构建、训练和部署机器学习(ML)模型的能力。目前亚马逊云科技官网提供Amazon SageMaker免费试用活动，免费套餐包括前两个月每月250个小时的t2.medium或t3.medium笔记本使用时间，50个小时的m4.xlarge或m5.xlarge训练和125个小时的m4.xlarge或m5.xlarge托管时间。
现在新用户注册亚马逊云科技账号，不仅可以免费试用Amazon SageMaker，还可以享受亚马逊云服务器Amazon EC2、亚马逊免费VPSAmazon Lightsail、亚马逊免费数据库Amazon RDS、亚马逊云科技云存储Amazon S3，无服务器服务Amazon Lambda等百余种免费云服务产品。
点击获取：亚马逊免费云服务
相关推荐：《如何注册亚马逊AWS账号》
一、准备Amazon SageMaker Studio环境
1、进入亚马逊云科技官网，注册并完成登录。
2、进入亚马逊控制台，找到Amazon SageMaker。
3、在以下页面，选择“Domains”，点击“Create domain”，选择Set up for single user。
4、点击Add user以添加新的用户，完成一些基础操作以后，点击“Submit”，等待几分钟就可以完成用户创建。
5、创建成功后点击创建好的Domain，随后切换到用户配置文件选项卡，看到预先创建好的用户，点击Launch中的Studio打开SageMaker Studio的环境。
6、显示如下页面，则说明成功创建并进入了SageMaker Studio工作区。
二、部署Yi-1.5-9B模型
1、进入亚马逊云科技Amazon SageMaker Studio后，在导航栏中找到JumpStart，然后在搜索栏中输入“Yi-1.5”来找到Yi-1.5-9B-Chat模型。
2、在以下页面，点击“Deploy”，快速进入模型的部署流程。
3、进入模型部署界面后，可以直接使用默认配置进行部署，也可以根据需要自定义部署设置，本文使用单个A10g GPU的ml.g5.2xlarge实例。
4、完成以上操作以后，等待几分钟即可完成模型部署。
5、部署成功后，就可以来运行推理Yi-1.5-9B模型了。在以下页面点击“Endpoints”，选择“Test inference”，在Testing Options中选择Test the sample request进行测试，下放的JSON可以通过调整推理参数进行生成结果的控制：
6、输入想要对话的内容后，点击Send Request，得到对应的结果。
还可以通过Amazon SageMaker Python SDK对模型进行调用，指定部署完成的SageMaker Endpoint名称（如jumpstart-dft-hf-llm-yi-1-5-9b-chat-20240607-033836），即可快速进行调用并获取推理结果。
相关推荐：
