Amazon SageMaker部署DeepSeek-R1教程

随着DeepSeek在全球范围内的火爆,越来越多的服务商开始接入DeepSeek大模型。近期,亚马逊云科技宣布已经把DeepSeek-R1纳入其平台,DeepSeek-R1模型现在在亚马逊的云服务上可用。本文就来为大家详细介绍一下在Amazon SageMaker部署DeepSeek-R1教程,仅供参考。

一、DeepSeek-R1部署前准备

1、亚马逊免费云服务

Amazon SageMaker是一项完全托管的平台,用于构建、训练和部署机器学习模型。提供的免费服务有前两个月每月250个小时的t2.medium或t3.medium笔记本使用时间,50个小时的m4.xlarge或m5.xlarge训练和125个小时的m4.xlarge或m5.xlarge托管时间,免费试用时长为2个月。

点击获取:亚马逊免费云服务

Amazon SageMaker

2、模型版本

本文选择的是DeepSeek-R1-Distill蒸馏模型,推荐15B/70B参数版本。与DeepSeek-R1相比,成本降低90%-95%,适配免费资源(ml.t2.medium实例)。

进入亚马逊AWS官网,注册账号,完成邮箱验证及信用卡绑定(仅用于身份验证,免费套餐不扣费。)详情可参考:《如何注册亚马逊AWS账号?

二、通过Amazon SageMaker快速部署

1、进入亚马逊AWS控制台,点击“机器学习”,选择Amazon SageMaker。

Amazon SageMaker

2、在Amazon SageMaker Studio中,通过左侧面板上的主页或主页菜单打开JumpStart登录页面。这将打开SageMaker JumpStart登录页面,用户可以在其中搜索“DeepSeek-R1-Distill”模型。

3、配置部署参数

实例类型:选择ml.t2.medium(2核CPU+4GB内存)。

部署模式:勾选“Cost-Saving Mode”以自动释放闲置实例

网络设置:使用默认VPC及安全组,避免复杂配置。

三、启动DeepSeek-R1模型部署

1、在SageMaker控制台点击"Deploy",等待终端节点状态变为"In Service"。

2、通过内置Notebook测试推理:

from sagemaker.jumpstart.model  import JumpStartModel 
model = JumpStartModel(model_id="deepseek-r1-70b")
predictor = model.deploy() 
response = predictor.predict({"prompt":  "量子计算的商业应用场景", "max_tokens": 500})
使用教程

UCloud GPU云服务器本地化部署DeepSeek-R1

2025-2-26 10:37:17

行业动态

国家数据局正式挂牌

2023-10-26 9:28:10

相关推荐