华为云官网现已支持DeepSeek部署服务,用户可以在此快速部署自己的DeepSeek服务,快速体验DeepSeek丰富的功能。为了帮助大家更好地部署,本文将为大家详细介绍使用华为云Flexus云服务器X实例快速搭建基于DeepSeek-R1-Distill-Qwen-32B的Dify工作流最佳实践,仅供参考。
本文涉及到的华为云服务:
Flexus云服务是国内云服务器商华为云推出的新一代开箱即用、体验跃级、面向中小企业和开发者打造的高品价比云服务产品,具有易搭建、易维护、高性价比、高安全性等特点。
Flexus系列云服务方案推荐
《点击进入官网选购》
目前官网还提供Flexus云服务免费试用活动,试用时间长达一个月,多款试用产品可选。
点击进入:华为云官网
一、使用Flexus云服务器X实例部署Dify平台
Dify是一款开源的LLM应用开发平台,提供从Agent构建到AI workflow编排、RAG检索、模型管理等能力,轻松构建和运营生成式AI原生应用。
1、进入华为云官网,注册并登录。
2、选择“产品”>“Flexus云服务”,点击“购买”,购买一台华为云Flexus云服务器X实例。
3、购买完成后,创建1个弹性公网IP EIP并关联华为云Flexus云服务器X实例。
4、创建一个安全组,通过配置安全组规则,为云服务器提供安全防护。
5、浏览器访问Dify-LLM应用开发平台一键部署解决方案主页,如下图所示,选择需要部署的区域,单击一键部署。
6、在选择模板界面中,单击“下一步”。
7、在配置参数界面中,密码为必填项,其他参数可使用默认值(参考附录表5-3参数说明),单击“下一步”。(如果这台Dify服务器需要对接数字人,推荐安装Dify 0.15.2版本,请在dify_version选项填入0.15.2)
8、在资源设置界面中,在权限委托下拉框中选择“rf_admin_trust”委托(可不选),打开回滚设置开关,单击“下一步”。
9、在配置确认界面中,单击“创建执行计划”。
10、在弹出的创建执行计划框中,自定义填写执行计划名称,单击“确定”。
单击“部署”,并且在弹出的执行计划确认框中单击“执行”。
11、待“事件”中出现“Apply required resource success”,表示该解决方案资源已发放完成。
12、刷新页面,在“输出”中查看Dify-LLM应用开发平台访问说明。
由此,Dify平台已经部署完成。
二、部署DeepSeek-R1-Distill-Qwen-32B模型
1、登录ModelArts Studio平台(华东二区域支持DeepSeek-R1-Distill-Qwen-32B,西南贵阳一区域支持DeepSeek-V3、DeepSeek-R1),本文以部署DeepSeek-R1-Distill-Qwen-32B为例。
2、在ModelArts Studio左侧导航栏中,选择“模型部署”进入服务列表,选择“预置服务”页签。
3、领取免费调用额度。在预置服务列表,选择所需的服务,单击操作列的“领取”。当领取置灰时,表示该服务的免费额度已领取。
4、在“模型体验”页面进行推理。
在预置服务列表,选择所需的服务,本文以“DeepSeek-R1-Distill-Qwen-32B”为例,单击操作列的“体验”,跳转到“模型体验”页面,进行参数设置后,即可开始问答体验。
5、创建API-Key
在MaaS左侧导航栏中,选择“鉴权管理”。
在“鉴权管理”页面,单击“创建API Key”,填写描述信息后,单击“确认”会返回“您的密钥”,请复制保存密钥,单击“关闭”后将无法再次查看密钥。
6、浏览器进入用户部署的Dify平台界面,点击右上角个人的“设置”。
7、进入模型供应商页签,选择OpenAI-API-compatible供应商。
8、信息配置:
- "模型名称"请填入步骤一4下“b.在业务环境中调用模型服务的API进行推理”服务信息中的模型名称
- "API Key"请填入步骤二中创建的API Key
- "API endpoint URL"请填入步骤一4下“b.在业务环境中调用模型服务的API进行推理”的API地址,并且删除最后面的“chat/completions”部分
- "Completion mode"请选择对话
三、在Dify平台上体验DeepSeek联网助手
1、通过浏览器访问dify平台,点击”工作室“,进入工作室页面。
2、在工作室页面,点击“导入DSL文件”,在弹出的页面中选择“URL”,复制下面的地址,粘贴到DSL URL路径里,如下图所示:
点击“创建”,即可导入工作流。
创建后如下图所示:
选择联网搜索插件,点击授权按钮,并添加url:http://{内网ip}:8080,如下图所示,点击保存后,即可设置成功。(内网ip是部署Dify的虚机的内网ip,如连接不通,请检查虚机的安全组是否放通8080端口号)
3、创建知识库,本文以经济型知识库为例。
a.在dify平台页面,点击“知识库”,点击“创建知识库”。
b.选择“导入已有文本”,点击“选择文件”,选择对应知识库文件后(本示例提供的测试文档见附件),点击下一步。
c.文本分段与清洗本示例保持默认配置不变(你也可以按照实际需求进行配置),点击“保存并处理”。
- 分段设置:通用
- 索引方式:经济
- 检索设置:Top 3
d.点击“前往文档”,可以看到导入的知识库文档为可用状态。
相关推荐:《华为云云服务器部署DeepSeek教程》