軟程科技附步驟如下:
第一步:進(jìn)入 Model Gallery 頁(yè)面
點(diǎn)擊鏈接:https://pai.console.aliyun.com/#/quick-start/ models 登陸 PAI 控制臺(tái),在頂部左上角根據(jù)實(shí)際情況選擇地域。并在左側(cè)導(dǎo)航欄選擇工作空間列表,單擊指定工作空間名稱,進(jìn)入對(duì)應(yīng)工作空間內(nèi)。最后在左側(cè)導(dǎo)航欄選擇快速開始 > Model Gallery。
第二步:進(jìn)入 DeepSeek 模型詳情頁(yè)
在 Model Gallery 頁(yè)面的模型列表中,單擊找到并點(diǎn)擊需要部署的模型卡片,例如“DeepSeek-R1-Distill-Qwen-7B”模型,進(jìn)入模型詳情頁(yè)面。
第三步:一鍵部署 DeepSeek 模型生成服務(wù)
單擊右上角部署:目前 DeepSeek-R1 支持采用 vLLM 加速部署;DeepSeek-V3 支持 vLLM 加速部署以及 Web 應(yīng)用部署;DeepSeek-R1 蒸餾小模型支持采用 BladeLLM(阿里云 PAI 自研高性能推理框架)和 vLLM 加速部署。選擇部署方式和部署資源后,即可一鍵部署服務(wù),生成一個(gè) PAI-EAS 服務(wù)。
部署成功后,在服務(wù)頁(yè)面可以點(diǎn)擊“查看調(diào)用信息”獲取調(diào)用的 Endpoint 和 Token,想了解服務(wù)調(diào)用方式可以點(diǎn)擊預(yù)訓(xùn)練模型鏈接,返回模型介紹頁(yè)查看調(diào)用方式說(shuō)明。
需要注意的是,阿里云官方教程部署的模型為蒸餾過(guò)后的 DeepSeek-R1-Distill-Qwen-7B。基于 DeepSeek-R1 的推理能力,通過(guò)蒸餾技術(shù)將推理模式遷移到了較小的 Qwen 模型上。同時(shí),阿里云 PAI Model Gallery 也提供 DeepSeek-R1、DeepSeek-V3 原始模型的一鍵部署。
據(jù)軟程科技此前報(bào)道,Gitee AI 聯(lián)合沐曦首發(fā)全套 DeepSeek R1 千問蒸餾模型,支持全免費(fèi)體驗(yàn)。秘塔 AI 秘塔 AI 已官宣接入滿血版 DeepSeek R1 推理模型。另外,DeepSeek-R1 大模型登陸騰訊云,宣稱“一鍵部署、3 分鐘調(diào)用”
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,軟程科技所有文章均包含本聲明。