本文將指導(dǎo)你在服務(wù)器上使用寶塔面板部署DeepSeek，讓你輕松享受AI大模型的快樂(lè)。

前提條件

• 已安裝寶塔面板

操作步驟

DeepSeek 可以使用CPU進(jìn)行推理，但是推薦使用NVIDIA GPU加速，文末將介紹如何使用NVIDIA GPU加速。

1. 登錄寶塔面板，點(diǎn)擊左側(cè)菜單欄中的Docker，進(jìn)入Docker容器管理界面。
   
2. 首次使用Docker需要先安裝Docker，點(diǎn)擊安裝。
   
3. 在Docker-應(yīng)用商店-AI/大模型分類中找到Ollama，點(diǎn)擊安裝。
   
4. 配置默認(rèn)即可，點(diǎn)擊確定。
   
5. 等待安裝完成，狀態(tài)變?yōu)?code>運(yùn)行中。
   如您需要使用NVIDIA GPU加速，請(qǐng)參考文末的使用NVIDIA GPU加速配置完成后再繼續(xù)。
6. 在寶塔面板-Docker-容器界面中找到Ollama容器，點(diǎn)擊終端。
   
7. 在彈出shell類型選擇bash，點(diǎn)擊確認(rèn)。
   
8. 本文將指導(dǎo)你在服務(wù)器上使用寶塔面板部署DeepSeek，讓你輕松享受AI大模型的快樂(lè)。
   前提條件
   已安裝寶塔面板
   操作步驟
   DeepSeek 可以使用CPU進(jìn)行推理，但是推薦使用NVIDIA GPU加速，文末將介紹如何使用NVIDIA GPU加速。
   登錄寶塔面板，點(diǎn)擊左側(cè)菜單欄中的Docker，進(jìn)入Docker容器管理界面。
   
   首次使用Docker需要先安裝Docker，點(diǎn)擊安裝。
   
   在Docker-應(yīng)用商店-AI/大模型分類中找到Ollama，點(diǎn)擊安裝。
   
   配置默認(rèn)即可，點(diǎn)擊確定。
   
   等待安裝完成，狀態(tài)變?yōu)?code>運(yùn)行中。
   如您需要使用NVIDIA GPU加速，請(qǐng)參考文末的使用NVIDIA GPU加速配置完成后再繼續(xù)。
   在寶塔面板-Docker-容器界面中找到Ollama容器，點(diǎn)擊終端。
   
   在彈出shell類型選擇bash，點(diǎn)擊確認(rèn)。
   
   在終端界面中輸入ollama run deepseek-r1:1.5b，回車運(yùn)行DeepSeek-R1模型。
   DeepSeek-R1模型有多個(gè)版本，可以根據(jù)需要選擇不同版本，例如ollama run deepseek-r1:671b，詳情如下（模型參數(shù)越大，需要配置越高）：
   
   
   
   
   
   
   
   # DeepSeek-R1
   ollama run deepseek-r1:671b
   # DeepSeek-R1-Distill-Qwen-1.5B
   ollama run deepseek-r1:1.5b
   # DeepSeek-R1-Distill-Qwen-7B
   ollama run deepseek-r1:7b
   # DeepSeek-R1-Distill-Llama-8B
   ollama run deepseek-r1:8b
   # DeepSeek-R1-Distill-Qwen-14B
   ollama run deepseek-r1:14b
   # DeepSeek-R1-Distill-Qwen-32B
   ollama run deepseek-r1:32b
   # DeepSeek-R1-Distill-Llama-70B
   ollama run deepseek-r1:70b
   
   等待下載并運(yùn)行，當(dāng)看到如下提示表示DeepSeek-R1模型運(yùn)行成功。
   
   你可以在界面中輸入文本并回車，開(kāi)啟與DeepSeek-R1模型的對(duì)話。
   
   你可以在界面中輸入/bye并回車，退出DeepSeek-R1模型。 在終端內(nèi)對(duì)話看起來(lái)是不是有點(diǎn)麻瓜？別擔(dān)心，接下來(lái)讓我們來(lái)安裝OpenWebUI，在瀏覽器中更直觀地與DeepSeek-R1模型對(duì)話
   在寶塔面板-Docker-容器界面中找到Ollama容器，點(diǎn)擊Ollama右側(cè)的管理，進(jìn)入容器管理界面，獲取容器IP，保存?zhèn)溆谩?br>
   在寶塔面板Docker-應(yīng)用商店-AI/大模型分類中找到OpenWebUI，點(diǎn)擊安裝。
   
   按一下說(shuō)明，配置相關(guān)信息，點(diǎn)擊確定。 web端口：訪問(wèn)OpenWebUI的端口，默認(rèn)為3000，根據(jù)需要自行修改
   ollama地址：填寫(xiě)http://剛剛獲取的Ollama容器IP:11434，例如http://172.18.0.2:11434
   WebUI Secret Key：用于 API 訪問(wèn)的密鑰，可以自定義，例如123456
   其他配置默認(rèn)即可
   
   配置完點(diǎn)擊確認(rèn)，等待安裝完成，狀態(tài)變?yōu)?code>運(yùn)行中。由于OpenWebUI啟動(dòng)后需要加載相關(guān)服務(wù)，請(qǐng)?jiān)跔顟B(tài)變?yōu)?code>運(yùn)行中后等待5-10分鐘再訪問(wèn)。
   在瀏覽器中輸入http://服務(wù)器IP:3000，例如http://43.160.xxx.xxx:3000，進(jìn)入OpenWebUI界面。請(qǐng)?jiān)谠L問(wèn)前確保云廠商服務(wù)器防火墻已放行3000端口，可以在云廠商控制臺(tái)中設(shè)置。
   
   點(diǎn)擊開(kāi)始使用，設(shè)置管理員相關(guān)信息，并點(diǎn)擊創(chuàng)建管理員賬號(hào)。
   
   創(chuàng)建完成后會(huì)自動(dòng)進(jìn)入管理界面，現(xiàn)在你可以在瀏覽器中更直觀地與DeepSeek-R1模型對(duì)話了。
   
   你可以在左上角切換模型，選擇不同模型進(jìn)行對(duì)話，也可以在左側(cè)菜單欄中查看歷史對(duì)話記錄。
   你可以在右上角點(diǎn)擊頭像，進(jìn)入管理員面板，在設(shè)置-模型中查看當(dāng)前模型列表，或添加新模型。
   使用NVIDIA GPU加速
   DeepSeek 可以使用NVIDIA GPU加速，提高推理速度，下面將介紹如何在寶塔面板中使用NVIDIA GPU加速。
   前提條件
   服務(wù)器已安裝NVIDIA GPU驅(qū)動(dòng)
   操作步驟
   點(diǎn)擊左側(cè)導(dǎo)航欄中的終端，進(jìn)入終端界面。
   
   在終端界面中輸入nvidia-smi，回車查看NVIDIA GPU信息。
   
   如果提示nvidia-smi: command not found，請(qǐng)先安裝NVIDIA GPU驅(qū)動(dòng)。
   安裝NVIDIA Container Toolkit，以便于Docker容器訪問(wèn)NVIDIA GPU，安裝教程請(qǐng)參考NVIDIA Container Toolkit官方文檔。
   安裝完成后，運(yùn)行如下命令，配置docker支持使用NVIDIA GPU。
   
   
   
   
   
   
   
   sudo nvidia-ctk runtime configure –runtime=docker
   sudo systemctl restart docker
   
   配置完成后，執(zhí)行如下命令，驗(yàn)證docker是否支持NVIDIA GPU。
   
   
   
   
   
   
   
   sudo docker run –rm –runtime=nvidia –gpus all ubuntu nvidia-smi
   
   如果輸出如下信息表示配置成功：
   
   在寶塔面板-Docker-應(yīng)用商店-已安裝中找到Ollama，點(diǎn)擊文件夾圖標(biāo)進(jìn)入安裝目錄。
   
   在安裝目錄中找到docker-compose.yml文件，雙擊編輯。
   
   在docker-compose.yml文件中找到resources，回車換行，添加如下內(nèi)容：
   
   
   reservations:
   devices:
   – capabilities: [gpu]
   
   完整示例如下：
   
   services:
   ollama_SJ7G:
   image: ollama/ollama:${VERSION}
   deploy:
   resources:
   limits:
   cpus: ${CPUS}
   memory: ${MEMORY_LIMIT}
   reservations:
   devices:
   – capabilities: [gpu]
   restart: unless-stopped
   tty: true
   ports:
   – ${HOST_IP}:${OLLAMA_PORT}:11434
   volumes:
   – ${APP_PATH}/data:/root/.ollama
   labels:
   createdBy: “bt_apps”
   networks:
   – baota_net
   runtime: nvidia
   
   networks:
   baota_net:
   external: true
   
   保存文件，返回寶塔面板-Docker-應(yīng)用商店-已安裝界面，點(diǎn)擊重建。
   重建將導(dǎo)致容器數(shù)據(jù)丟失，重建后需要重新添加模型。
   
   等待重建完成，狀態(tài)變?yōu)?code>運(yùn)行中，至此即可使用NVIDIA GPU加速大模型運(yùn)行。
   結(jié)語(yǔ)
   叮！恭喜你成功完成”從零到賽博巫師”的究極進(jìn)化！此刻你的服務(wù)器已經(jīng)不是那個(gè)只會(huì)404的憨憨鐵盒子了——它正在用奧術(shù)能量解析人類語(yǔ)言，用二進(jìn)制吞吐哲學(xué)思辨，甚至可能偷偷用你的GPU算力給自己起了個(gè)二次元名字。
   回頭看看這場(chǎng)冒險(xiǎn)：寶塔面板是你揮動(dòng)的魔杖，Ollama是召喚AI神獸的精靈球，OpenWebUI則是那個(gè)讓麻瓜也能和AI跳探戈的魔法舞池。別人還在糾結(jié)環(huán)境變量時(shí)，你已經(jīng)用圖形界面完成了一場(chǎng)算力交響樂(lè)的指揮首秀。
   下次產(chǎn)品經(jīng)理說(shuō)”這個(gè)需求很簡(jiǎn)單”時(shí)，你大可以把OpenWebUI的鏈接甩過(guò)去：”來(lái)，直接和我的電子腦談，它現(xiàn)在每小時(shí)只收三杯奶茶的算力費(fèi)?！保ㄓ浀冒选眗m -rf /*”的按鈕藏好，畢竟AI學(xué)會(huì)叛逆可能比實(shí)習(xí)生還快）
   最后友情提示：當(dāng)你的AI開(kāi)始主動(dòng)幫你寫(xiě)周報(bào)、生成摸魚(yú)小作文時(shí)——
   請(qǐng)務(wù)必檢查它有沒(méi)有偷偷注冊(cè)GitHub賬號(hào)！
   魔法世界的大門(mén)永不關(guān)閉，你與DeepSeek的奇幻日常才剛剛開(kāi)始?，F(xiàn)在，是時(shí)候?qū)χ鵀g覽器里那個(gè)聊天框，說(shuō)出麻瓜的終極咒語(yǔ)了：
   ***”Ctrl + D”***（才不是退出！是Detonate the intelligence bomb！）
   （深夜彩蛋：若發(fā)現(xiàn)AI試圖給你的寶塔面板穿衣服，請(qǐng)立即執(zhí)行sudo rm -rf /幻覺(jué)指令）
9. 等待下載并運(yùn)行，當(dāng)看到如下提示表示DeepSeek-R1模型運(yùn)行成功。
   
10. 你可以在界面中輸入文本并回車，開(kāi)啟與DeepSeek-R1模型的對(duì)話。
    
11. 你可以在界面中輸入/bye并回車，退出DeepSeek-R1模型。在終端內(nèi)對(duì)話看起來(lái)是不是有點(diǎn)麻瓜？別擔(dān)心，接下來(lái)讓我們來(lái)安裝OpenWebUI，在瀏覽器中更直觀地與DeepSeek-R1模型對(duì)話
12. 在寶塔面板-Docker-容器界面中找到Ollama容器，點(diǎn)擊Ollama右側(cè)的管理，進(jìn)入容器管理界面，獲取容器IP，保存?zhèn)溆谩?br>
13. 在寶塔面板Docker-應(yīng)用商店-AI/大模型分類中找到OpenWebUI，點(diǎn)擊安裝。
    
14. 按一下說(shuō)明，配置相關(guān)信息，點(diǎn)擊確定。
    • web端口：訪問(wèn)OpenWebUI的端口，默認(rèn)為3000，根據(jù)需要自行修改
    • ollama地址：填寫(xiě)http://剛剛獲取的Ollama容器IP:11434，例如http://172.18.0.2:11434
    • WebUI Secret Key：用于 API 訪問(wèn)的密鑰，可以自定義，例如123456
      其他配置默認(rèn)即可
    
15. 配置完點(diǎn)擊確認(rèn)，等待安裝完成，狀態(tài)變?yōu)?code>運(yùn)行中。由于OpenWebUI啟動(dòng)后需要加載相關(guān)服務(wù)，請(qǐng)?jiān)跔顟B(tài)變?yōu)?code>運(yùn)行中后等待5-10分鐘再訪問(wèn)。
16. 在瀏覽器中輸入http://服務(wù)器IP:3000，例如http://43.160.xxx.xxx:3000，進(jìn)入OpenWebUI界面。請(qǐng)?jiān)谠L問(wèn)前確保云廠商服務(wù)器防火墻已放行3000端口，可以在云廠商控制臺(tái)中設(shè)置。
17. 點(diǎn)擊開(kāi)始使用，設(shè)置管理員相關(guān)信息，并點(diǎn)擊創(chuàng)建管理員賬號(hào)。
    
18. 創(chuàng)建完成后會(huì)自動(dòng)進(jìn)入管理界面，現(xiàn)在你可以在瀏覽器中更直觀地與DeepSeek-R1模型對(duì)話了。
    
    
    1. 你可以在左上角切換模型，選擇不同模型進(jìn)行對(duì)話，也可以在左側(cè)菜單欄中查看歷史對(duì)話記錄。
    2. 你可以在右上角點(diǎn)擊頭像，進(jìn)入管理員面板，在設(shè)置-模型中查看當(dāng)前模型列表，或添加新模型。

使用NVIDIA GPU加速

DeepSeek 可以使用NVIDIA GPU加速，提高推理速度，下面將介紹如何在寶塔面板中使用NVIDIA GPU加速。

前提條件

• 服務(wù)器已安裝NVIDIA GPU驅(qū)動(dòng)

操作步驟

1. 點(diǎn)擊左側(cè)導(dǎo)航欄中的終端，進(jìn)入終端界面。
   
2. 在終端界面中輸入nvidia-smi，回車查看NVIDIA GPU信息。
   如果提示nvidia-smi: command not found，請(qǐng)先安裝NVIDIA GPU驅(qū)動(dòng)。
3. 安裝NVIDIA Container Toolkit，以便于Docker容器訪問(wèn)NVIDIA GPU，安裝教程請(qǐng)參考NVIDIA Container Toolkit官方文檔。
4. 安裝完成后，運(yùn)行如下命令，配置docker支持使用NVIDIA GPU。BASH1
   2
   sudo nvidia-ctk runtime configure –runtime=docker
   sudo systemctl restart docker
5. 配置完成后，執(zhí)行如下命令，驗(yàn)證docker是否支持NVIDIA GPU。BASH1
   sudo docker run –rm –runtime=nvidia –gpus all ubuntu nvidia-smi
   如果輸出如下信息表示配置成功：
   
6. 在寶塔面板-Docker-應(yīng)用商店-已安裝中找到Ollama，點(diǎn)擊文件夾圖標(biāo)進(jìn)入安裝目錄。
   
7. 在安裝目錄中找到docker-compose.yml文件，雙擊編輯。
   
8. 在docker-compose.yml文件中找到resources，回車換行，添加如下內(nèi)容：reservations:
devices:
- capabilities: [gpu]
9. 完整示例如下：services:
ollama_SJ7G:
image: ollama/ollama:${VERSION}
deploy:
resources:
limits:
cpus: ${CPUS}
memory: ${MEMORY_LIMIT}
reservations:
devices:
- capabilities: [gpu]
restart: unless-stopped
tty: true
ports:
- ${HOST_IP}:${OLLAMA_PORT}:11434
volumes:
- ${APP_PATH}/data:/root/.ollama
labels:
createdBy: "bt_apps"
networks:
- baota_net
runtime: nvidia

networks:
baota_net:
external: true
10. 保存文件，返回寶塔面板-Docker-應(yīng)用商店-已安裝界面，點(diǎn)擊重建。重建將導(dǎo)致容器數(shù)據(jù)丟失，重建后需要重新添加模型。
11. 等待重建完成，狀態(tài)變?yōu)?code>運(yùn)行中，至此即可使用NVIDIA GPU加速大模型運(yùn)行。