1. 講座為DeepSeek原理(li)(li)和(he)(he)應用(yong)系列研討的(de)講座之一,讓大家可以決策是否(fou)需(xu)要(yao)自己(ji)部署DeepSeek系列模型,并了 解自己(ji)本地化部署DeepSeek的(de)基(ji)本方法(fa),同時(shi)了解更專業的(de)企(qi)業級部署方法(fa),有(you)助于選擇DeepSeek一體機型號,并 能理(li)(li)解DeepSeek云服務(wu)的(de)工作機制和(he)(he)原理(li)(li),用(yong)好DeepSeek云服務(wu)的(de)API調用(yong)方法(fa)。
2. 本講座的內容分(fen)為四個主要部分(fen):
① 首先,除了DeepSeek滿血版(ban)(ban)(ban)之外,還有各種各樣的(de)(de)蒸餾版(ban)(ban)(ban)和(he)量化版(ban)(ban)(ban),以(yi)及(ji)DeepSeek的(de)(de)不同專(zhuan)業模(mo)型(xing)(xing)。我們將介紹人工智(zhi)能大模(mo) 型(xing)(xing)的(de)(de)基本(ben)概念,以(yi)及(ji)DeepSeek各個模(mo)型(xing)(xing)的(de)(de)特點與適用場景,對(dui)比不同規模(mo)模(mo)型(xing)(xing)的(de)(de)性(xing)能表(biao)現(xian),幫助大家選擇(ze)最適合(he)自己需求(qiu)的(de)(de)版(ban)(ban)(ban)本(ben)。
② 其次,對于普通(tong)用戶在(zai)(zai)自己的(de)電(dian)(dian)腦(nao)上部(bu)署(shu)和(he)體驗DeepSeek(蒸餾(liu)版)的(de)情況,我們會評(ping)估和(he)建議硬件要求,演(yan)示如何通(tong)過(guo)Ollama 命令行高效(xiao)部(bu)署(shu)DeepSeek模型,解決(jue)下載過(guo)程中可能(neng)遇到的(de)常見問題。為了提升在(zai)(zai)自己的(de)電(dian)(dian)腦(nao)上安裝DeepSeek模型后,大家(jia)與 DeepSeek模型的(de)交(jiao)互體驗,我們還將介紹Open WebUI和(he)Chatbox等前端展示工具的(de)配置(zhi)與使(shi)用方法。
③ 然后,對(dui)于專業級(ji)的(de)(de)企(qi)(qi)業部署(shu)DeepSeek,或把DeepSeek(蒸餾版和滿(man)血版)部署(shu)在專業的(de)(de)昂貴的(de)(de)推理機上,本講座將探(tan)討基于 Transformers快速驗證和vLLM的(de)(de)高(gao)性能部署(shu)方案,并提(ti)供(gong)真實企(qi)(qi)業基于vLLM的(de)(de)部署(shu)DeepSeek-70b的(de)(de)相關(guan)數據和經驗。
④ 最后,作為(wei)補充內容,針對計算(suan)資源受(shou)限的(de)場(chang)景,我們專門設計了"低成本部(bu)署"環節(jie),詳細講解Unsloth R1動(dong)態(tai)量化部(bu)署的(de)三種實(shi) 現路(lu)徑:基(ji)于llama.cpp、KTransformers以及Ollama框(kuang)架動(dong)態(tai)量化部(bu)署。
3. 在(zai)技術學(xue)習(xi)(xi)的(de)道路(lu)上,優質學(xue)習(xi)(xi)資源(yuan)至(zhi)關重要。推薦大家參考《人工智能通(tong)識教程(微課版)》這本系(xi)統(tong)全(quan)面的(de)入門教 材,結合B站“思睿觀通(tong)”欄(lan)目的(de)配套視(shi)頻進行學(xue)習(xi)(xi)。此外,歡迎加(jia)入ai.kgc.cn社(she)區,以及“AI肖睿團隊(dui)”的(de)視(shi)頻號和 微信號,與志同道合的(de)AI愛好者(zhe)交流經驗(yan)、分享心得。
![]() |
智能服務機器人 |