目前最火的話題是AI,NAS作為7x24小時(shí)運(yùn)行的設(shè)備,和AI工具的契合度看起來確實(shí)很高,不管是個(gè)人用戶還是企業(yè)用戶都希望能最大化將NAS和網(wǎng)絡(luò)利用起來。
本文幫大家整理了NAS和DeepSeek的各種組合使用方案,也會(huì)分享各方案適合什么場景+需要什么設(shè)備,3月7日(周五)晚19:00會(huì)在京東海輝聯(lián)創(chuàng)網(wǎng)絡(luò)存儲(chǔ)專營店直播為大家在線答疑。
給大家標(biāo)注下本教程重點(diǎn):
● NAS和AI工具的契合度確實(shí)比較高,但需要根據(jù)使用者需求合理選擇部署方案,目前主流是部署本地運(yùn)算、部署啟動(dòng)器和打通設(shè)備數(shù)據(jù)庫三種。
● 想要流暢使用需要部署AI運(yùn)行環(huán)境+設(shè)計(jì)數(shù)據(jù)庫+后期整體維護(hù),企業(yè)使用還得考慮數(shù)據(jù)庫維護(hù)+安全防護(hù),工作量很大,選擇合適的NAS(硬件+系統(tǒng))可以事半功倍。
AI和NAS都關(guān)聯(lián)了非常多的專業(yè)知識(shí),下面會(huì)盡量用簡單通俗的方式和大家分享,后面有時(shí)間會(huì)和大家分享實(shí)操案例,列一下本文目錄,可以按需跳轉(zhuǎn)觀看。
DeepSeek爆火沒太久,先簡單介紹一下DeepSeek能做什么,以及對(duì)運(yùn)行環(huán)境有什么需求。
1?? DeepSeek能做什么?
相信大家已經(jīng)體驗(yàn)過了DeepSeek,目前主流有以下幾種用法,都是圍繞數(shù)據(jù)展開:
● 最基礎(chǔ)的用法就是整理數(shù)據(jù),AI會(huì)根據(jù)已知數(shù)據(jù)庫或者對(duì)用戶上傳資料進(jìn)行分析,并給出較為合理的回答,比如查詢當(dāng)?shù)亟谔鞖狻?
● 高階一些的用法是重建數(shù)據(jù),需要用戶提出比較明確的規(guī)則,AI會(huì)根據(jù)規(guī)則對(duì)已知數(shù)據(jù)進(jìn)行二次分類,比人工分類更省時(shí)省心,比如上傳已有文檔進(jìn)行歸納總結(jié)。
● 再向上就是新建/創(chuàng)造數(shù)據(jù),比如我想創(chuàng)建一段硬盤讀寫性能測試的FIO腳本,只需要給AI提出要求就能給我可直接復(fù)制粘貼的代碼,當(dāng)然還有更多用法,比如為視頻生成字幕等。
就我個(gè)人使用體驗(yàn),DeepSeek的出現(xiàn)確實(shí)能幫節(jié)約大量的工作時(shí)間,已經(jīng)納入我的高頻使用工具庫,也建議大家在自己的NAS上部署。
2?? NAS能為DeepSeek提供什么?
對(duì)使用公開數(shù)據(jù)的個(gè)人用戶而言,想在NAS上部署DeepSeek可以,但NAS并不會(huì)對(duì)起到特別重要的作用,目前主流是下面兩種方案:
● 第一種是本地部署完整環(huán)境,使用NAS的本機(jī)算力進(jìn)行推理。
● 第二種是本地僅部署啟動(dòng)器,使用其他服務(wù)商/指定設(shè)備的算力進(jìn)行推理。
算力可以理解為CPU性能+顯卡性能+內(nèi)存容量,就目前大多數(shù)家用NAS的硬件配置而言,AI算力確實(shí)孱弱,會(huì)更適合中轉(zhuǎn)+管理的啟動(dòng)器方案,跑不怎么吃算力的小模型也可以。
對(duì)使用私密數(shù)據(jù)的重度用戶和企業(yè)用戶來說,NAS在使用DeepSeek過程中就有著不可取代的作用,主要原因如下:
● 新建有時(shí)效性的數(shù)據(jù)庫,比如我做新顯卡的測試,在解禁之前壓根查不到,這就需要我自己統(tǒng)計(jì),再讓AI去幫忙判定顯卡的性能水平,NAS可以幫我即時(shí)保存+更新我自己的數(shù)據(jù)庫。
● 保護(hù)不便公開的數(shù)據(jù)庫,比如我以前公司的CRM信息,AI可以輔助快速統(tǒng)計(jì)出用戶畫像數(shù)據(jù),但大幾十萬條的客戶信息泄露就完蛋了,安全性足夠的NAS可以保護(hù)好這些重要信息不泄露。
● 打通不便物理連接的設(shè)備,單設(shè)備的算力上限有限,但實(shí)際項(xiàng)目需求算力是無限的,將項(xiàng)目數(shù)據(jù)拆分后分給多人/多端處理是比較常見的管理方式,作為數(shù)據(jù)分發(fā)中心的NAS可以輕松將數(shù)據(jù)分發(fā)/共享給多臺(tái)算力設(shè)備。
● 設(shè)計(jì)嚴(yán)格的訪問限制機(jī)制,算力都是真金白銀堆出來的,NAS系統(tǒng)有著非常完善的訪問權(quán)限管理機(jī)制,不管是AI啟動(dòng)器還是喂養(yǎng)AI的數(shù)據(jù)庫,通過NAS的賬號(hào)限制和群組管理等功能都能快速配置,防止不必要的算力浪費(fèi)和數(shù)據(jù)外流。
簡單來說,NAS雖然機(jī)能無法承擔(dān)運(yùn)算推理工作,但卻能做好數(shù)據(jù)分發(fā)管理的輔助工作,串聯(lián)多臺(tái)設(shè)備同樣也是強(qiáng)項(xiàng)。
看到這里,大家應(yīng)該明白了,想讓NAS參與AI工作搭建環(huán)境,主要看算力在哪兒+存儲(chǔ)在哪兒。
1?? NAS本地部署DeepSeek運(yùn)算
上面有提到NAS算力的問題,這里其實(shí)也有解決方案,群暉這些傳統(tǒng)NAS廠商均有適合企業(yè)的機(jī)架式機(jī)器,可以滿足不同企業(yè)的算力要求。
需要提醒,顯卡的物理安裝是一方面,重點(diǎn)還是軟件層,NVIDIA顯卡的Linux驅(qū)動(dòng)分開源和閉源兩種,閉源驅(qū)動(dòng)會(huì)比開源的效率要高一些,具體安裝可以咨詢NAS廠商。
2?? NAS接入+管理第三方接口
如果問DeepSeek如何在群暉NAS上部署它自己,它會(huì)告訴你推理延遲比較高,說人話,常規(guī)家用型號(hào)的算力不夠,不建議。
當(dāng)然家用型號(hào)NAS不代表完全不能用,因?yàn)橄肓鲿呈褂脻M血DeepSeek需要付費(fèi),現(xiàn)在是DeepSeek剛開始火的時(shí)候,各家第三方服務(wù)商都在送福利,也就是注冊(cè)就會(huì)給一定量的免費(fèi)額度。
在NAS上部署Open-WebUI這類可快速切換API的啟動(dòng)器,對(duì)個(gè)人用戶/中小型企業(yè)來說會(huì)是個(gè)不錯(cuò)選擇,我的個(gè)人NAS也是這么用的,贈(zèng)送額度用完就切換,這么做可以提前規(guī)避后期無法免費(fèi)使用的小問題。
除了接入各家服務(wù)商的API以外,家用NAS也可以輕松實(shí)現(xiàn)在線數(shù)據(jù)編輯等功能,比如群暉的DS Drive這些套件,也就是上文提到的個(gè)人數(shù)據(jù)庫建立與維護(hù)。
3?? NAS打通VPS實(shí)現(xiàn)算力+數(shù)據(jù)共享
算力和效率直接掛鉤,但歸根結(jié)底還是得看成本,預(yù)算有限的企業(yè)選擇按使用時(shí)長收費(fèi)的云算力方案非常常見,本地NAS+云GPU的混合云組合會(huì)是中小企業(yè)的不錯(cuò)選擇。
當(dāng)然選擇上云就比較講究了,一般企業(yè)的云服務(wù)還是以亞馬遜AWS這類模塊化廠商為主,并不是所有NAS系統(tǒng)都可以無縫接入主流VPS,只有頭部NAS廠商支持比較好。
接下來進(jìn)入NAS體系選擇,也就是如何根據(jù)AI需求選擇合適的NAS系統(tǒng)。
1?? 個(gè)人使用
上文分享了三種NAS關(guān)聯(lián)DeepSeek的方案,常規(guī)用戶建議方案2,任意NAS其實(shí)都可以通過Docker技術(shù)部署Open-WebUI這類管理器性質(zhì)的容器項(xiàng)目,非常簡單。
但如果想要折騰本地部署,還是建議群暉DSM這些容器管理器做得比較好的NAS系統(tǒng),因?yàn)榭梢酝ㄟ^導(dǎo)入Yaml等快捷方式關(guān)聯(lián)多個(gè)容器,這種快捷方式不僅僅部署本地DeepSeek能受益,TeslaMate(特斯拉電車數(shù)據(jù)監(jiān)控體系)這類項(xiàng)目同樣也能減少部署難度。
2?? 企業(yè)使用
只要涉及商用,第一推薦順位必然是群暉,畢竟GNU這種頂部上游廠商都在用,具體推薦原因也比較簡單,群暉使用足夠簡單+數(shù)據(jù)保護(hù)足夠安全。
使用足夠簡單是多方面的,群暉這點(diǎn)真的不用多做介紹,無論是多賬號(hào)管理還是應(yīng)用部署,基本都是跟著官方系統(tǒng)引導(dǎo)就能輕松學(xué)會(huì),同時(shí)也有海量套件可以一鍵安裝,幾乎沒有什么學(xué)習(xí)門檻。
單獨(dú)說一下權(quán)限管理,現(xiàn)在可以說是全民AI,移動(dòng)等頭部企業(yè)都在組織DeepSeek的學(xué)習(xí)使用,數(shù)據(jù)管理權(quán)限就變得尤為重要,群暉完整支持13種 Windows ACL 權(quán)限,并且在Windows、macOS、Linux等系統(tǒng)中也可以生效,對(duì)打通企業(yè)內(nèi)設(shè)備幫助很大。
除了用戶操作和管理難度極低以外,群暉也提供了覆蓋范圍非常廣的官方技術(shù)支持,只要設(shè)備在線,絕大部分問題都可以遠(yuǎn)程處理解決,這也是為什么群暉售價(jià)比較高的原因之一,技術(shù)人才的人工貴。
在數(shù)據(jù)安全方面,群暉也是行業(yè)領(lǐng)先,除了通用的傳統(tǒng)RAID+快照機(jī)制,群暉還有獨(dú)家工具ABB(Active Backup for Business)可以將其他AI訪問端+運(yùn)算設(shè)備的的數(shù)據(jù)備份到群暉NAS上,輕松實(shí)現(xiàn)多點(diǎn)多副本備份。
除了上述的核心備份機(jī)制以外,群暉還有著獨(dú)立的產(chǎn)品安全事件響應(yīng)團(tuán)隊(duì) (PSIRT) ,用戶上報(bào)攻擊后正常能在24小時(shí)內(nèi)進(jìn)行人工處理,搭配群暉DSM本身提供的設(shè)備、IP等維度配置黑白名單和防火墻服務(wù),基本不用擔(dān)心入侵威脅。
列一些和DeepSeek契合度比較高的建議型號(hào),大家可以參考下。
1?? 適合中大型企業(yè)的機(jī)架式機(jī)型
如果大型企業(yè)有特別的需求,直接去群暉官網(wǎng),點(diǎn)擊關(guān)于群暉的產(chǎn)品咨詢,有專業(yè)的售前人員對(duì)接溝通,根據(jù)需求推薦更合適的 NAS 機(jī)型。
2?? 六盤位丨群暉DS1621+
簡介:單說成品NAS,中小企業(yè)建議群暉DS1621+,配置如下。
● CPU為AMD V1500B,四核四線程+2.2GHz最大主頻,無核顯。
● 共有六個(gè)3.5寸機(jī)械硬盤位,還有兩個(gè)2280長度的PCIe3.0固態(tài)硬盤M.2槽位。
● 內(nèi)存為兩個(gè)DDR4 SO-DIMM槽位,支持ECC內(nèi)存。
● 網(wǎng)口為四個(gè)千兆電口,機(jī)身有兩個(gè)留空的網(wǎng)卡拓展槽,可以自行拓展萬兆網(wǎng)卡。
● 外接接口有三個(gè)USB3.2Gen1接口,同時(shí)有一個(gè)可以接入DAS設(shè)備的eSATA接口。
● 機(jī)身預(yù)留了一個(gè)PCIe槽,速度為PCIe3.0x8,可以接入U(xiǎn).2轉(zhuǎn)接卡或者部分顯卡。
六盤位足夠中型企業(yè)搭建AI數(shù)據(jù)庫了,預(yù)留的PCIe槽也能接入U(xiǎn).2固態(tài)硬盤等第三方硬件做讀寫加速,想要更多盤位可以選擇八盤位的群暉DS1821+。
3?? 四盤位丨群暉DS923+
簡介:目前銷售量比較高的主推型號(hào),配置如下。
● CPU為AMD R1600,雙核四線程+3.1GHz最大主頻,無核顯。
● 共有四個(gè)3.5寸機(jī)械硬盤位,還有兩個(gè)2280長度的PCIe3.0固態(tài)硬盤M.2槽位。
● 內(nèi)存為兩個(gè)DDR4 SO-DIMM槽位,支持ECC內(nèi)存。
● 網(wǎng)口為兩個(gè)千兆電口,機(jī)身有一個(gè)留空的網(wǎng)卡拓展槽,可以自行拓展萬兆網(wǎng)卡。
● 外接接口有兩個(gè)USB3.2Gen1接口,同時(shí)有一個(gè)可以接入DAS設(shè)備的eSATA接口。
● 機(jī)身預(yù)留了一個(gè)PCIe槽,速度為PCIe3.0x2,可以接入網(wǎng)卡。
比較適合中小型團(tuán)隊(duì)或工作室搭建數(shù)據(jù)中心,ECC內(nèi)存的數(shù)據(jù)一致性會(huì)比非ECC型號(hào)要強(qiáng)一些。
4?? 四盤位丨群暉DS423+
簡介:可以簡單理解為群暉DS920+的迭代款,配置如下。
● CPU為Intel J4125,四核四線程+2.7GHz最大主頻,核顯為UHD 12EU。
● 共有四個(gè)3.5寸機(jī)械硬盤位,還有兩個(gè)2280長度的PCIe3.0固態(tài)硬盤M.2槽位。
● 板載內(nèi)存為2G,有一個(gè)留空的DDR4 SO-DIMM槽位。
● 網(wǎng)口為兩個(gè)千兆電口,外接接口有兩個(gè)USB3.2Gen1接口。
比較適合小型團(tuán)隊(duì)或工作室,如果后期DeepSeek推出更輕量化的模型,給群暉DS423+上兩塊高IOPS的固態(tài)硬盤也能應(yīng)對(duì)常規(guī)推理。
上一篇
康夫S9高速吹風(fēng)機(jī)深度評(píng)測:男士專屬的吹發(fā)新寵,是否值得入手?
下一篇
重塑 70 性價(jià)比榮光!AMD Radeon RX 9070 XT & RX 9070 首發(fā)評(píng)測