一、 AI大模型+Docker+NAS
AI技術(shù)其實(shí)在很多年前就已經(jīng)有了,但一直沒有找到好的應(yīng)用場(chǎng)景,所以一直不瘟不火,近些年隨著ChatGPT的一夜爆火,各種AI大模型就如雨后春筍般涌現(xiàn),讓人目不暇接。文字、圖片、視頻、音頻一切都可以通過AI來進(jìn)行創(chuàng)作,未來誰掌握了AI誰就能遙遙領(lǐng)先!
NAS(網(wǎng)絡(luò)附加存儲(chǔ))作為集中存儲(chǔ)的優(yōu)質(zhì)解決方案,以強(qiáng)大的數(shù)據(jù)存儲(chǔ)與安全備份能力深受廣大消費(fèi)者喜愛,隨著技術(shù)的不斷發(fā)展,NAS配置越來越強(qiáng)、性能越來越好,已經(jīng)慢慢成為家庭或企業(yè)不可或缺的數(shù)據(jù)中心,辦公、娛樂輕松拿捏。Docker作為一個(gè)開源容器引擎,可以屏蔽復(fù)雜的軟件安裝過程,只要有鏡像就可以幾秒鐘內(nèi)完成復(fù)雜應(yīng)用的安裝。作為劃時(shí)代的部署技術(shù),目前主流NAS都支持Docker進(jìn)行應(yīng)用部署,成千上萬的各種鏡像大大增加了NAS的可玩性。今天就讓我們一起使用Docker不花一分錢在NAS上部署自己的AI大模型!
二、 綠聯(lián)DXP4800系列
綠聯(lián)作為全球科技消費(fèi)電子領(lǐng)域的知名品牌,其產(chǎn)品從最初的電腦周邊慢慢擴(kuò)展到充電、音頻、存儲(chǔ)等領(lǐng)域,旗下產(chǎn)品以創(chuàng)新設(shè)計(jì)、高品質(zhì)、簡(jiǎn)單易用、性價(jià)比而著稱,今年綠聯(lián)發(fā)布了全新的DXP4800系列,硬件方面搭載性能強(qiáng)勁的Intel處理器與DDR5超高頻內(nèi)存,容量最高支持96TB,除4盤位普通硬盤外還支持雙NVMe M.2高速固態(tài)硬盤,接口方面常見的HDMI、USB3.2、Type-C、雙有線網(wǎng)口通通標(biāo)配。
軟件方面更是搭載了自研的新一代UGOS Pro系統(tǒng),雖然在系統(tǒng)初期存在不少問題,但隨著綠聯(lián)的不斷努力,很多初期的問題都得到了一一解決,在廣大用戶與綠聯(lián)一起共建下,UGOS Pro會(huì)越來越完善。
DXP4800系列總共有兩款產(chǎn)品,一款是DXP4800、一款是DXP4800 Plus,DXP4800采用4核4線程,睿頻3.4GHz的Intel N100處理器,搭載8G DDR5單通道內(nèi)存,最高支持16GB內(nèi)存,擁有兩個(gè)2.5GbE有線網(wǎng)絡(luò)接口。DXP4800 Plus則配備了性能更強(qiáng)勁的5核6線程,睿頻4.4GHz的Intel 8505處理器,搭載8G DDR5內(nèi)存,最高容量支持64G,并且支持雙通道。另外,有線網(wǎng)絡(luò)接口一個(gè)為2.5GbE,一個(gè)為10GbE,散熱方面增加了CPU散熱風(fēng)扇,價(jià)格方面比DXP4800貴700元。如果預(yù)算有限追求性價(jià)比可以選擇DXP4800,追求更好的性能就選擇DXP4800 Plus。
三、 綠聯(lián)DXP4800 Plus使用體驗(yàn)
因?yàn)槲冶容^喜歡折騰,所以選擇了性能更強(qiáng)的DXP4800 Plus。DXP4800 Plus采用長(zhǎng)方形外觀設(shè)計(jì),做工非常扎實(shí)的黑灰色航空鋁加厚機(jī)身安全感滿滿,外殼表面進(jìn)行了磨砂處理,金屬質(zhì)感直接拉滿,論顏值綠聯(lián)DXP4800 Plus確實(shí)比老牌NAS要好看不少。
NAS正面四個(gè)硬盤位依次排開,上面還有01、02、03、04的數(shù)字標(biāo)注,每個(gè)硬盤倉底部還配置了兒童鎖,鎖上后硬盤倉就不能被拉出。硬盤倉下面從左到右依次為電源按鍵、網(wǎng)絡(luò)指示燈、4個(gè)硬盤指示燈、SD卡槽、USB Type-C Gen2接口、USB-A 3.2 Gen2接口。綠聯(lián)的布局設(shè)計(jì)非常合理,常用的接口都在前面,使用更加方便快捷,SD卡槽的加入讓我們從單反相機(jī)拷貝相片、視頻更加簡(jiǎn)單。
背面一如既往的配備了磁吸防塵網(wǎng)罩,拿下防塵網(wǎng)罩即可看到風(fēng)扇出風(fēng)孔,綠聯(lián)DXP4800 Plus采用空氣動(dòng)力學(xué)散熱設(shè)計(jì),14cm大尺寸風(fēng)扇可以快速帶走熱量,時(shí)刻保持硬盤全速穩(wěn)定運(yùn)行。底部為接口區(qū)域,從左到右依次為HDMI接口、USB3.2 Gen1接口、兩個(gè)USB2.0接口、2.5GbE有線網(wǎng)口、10GbE有線網(wǎng)口、復(fù)位按鍵、電源接口,接口配置十分豐富。
將NAS底部面板的螺絲擰下來,拿下面板即可看到兩個(gè)M.2插槽和兩條DDR5內(nèi)存條插槽,剛好我手頭有來自金百達(dá)的兩根16GB DDR5-5600內(nèi)存和一塊來自希捷的酷魚530固態(tài)硬盤,趕緊給綠聯(lián)DXP4800 Plus安裝上,這樣32GB高速DDR5內(nèi)存搭配2TB高速固態(tài)硬盤,加上性能強(qiáng)勁的Intel 8505處理器,性能完全是桌面級(jí)了,無論是存儲(chǔ)數(shù)據(jù)還是影音娛樂它都能輕松應(yīng)對(duì),運(yùn)行AI本地大模型更加輕松。
綠聯(lián)DXP4800 Plus安裝配置是一如既往的簡(jiǎn)單,只需幾步就可以輕松完成初始化。自研的UGOS Pro系統(tǒng)界面十分清新,左上角為快捷菜單,可以快速打開APP并且支持快速搜索,右上角為CPU、內(nèi)存、網(wǎng)絡(luò)使用情況監(jiān)控、任務(wù)中心、通知、搜索、賬號(hào)管理,桌面左側(cè)為已安裝軟件列表,界面跟我們常用的Windows類似,即使是新手也能輕松駕馭。
NAS支持Web、PC、手機(jī)、電視等多種訪問方式,可以非常方便的進(jìn)行數(shù)據(jù)集中存儲(chǔ)以及讀取,同時(shí)還提供了專業(yè)的客戶端管理軟件,綠聯(lián)云APP功能非常全面,只需一個(gè)APP就可以搞定所有需求。
除了本地訪問以外,綠聯(lián)DXP4800 Plus還支持通過UGREENlink服務(wù)來實(shí)現(xiàn)外網(wǎng)直接訪問,不需要給NAS配置公網(wǎng)IP更加省事省心,無論你在何地只要能登陸就可以訪問NAS的資源,簡(jiǎn)直是出差人的福音,身在外地也可以隨時(shí)欣賞NAS中存儲(chǔ)的寶寶照片了。
在權(quán)限方面綠聯(lián)DXP4800 Plus提供了個(gè)性化權(quán)限管理,可以通過角色與用戶組來進(jìn)行靈活的用戶授權(quán),而且支持細(xì)粒度的讀寫權(quán)限控制,對(duì)于共享的文件夾還可以設(shè)置使用限額,避免空間被隨意占用。
新增用戶還新增了邀請(qǐng)注冊(cè)方式,通過分享鏈接或二維碼圖片邀請(qǐng)家人進(jìn)行注冊(cè),家人填寫資料后經(jīng)過管理員審批即可成功注冊(cè)新用戶。
存儲(chǔ)方面綠聯(lián)DXP4800 Plus支持多種RAID模式,比如靈活適配的JBOD、利用率高的Basic、多盤加速RAID0、安全穩(wěn)定的RAID1、性能均衡的RAID5、安全性高的RAID6以及性能安全兼?zhèn)涞腞AID10,大家可以按需進(jìn)行選擇,由于我只使用了兩塊硬盤所以我選擇了安全穩(wěn)定的RAID1模式。
數(shù)據(jù)安全方面綠聯(lián)也考慮得十分周到,除了使用自研的加密技術(shù)以外,還內(nèi)置安全管家可以實(shí)現(xiàn)實(shí)時(shí)防護(hù)、定時(shí)查殺等功能,安全管家就像一個(gè)稱職的保鏢,24小時(shí)保護(hù)NAS的安全。為此NAS也通過了美國TRUSTe、南德ETSI EN 303 645認(rèn)證,并且通過了網(wǎng)絡(luò)安全等級(jí)保護(hù)二級(jí)測(cè)評(píng)、360軟件安全漏洞測(cè)試,大家可以放心使用。
通過NAS內(nèi)置的應(yīng)用中心我們可以下載各種軟件,輕松搞定NAS管理、同步備份、AI相冊(cè)、影音娛樂、下載等功能,另外NAS還支持虛擬機(jī)與Docker技術(shù),大大增加了可玩性。據(jù)可靠消息后續(xù)綠聯(lián)還會(huì)支持第三方應(yīng)用,進(jìn)一步豐富應(yīng)用生態(tài)。
四、 AI大模型Docker部署
UGOS Pro系統(tǒng)現(xiàn)在支持Docker項(xiàng)目Compose,通過利用別人現(xiàn)成的或自己編寫的yaml文件,可以快速創(chuàng)建多個(gè)相關(guān)聯(lián)的容器項(xiàng)目,相比以前一個(gè)接一個(gè)的創(chuàng)建容器、配置容器,部署效率大幅提升。
接下來我們使用Docker進(jìn)行本地AI大模型部署,首先我們先下載部署工具ollama、openwebui的Docker鏡像。
下載完成后進(jìn)行容器啟動(dòng)配置,選擇鏡像-》本地鏡像-》ollama鏡像,點(diǎn)擊+號(hào)創(chuàng)建容器。
其它參數(shù)都不變,只需把網(wǎng)絡(luò)模式改成Host模式,讓容器使用NAS的網(wǎng)絡(luò)。
容器啟動(dòng)后我們可以查看容器的資源消耗以及日志情況,如果沒有報(bào)錯(cuò)則新建一個(gè)終端。
進(jìn)入終端,輸入ollama run qwen2:0.5b安裝千問大模型。
安裝完畢后可以直接與千問大模型進(jìn)行文字對(duì)話,由于綠聯(lián)DXP4800 Plus性能強(qiáng)勁,千問大模型問答相當(dāng)流暢,沒有出現(xiàn)任何卡頓或延遲現(xiàn)象。
接著我們?cè)囋嚫鼜?fù)雜的llama3.1大模型,先運(yùn)行ollama run llama3.1:8b命令進(jìn)行安裝。
安裝完畢后,讓AI給我寫篇游記大綱也是手到擒來,llama3.1:8b模型比qwen2:0.5b運(yùn)行要稍微慢一點(diǎn),但完全能接受。
大家肯定不喜歡一直用命令行來與AI大模型進(jìn)行交流,這個(gè)時(shí)候我們就再啟動(dòng)一個(gè)openwebui容器,步驟與ollama類似,在配置里面將網(wǎng)絡(luò)改為host,另外還需要配置一個(gè)ollama的訪問地址,IP就是NAS的IP,端口是固定的。
容器啟動(dòng)后我們可以通過NAS IP加8080端口進(jìn)行訪問,打開界面我們可以發(fā)現(xiàn)它與ChatGPT的頁面非常像,在左上角我們可以選擇前面安裝的兩個(gè)AI大模型,選擇大模型后在底部輸入框輸入問題即可愉快的與AI進(jìn)行文字交流了。
綠聯(lián)DXP4800 Plus得益于Intel 8505處理器+DDR5高頻內(nèi)存的強(qiáng)大硬件配置,除了可以自己部署AI大模型外,綠聯(lián)還內(nèi)置了不少基于本地化算力的AI模型,通過這些AI模型可以輕松實(shí)現(xiàn)AI智能搜索、圖片主體識(shí)別、重復(fù)照片識(shí)別、隱私保護(hù)、人臉識(shí)別等功能,讓相冊(cè)管理更加輕松快捷。
另外,NAS還支持先進(jìn)的本地AI自學(xué)習(xí)識(shí)圖模型訓(xùn)練,我們可以選擇一堆圖片進(jìn)行訓(xùn)練,同時(shí)還可以將訓(xùn)練好的模型保存下來,這一切都在NAS本地進(jìn)行,不需要將圖片發(fā)往服務(wù)器,有效避免隱私泄露。
娛樂方面,UGOS Pro系統(tǒng)集下載、整理、播放、分享全鏈路于一體,支持常見的下載協(xié)議,比如:HTTP、FTP、BT、PT、百度網(wǎng)盤、微軟OneDrive網(wǎng)盤等等。整理方面影視中心內(nèi)置智能算法,可以自動(dòng)準(zhǔn)確的匹配NAS中存儲(chǔ)的各種影視信息,打造只屬于自己的專屬精美影視海報(bào)墻,個(gè)人感覺綠聯(lián)的影視中心比第三方的APP更好用。播放方面支持HDR、藍(lán)光、4K、杜比視界,通過電視機(jī)連接NAS就可以輕松享受影院級(jí)視聽體驗(yàn)。分享方面,支持HDMI、DLNA投屏、綠聯(lián)TV APP、網(wǎng)絡(luò)掛載訪問,另外還支持權(quán)限控制,比如:小朋友就只能看適合他們的影片,后續(xù)還會(huì)上線家長(zhǎng)控制模式,可以有效約束孩子的使用行為。
五、 總結(jié)
綠聯(lián)DXP4800 Plus顏值在線、硬件配置強(qiáng)勁、接口豐富,不但可以滿足家庭的數(shù)據(jù)安全存儲(chǔ)需求還能為家人帶去不一樣的娛樂體驗(yàn),基于AI智能學(xué)習(xí)的相冊(cè)、簡(jiǎn)單易用的影視中心都非常不錯(cuò)。支持虛擬機(jī)與Docker大幅提升了NAS的可玩性,綠聯(lián)DXP4800 Plus既是家庭數(shù)據(jù)中心又是家庭娛樂中心,裝上AI大模型后立馬化身為生產(chǎn)力神器。UGOS Pro系統(tǒng)簡(jiǎn)單易用、安全可靠,每一次更新都有驚喜,未來可期!