久久午夜影院,91精品国产调教在线观看,日韩午夜免费,伊人久久大香线蕉av不卡

你的位置:首頁 > RF/微波 > 正文

透過DeepSeek,聊聊存儲是如何給AI加速的

發(fā)布時(shí)間:2025-02-28 來源:投稿 責(zé)任編輯:admin

從AI服務(wù)器到AI PC,如何快速的用上DeepSeek成為熱門問題。無論DeepSeek Janus-Pro把多模態(tài)提升到了一個(gè)新層次,還是媲美主流的DeepSeek-V3,或者應(yīng)用于本地的DeepSeek-V3,對存儲都提出了新的需求。以完整未蒸餾的DeepSeek R1模型為例,這是一個(gè)擁有6710億參數(shù)的混合專家(MoE)模型,未量化版本的文件體積高達(dá)720GB,而動(dòng)態(tài)量化版本也達(dá)到150GB到400GB之間。

DeepSeek讓GPU算力一下子得到了空前的釋放,允許廠商將更多的資源集中到其它關(guān)鍵硬件中,比如更強(qiáng)大的并行能力,以及更優(yōu)秀的存儲方案。很顯然,常規(guī)的存儲方案已經(jīng)不能很好的解決效率和存儲的問題,在企業(yè)級和數(shù)據(jù)中心級SSDAI提供存儲支持時(shí),以QLCCXL為例的新技術(shù)也正在協(xié)助AI以更低成本和更高的效率運(yùn)行。

11.jpeg

QLCCXL:為AI鋪路

由于DeepSeek不僅降低了計(jì)算成本,多模態(tài)處理能力、說是知識圖譜和推理能力的優(yōu)秀表現(xiàn),使得廠商擁有足夠的資源調(diào)用更多的數(shù)據(jù)。這使得原本大量的冷數(shù)據(jù)變成了溫?cái)?shù)據(jù)。溫?cái)?shù)據(jù)對存儲有著更高的要求,需要相對HDD更快的傳輸速率,并且存儲數(shù)據(jù)可能每年以EB級增長。這導(dǎo)致SSD的需求往大容量和低成本的方向發(fā)展。

其中QLC能夠更好的在單位空間內(nèi)提升存儲容量,第八代BiCS FLASH? 2Tb QLC的位密度比鎧俠目前所采用的第五代BiCS FLASH?的QLC產(chǎn)品提高了約2.3倍,寫入能效比提高了約70%。不僅如此,全新的QLC產(chǎn)品架構(gòu)可在單個(gè)存儲器封裝中堆疊16個(gè)芯片,為業(yè)界提供領(lǐng)先的4TB容量,并采用更為緊湊的封裝設(shè)計(jì),尺寸僅為11.5 x 13.5 mm,高度為1.5 mm。

這意味著,未來采用第八代BiCS FLASH QLC的存儲產(chǎn)品在存儲空間擁有質(zhì)的飛躍,可以輕松將企業(yè)級SSD和數(shù)據(jù)中心級SSD容量提升至120TB以上。

22.png

密集的DeepSeek計(jì)算也意味著對內(nèi)存有著海量的要求,但動(dòng)輒數(shù)百GB的訓(xùn)練模型全部存儲在內(nèi)存中也意味著高昂的成本,如何利用BiCS FLASH?降低成本也是未來的思考方向。例如利用相變存儲原理,基于BiCS FLASH?結(jié)構(gòu)打造的XL-FLASH存儲級內(nèi)存(Storage Class Memory, SCM)與CXL相結(jié)合,開發(fā)相較內(nèi)存功耗更低、位密度更高,相較閃存讀取速度更快的存儲器。這不僅會提高存儲器利用效率,還有助于節(jié)能。

33.png

CXL技術(shù)本身通常也意味著更先進(jìn)的PCIe版本支持,鎧俠則是積極響應(yīng)PCIe升級的存儲制造商之一。例如,鎧俠率先推出支持PCIe? 5.0的企業(yè)級固態(tài)硬盤CM7系列。PCIe? 5.0 SSD與傳統(tǒng)存儲設(shè)備(如PCIe? 4.0 SSD)的對比測試,結(jié)果顯示, CM7系列SSD在多個(gè)GPU并行訪問時(shí),能夠提供91%的I/O吞吐量提升,此外,它的讀取延遲比傳統(tǒng)SSD低57%。同時(shí),PCIe? 5.0 SSD能機(jī)器學(xué)習(xí)訓(xùn)練時(shí)間能夠得到顯著減少。以16個(gè)GPU并行處理為例,使用PCIe? 5.0 SSD可以減少32到44天的訓(xùn)練時(shí)間。

特別是在PCIe? 5.0與NVMe?規(guī)范下實(shí)現(xiàn)可靠的RAID兼容性和互操作性能。特別是生成式AI與檢索增強(qiáng)生成 (RAG) 系統(tǒng)的重要性更勝以往,關(guān)系數(shù)據(jù)庫PostgreSQL和向量數(shù)據(jù)庫需求變得格外重要。例如通過Xinnor的RAID 解決方案的兼容性和互操作性測試,與采用相同硬件配置的軟件 RAID 解決方案相比,在數(shù)據(jù)降級模式下執(zhí)行PostgreSQL效能更提升達(dá)25倍。

44.jpeg

搶先布局

任何前沿技術(shù)不可能一蹴而就,AI技術(shù)的積累更是如此。流暢體驗(yàn)的AI服務(wù)對數(shù)據(jù)傳輸速度有著很高的要求。在多年前,鎧俠已經(jīng)開始對AI展開布局,并致力于為人工智能的發(fā)展提供高性能的存儲解決方案。

為了推動(dòng)檢索增強(qiáng)生成(RAG)擴(kuò)展獲得更好的性能支持進(jìn)一步降低成本。鎧俠在近期宣布開源AiSAQ?技術(shù),這是一項(xiàng)專為SSD優(yōu)化的新型“近似最近鄰”搜索(ANNS)算法,跳過將索引數(shù)據(jù)載入內(nèi)存(DRAM)的步驟,直接在SSD上執(zhí)行檢索操作,幫助企業(yè)/應(yīng)用針對特定數(shù)據(jù)優(yōu)化,從而實(shí)現(xiàn)幫助大語言模型(LLM)訓(xùn)練節(jié)省成本。

55.png

利用高性能存儲特性,鎧俠在AI前沿進(jìn)行了諸多嘗試。包括通過Memory-Centric AI技術(shù)解決企業(yè)級SSD中圖像分類任務(wù)中災(zāi)難性丟失問題,在神經(jīng)網(wǎng)絡(luò)不通過調(diào)整的前提下,在深度學(xué)習(xí)中快速獲得圖像特征辨別和標(biāo)簽添加。并在數(shù)年前與NVIDIA展開深度合作,從加速StyleGAN、NeRF等算法,到協(xié)助NVIDIA搭建Omniverse平臺,包括搭建最新的物理AI開發(fā)平臺NVIDIA Cosmos,為LLM訓(xùn)練整理自定義數(shù)據(jù)集的NVIDIA NeMo Curator。

66.png

針對前瞻性存儲,鎧俠在近期還正式發(fā)布了全新XD8系列PCIe? 5.0 EDSFF(企業(yè)和數(shù)據(jù)中心標(biāo)準(zhǔn)型)E1.S固態(tài)硬盤。它是鎧俠第三代E1.S固態(tài)硬盤,符合PCIe? 5.0(32 GT/s x 4)和NVMe? 2.0規(guī)范,并支持開放計(jì)算項(xiàng)目(OCP)數(shù)據(jù)中心NVMe SSD v2.5規(guī)范。

鎧俠XD8系列專為云和超大規(guī)模環(huán)境設(shè)計(jì),滿足數(shù)據(jù)中心對高性能、高效率和高可擴(kuò)展性的日益增長的需求。通過這款新的固態(tài)硬盤,云服務(wù)提供商和超大規(guī)模企業(yè)能夠優(yōu)化基礎(chǔ)設(shè)施,在保持運(yùn)營效率的同時(shí)提供卓越的性能。

77.png

AI移動(dòng)起來

DeepSeek另一個(gè)實(shí)現(xiàn)領(lǐng)域則是在移動(dòng)平臺。即便是春節(jié)假期,多個(gè)版本針對AI PC本地化AI部署的DeepSeek R1已經(jīng)成型,例如蒸餾版本的7B和14B參數(shù)模型在筆記本和消費(fèi)級臺式機(jī)電腦上,可利用NPU和GPU實(shí)現(xiàn)離線運(yùn)作,進(jìn)一步確保了私有信息的安全。

對于AI PC而言,除了提供獨(dú)立GPU或者NPU進(jìn)行AI加速,大容量NVMe SSD也同等重要,另外還要考慮到有限的AI PC內(nèi)部空間,固態(tài)硬盤需要同時(shí)兼顧性能與散熱。以鎧俠BG6系列為例,鎧俠 BG6 系列在AI PC上能夠展現(xiàn)卓越的性能和靈活性。采用 PCIe? 4.0 和 NVMe 1.4c 規(guī)范,搭載高達(dá)2,048GB存儲空間。順序讀取速度最高可達(dá) 6,000 MB/s,隨機(jī)讀取速度更是高達(dá) 900,000 IOPS。這使得BG6系列成為緊湊型固態(tài)硬盤中的佼佼者,為用戶提供了更快速、更高效的數(shù)據(jù)處理體驗(yàn)。

88.png

另外BG6 系列提供了多種容量選擇,包括 256GB、512GB、1,024GB 和 2,048GB,適用于不同用戶需求。其采用 M.2 Type 2230 和 Type 2280 模組封裝,可靈活應(yīng)用于各類薄型設(shè)備,如超薄筆記本電腦、嵌入式設(shè)備。也給不同形態(tài)的AI PC部署本地AI提供了豐富的解決方案。

從數(shù)據(jù)中心、服務(wù)器,到個(gè)人計(jì)算機(jī),鎧俠為AI計(jì)算提供了豐富、高效的存儲方案,并與合作伙伴展開深度合作,從軟件和硬件層面入手,利用高性能固態(tài)硬盤的特性,為AI計(jì)算提供可靠的存儲后盾,共同探索更多AI的可能性,充分利用AI與數(shù)據(jù),創(chuàng)造更多價(jià)值。

特別推薦
技術(shù)文章更多>>
技術(shù)白皮書下載更多>>
熱門搜索

關(guān)閉

?

關(guān)閉

久久午夜影院,91精品国产调教在线观看,日韩午夜免费,伊人久久大香线蕉av不卡
亚洲第一精品影视| 国产精品一区高清| 国产精品sm| 国产精品久久久久77777丨| 日韩国产在线观看| 国产一区导航| 亚洲另类av| 日韩精选在线| 欧美午夜三级| 国产美女亚洲精品7777| 国产精品亚洲综合久久| 麻豆一区二区99久久久久| 国产精品美女久久久久久不卡| 国产日韩三级| 国产suv精品一区| 群体交乱之放荡娇妻一区二区| 久久久一本精品| 影音国产精品| 日韩激情啪啪| 黄色在线观看www| 欧美一级精品| 日韩精品高清不卡| 国产一区二区三区探花| 99精品视频在线观看免费播放| av亚洲免费| 欧美一区不卡| 国产一区视频在线观看免费| 日韩精品一区二区三区中文| 精品美女视频| 亚洲一级淫片| 日本欧美不卡| 欧美激情麻豆| 亚洲一区有码| 亚洲欧洲美洲av| 天堂久久av| 色爱综合av| 国产伦理一区| 国产精品免费看| 精品久久中文| 日韩欧美三区| 午夜国产欧美理论在线播放| 美女精品一区二区| 蜜桃视频免费观看一区| 四虎4545www国产精品 | 先锋影音国产一区| 久久99蜜桃| 欧美一区成人| 首页国产欧美日韩丝袜| 精精国产xxxx视频在线播放| 国产精品任我爽爆在线播放 | 五月天久久久| 国产中文在线播放| 国产精品igao视频网网址不卡日韩 | 亚洲精品网址| 蜜臀国产一区| 国产精品国码视频| 亚洲97av| 91av一区| 久久三级毛片| 精品高清久久| 日产精品一区二区| 国产成人精品免费视| 国产成人精品免费视| 日韩大片免费观看| 精品国产精品久久一区免费式| 国产亚洲人成a在线v网站| 日本aⅴ免费视频一区二区三区| 亚洲日韩中文字幕一区| 色婷婷成人网| 国产精品久久国产愉拍| 久久国产三级| 国产欧美日韩亚洲一区二区三区| 97久久中文字幕| 美女视频黄 久久| 成人av三级| 亚洲在线观看| 欧美天堂一区| 国际精品欧美精品| 欧美不卡高清一区二区三区| 欧美久久精品一级c片| 免费的成人av| 国产欧美精品| 婷婷综合六月| 天堂久久一区| 麻豆成人综合网| 日韩欧美在线中字| 午夜国产一区二区| 日韩在线麻豆| 久久久久久久久成人| 午夜免费一区| 国产精品草草| 尤物网精品视频| 国产精品毛片久久久| 91精品婷婷色在线观看| 日本久久一区| 99久久夜色精品国产亚洲1000部| 久久xxxx| 久久毛片亚洲| 亚洲一区欧美| 99久久99久久精品国产片果冰| 中文精品电影| 国产盗摄——sm在线视频| 综合一区av| 精品日韩视频| 麻豆精品在线视频| 日韩制服丝袜av| 高清不卡亚洲| 日韩av黄色在线| 欧美精品黄色| 神马午夜在线视频| 国产精品最新| 亚洲精品乱码日韩| 午夜av一区| 激情偷拍久久| 日韩精品午夜| 欧美日韩1区| 蜜桃久久久久久久| 黄色亚洲大片免费在线观看| 久久精品国产免费| 国产欧美一区二区三区国产幕精品| 国产毛片久久| 中文欧美日韩| 9久re热视频在线精品| 九色精品91| 欧洲激情综合| 亚洲激情黄色| 亚洲一区成人| 免费日韩视频| 亚洲图片久久| 日本亚洲三级在线| 亚洲精品观看| 日韩动漫一区| 国产精品成人3p一区二区三区| 久久精品99国产国产精| 国产精品九九| а√天堂中文在线资源8| 欧美香蕉视频| 一区在线观看| 日本综合视频| 国产精品三p一区二区| 久久久91麻豆精品国产一区| 国产suv精品一区二区四区视频| 夜鲁夜鲁夜鲁视频在线播放| 好吊视频一区二区三区四区| 免费精品视频| 亚洲aa在线| 精品在线网站观看| 久久高清精品| 日韩制服丝袜av| 国产精品magnet| 一本色道精品久久一区二区三区| 日韩中文欧美在线| 麻豆国产欧美一区二区三区| 999久久久亚洲| 91成人福利| 午夜久久免费观看| 亚洲一级大片| bbw在线视频| 免费在线看一区| 国产精品xx| 99riav1国产精品视频| 青草久久视频| 激情欧美一区| 国产日韩亚洲欧美精品| 三级精品视频| 国产精品一区二区精品| 亚洲特级毛片| 麻豆91小视频| 在线精品福利| 激情欧美一区| 精品一区二区三区中文字幕视频 | 丝袜美腿亚洲一区| 日本欧美一区二区| 亚洲成人不卡| 乱一区二区av| 久久国产尿小便嘘嘘| 美女国产精品| 99久久久久国产精品| 精品免费av| 欧美日韩视频免费看| 亚洲日本国产| 午夜国产一区二区| av中文字幕在线观看第一页| 欧美日韩中文| 日韩欧美四区| 亚洲综合图色| 亚洲美女91| 神马午夜久久| 亚洲国产成人二区| 国产成人精品一区二区免费看京 | 国产99亚洲| 国产精品麻豆久久| 成人精品国产亚洲| 精品视频在线你懂得| 免费在线亚洲欧美| 欧美黑人做爰爽爽爽| 亚洲制服少妇| 中文字幕日韩高清在线 | 亚洲性图久久| 日韩午夜av在线|