過去一年，ChatGPT出圈，AI for Science概念流行，AIGC成為行業(yè)內最高頻的詞匯。走在北京五道口地區(qū)，方圓幾公里內，就坐落著近10個大模型創(chuàng)業(yè)公司。據(jù)最新媒體統(tǒng)計報道顯示，我國目前已有超百個大模型問世發(fā)布?？梢哉f，以深度學習為代表的新一代人工智能和以大模型為代表的通用人工智能將成為智能產業(yè)的根技術和智能經濟的基礎設施。
眾所周知，在這場名副其實的“百團大戰(zhàn)”背后，是大量看不見的計算力競爭。在ChatGPT的研發(fā)上，微軟就曾在Azure的六十多個數(shù)據(jù)中心部署了幾十萬張GPU，為OpenAI單獨使用。但與此同時，在基于海量數(shù)據(jù)進行的訓練與優(yōu)化過程中，還有一個性能同樣至關重要，那就是數(shù)據(jù)存儲。
AIGC創(chuàng)新升級 亟需“工事利器”為訓練加速
算力是生產力，數(shù)據(jù)是核心生產要素，作為數(shù)據(jù)的載體，存儲成為AI大模型的關鍵基礎設施，只有實現(xiàn)存算協(xié)同優(yōu)化，才能在良好的“地基”上穩(wěn)建“高樓”。但目前行業(yè)企業(yè)在大模型開發(fā)及訓練過程中仍然面臨諸多難題，而這些難題大部分來自于存儲挑戰(zhàn)。
其中，最重要的問題還是根本上的存儲技術挑戰(zhàn)。AI大模型相比以往深度學習系統(tǒng)，模型參數(shù)與訓練數(shù)據(jù)大幅提升，模型訓練便需要使用GPU本地存儲之外的外部存儲，如果外部存儲中的數(shù)據(jù)加載速度慢，就會極大地影響訓練時間。此外，隨著算力的大規(guī)模部署及模型參數(shù)的頻繁調優(yōu)，因主動或其他意外導致被動的訓練中斷會頻繁發(fā)生，每天都會面臨訓練過程的中斷。因此，checkpoint等參數(shù)信息的保存及快速加載便極為重要，高價值的信息與數(shù)據(jù)只有被更好的存儲，才能被最好的利用。
XDS首創(chuàng)問世 率先構建數(shù)據(jù)交互高速通路
面對AI時代下行業(yè)對先進存力的呼喚，部分優(yōu)秀的存儲企業(yè)已率先發(fā)力。近日，曙光存儲面向數(shù)據(jù)集加載效率及穩(wěn)定性提升等存儲需求，發(fā)布高端分布式存儲系統(tǒng)ParaStor300S最新迭代升級方案，提供基于算力和存力端的多級智能加速技術，可高效發(fā)揮算力與存力的協(xié)同，保證算力能夠快速抵達存力，打通數(shù)據(jù)通路最后一公里，保證AI算力效率的最大化。其中包括算力端的XDS（NPU/GPU/Direct Storage）和客戶端MEM-Based加速，以及存力端的ParaBuffer引擎和存儲節(jié)點內嵌NVMe SSD-Based加速能力。
最值得一提的是，XDS是國內解決方案中可率先實現(xiàn)主流廠商的智能芯片到存儲之間數(shù)據(jù)快速交互的技術。基于該技術，訓練數(shù)據(jù)能夠以Storage Direct的方式直接加載到智能芯片中，避免在IO過程中使用CPU緩存做copy轉發(fā)，提高訓練過程中數(shù)據(jù)集的加載及處理速度。以往提到相關技術，行業(yè)中普遍意義上是指GDS（GPU Direct Storage），但此次曙光存儲所發(fā)布的最新XDS技術，以“X”代表多種不同的可行性，包括算力端支持業(yè)界多款AI芯片與存儲的直接訪問、算力端內存/固態(tài)硬盤加速及存力端的高效加速節(jié)點ParaBuffer和NVMe SSD緩存加速技術。在未來持續(xù)的智能應用創(chuàng)新中，具備多重的加速能力與更廣泛的通用性，可以預見訓練效率在這種更直接的傳輸技術下，無疑將實現(xiàn)幾何倍數(shù)提升。
此外，針對目前存儲中諸如多樣性協(xié)議管理、數(shù)據(jù)智能分級生命周期管理及數(shù)據(jù)安全等其他存儲難題，曙光ParaStor300S也擁有對應解決方案。通過多協(xié)議訪問、熱溫冷數(shù)據(jù)智能分級流動存儲及全棧自研的安全大模型平臺，為企業(yè)提供先進存力支撐。
目前，曙光先進存力已為國內某人工智能新經濟獨角獸大模型平臺提供PB級全閃高性能存儲資源池。針對客戶端眾多操作系統(tǒng)類型，快速定制開發(fā)統(tǒng)一的POSIX軟件包，讓每個客戶端性能不掉隊。同時，曙光存儲還為該客戶提供包含慢盤、壞塊、磨損度、延遲、丟包率和誤碼率等多維度檢測能力。最后，通過全局磨損均衡、實時狀態(tài)監(jiān)控與逆磨損均衡等功能，可大幅提升全閃分布式存儲固態(tài)硬盤耐久性，保證業(yè)務連續(xù)性與系統(tǒng)安全，充分支持大模型訓練與迭代。此外，在智能制造領域，曙光存儲也持續(xù)深耕，正在加速多場景產業(yè)應用落地。
— 完 —
