在8月27日舉辦的華為數(shù)據(jù)存儲AI SSD新品發(fā)布會上，三款全新AI SSD產(chǎn)品重磅登場。具體來看，高性能品類包含HUAWEI OceanDisk EX 56和HUAWEI OceanDisk SP 560，而HUAWEI OceanDisk LC 560則歸屬于大容量產(chǎn)品系列。
Huawei OceanDisk EX 560作為極致性能盤，隨機(jī)寫性能最高可達(dá)1,500K IOPS，隨機(jī)寫時(shí)延低于7?s，耐久性可達(dá)60 DWPD（每日全盤寫入次數(shù)），適用于AI一體機(jī)訓(xùn)練場景，通過高性能AI SSD將單機(jī)可微調(diào)的模型參數(shù)擴(kuò)大6倍，實(shí)現(xiàn)千億參數(shù)大模型輕松可微調(diào)。
Huawei OceanDisk SP 560定位為高性能盤，主打高性價(jià)比。它的隨機(jī)寫性能最高可達(dá)600K IOPS，隨機(jī)寫時(shí)延同樣低于7?s，耐久性為1 DWPD，適用于一體機(jī)和集群的推理場景。可推理序列長度提升了2.5倍，推理體驗(yàn)得到進(jìn)一步優(yōu)化，成本也更具優(yōu)勢。不僅如此，其還實(shí)現(xiàn)了TPS提升1~2倍，首Token時(shí)延降低75%，讓推理環(huán)節(jié)更加高效流暢。
Huawei OceanDisk LC 560為大容量盤。它實(shí)現(xiàn)了超大容量突破，最大單盤物理容量高達(dá)245TB，讀帶寬可達(dá)14.7GB/s。對于集群訓(xùn)練場景而言，該產(chǎn)品的作用十分關(guān)鍵，它能助力數(shù)據(jù)采集預(yù)處理效率提升6.6倍，高效存儲海量多模態(tài)語料庫，為AI訓(xùn)練提供充足的數(shù)據(jù)“彈藥庫”，有力支撐了集群訓(xùn)練在數(shù)據(jù)存儲與讀取方面的高要求。
在發(fā)布會現(xiàn)場，華為公司副總裁、數(shù)據(jù)存儲線總裁周躍峰表示，AI SSD（固態(tài)硬盤）將以技術(shù)創(chuàng)新提升AI業(yè)務(wù)體驗(yàn)，攻克效率與成本難關(guān)。此外，華為還推出DiskBooster驅(qū)動軟件，支持AI SSD與HBM、DDR內(nèi)存智能協(xié)同，通過內(nèi)存擴(kuò)展技術(shù)實(shí)現(xiàn)虛擬池化內(nèi)存20倍擴(kuò)展。
就在此前的8月12日，華為正式發(fā)布AI推理創(chuàng)新技術(shù)UCM（推理記憶數(shù)據(jù)管理器）。據(jù)了解，作為一款以KV Cache為中心的推理加速套件，UCM融合了多類型緩存加速算法工具，分級管理推理過程中產(chǎn)生的KV Cache記憶數(shù)據(jù)，可擴(kuò)大推理上下文窗口，實(shí)現(xiàn)高吞吐、低時(shí)延的推理體驗(yàn)，降低每Token推理成本。
(10374793)
海量資訊、精準(zhǔn)解讀，盡在新浪財(cái)經(jīng)APP
永華配資提示：文章來自網(wǎng)絡(luò)，不代表本站觀點(diǎn)。
