全球AI的頂級盛會GTC于3月17日到3月21日在美國矽谷盛大舉行。在GTC大會期間,華瑞指數雲ExponTechCTO曹羽中受邀參加了專注于AIStorage的技術研討會並發表演講。總結基于本次在真實的環境上的全面測試,總結一下ExponTech與合作夥伴ScaleFlux,AIC基于英偉達的BlueField3DPU以及英偉達最新發布的Spectrum-X網絡打造的新型AIStorage方案的關鍵特點和優勢:世界頂級性能,SPC-1評測超越所有高端全閃存儲陣列,打破世界紀錄,MLPerfStoragev1.0測試數據大幅度超越WekaIO,DDN等著名並行文件系統;世界頂級容量密度,當前每2UStorageNode可實現超過1.6PB存儲裸容量,明年可擴展至每2U超過6.6PB,最大化數據中心空間的AI數據價值;配置的ScaleFluxCSD5000NVMeSSD具有盤內透明壓縮解壓縮能力,能夠在不消耗額外系統資源,不影響性能的情況下實現存儲裸容量的數倍放大,存儲容量效率獲得驚人的提升;同一平台上同時支持高性能分布式塊存儲和文件存儲等多種協議,除了支持AI的訓練和推理場景可以覆蓋數據彙集,數據准備,RAG等AIPipeline全場景,無須爲AIPipeline配置不同的存儲方案以及反複進行數據拷貝移動,可以實現AI算力和存力的完全存算分離和獨立擴展,具備更好的可管理性和效率;強大的並行擴展性,存儲節點及計算節點均可以獨立的水平擴展,同時實現存儲性能和容量的等比例擴展;可靠性高,可維護性高,存儲節點采用相比標准服務器更爲精簡的JBOF,硬件故障率更低,同時JBOF內部采用冗余的硬件設計來保障可靠性,提升可維護性;支持基于RoCE的超大規模組網,采用RoCE動態路由和細粒度的負載均衡實現更好的擁塞控制,基于標准以太網在大規模RDMA組網中實現高效帶寬,低抖動和超低時延;優化的總體擁有成本,高密度的存儲節點透明盤內壓縮新型軟件定義存儲軟件的組合簡化了硬件成本,大幅度提升了存儲空間利用效率和讀寫性能,簡化了管理,AI客戶將因此大幅度優化其AIStorage的總體擁有成本;基于此方案的KVCache大規模持久化方案也即將推出,實現AI推理集群內的K,V向量的全局共享,能夠以低成本高性能的大規模存儲能力替代AI推理過程中K,V向量的大量重複運算,實現AI推理算力成本的大幅降低。