浪潮AI服務器新品受關注 MLPerf測試單機性能名列前茅

砍柴網官方百家號

MLPerf是業內首套衡量機器學習軟硬件性能的通用基准,由圖靈獎得主David Patterson聯合谷歌和幾所著名高校於2018年發起,得到亞馬遜、Facebook、谷歌、哈佛大學、英特爾、英偉達、阿裏巴巴、浪潮等支持和參與。在最新發布的MLPerf 0.7 訓練測試榜單中,浪潮NF5488A5人工智能服務器除了在Resenet50取得單機計算性能榜首外,還在人工智能自然語言理解Transformer、神經網絡翻譯系統GNMT、深度學習推薦模型DLRM、目標監測算法SSD等MLPerf的模型訓練評估中均取得不俗成績。

參與打榜的這款產品NF5488A5是浪潮自研推出的新一代AI服務器,單機訓練性能可達5 PetaOPS,相比上一代服務器計算性能提升234%。兩年前Facebook的科學家用32台GPU服務器、256塊GPU花了1個小時完成了ImageNet上的Resnet50訓練,而現在僅需一台NF5488A5,即可在33分鐘完成同樣的訓練,單台設備訓練效率提升近60倍。同時,浪潮優化了NF5488A5的拓撲結構,采用NUMA綁定策略,可實現CPU與最近GPU的指定通信,大幅提升CPU與GPU之間的數據傳輸效率,實現更低的數據傳輸延遲和更高的帶寬,滿足各種AI負載高效數據通信需求。

NF5488A5可廣泛應用於圖像視頻、語音識別、金融分析、智能客服等典型AI應用場景,幫助AI用戶高效完成AI基礎設施和開發環境的構建,縮短開發周期,顯著提升AI開發和應用效率,在享受更高計算性能的同時降低部署、運行成本。