《MLperf 30項性能第一 寧暢X640AI服務器拆機首測》 中關村在線北京知行銳景科技有限公司寧暢X640 G30 AI服務器值得一提的是,不久之前,搭載NVIDIA T4/A100 GPU顯卡的寧暢X640 G30在AI基准性能評測平台MLPerf的ResNet、BERT、DLRM等基准測試中取得30項世界第一的成績。(注:MLPerf是用於衡量AI、邊緣計算等設備性能的基准測試平台,由雲服務廠商、OEM廠商、大學、軟件公司等超14個組織、50餘家知名IT企業共同驅動。該基准測試包括可代表生產級別的測試用例,測試結果在行業內具有較高權威性。) 沒錯,這次的主角就是它!而小編也是對寧暢這款X640 G30 AI服務器進行了一次深入測評,下面讓我們看看其“內功”如何。X640 G30 AI服務器采用了4U機架式機箱,整體采用銀白色設計,高、寬、深“三圍”為175.5mm X 482mm X 793mm。從整體上來看,不論做工、還是用料、細節,均彰顯出大廠品質,寧暢這家新創公司的家底看來很厚實。 整體采用銀白色設計寧暢X640 G30 AI服務器前面板為黑色系,電源鍵及寧暢logo位於前面板右上角,電源鍵下方是ID按鍵,前面板左上角則是兩個USB 3.0接口和VGA接口。前面版的豐富接口,充分考慮了運維人員的工作場景,十分便捷,加分! 服務器前面板將視線轉移到機器背面板,可以很明顯地看到大部分後面板都是密集的散熱通道,4個電源接口,1個RJ-45管理端口,2個USB 3.0接口,兩個LAN口和1個串口分布在下方。本次送測的服務器在實際評測過程中使用了1600W的電源,據官方介紹,寧暢X640 G30 AI服務器可選1600W或2000W CRPS高效白金電源,可選3+1冗餘或者2+2冗餘,電壓範圍100-240Vac,多種組合的冗餘電源設計,充分考慮了不同配置AI服務器的負載情況,保障穩定性。 服務器後面板寧暢X640 G30 AI服務器的接口組成很豐富。網絡方面,寧暢X640 G30 AI板載集成千兆雙口RJ45,可選萬兆雙口RJ45、25G雙口光纖,萬兆雙口等多種網絡接口,這樣豐富的網口組合,保證了“道路”通常,讓服務器性能可以全面發揮。寧暢X640 G30 打開各個管理模塊的方式十分便捷,還有圖注。打開上部面板,首先看下總體做工,處理器、電源、風扇、GPU等各模塊簡潔明朗,同時線路收於一起,絲毫不顯拖拉,設計、制造很到位。 人性化圖示 內部結構在風扇模塊上,寧暢X640 G30 AI服務器采用了4個熱插拔風扇模組,支持N+1冗餘。 風扇模塊值得一提的是,除了支持傳統風冷模組,寧暢X640 G30還支持“一體閉式循環液冷散熱器”以及“分體式開環冷板液冷散熱器”方案,不論多“猛”的GPU、CPU都可以鎮住。但目前小編手上的機器,風冷應該已足夠了,小編暫時還未拿到裝有液冷模塊的機型,只能向廠家要張設計圖,解解饞。 寧暢閉式/開式液冷散熱方案設計圖示(廠商提供)小編手上的這台X640 G30,最吸引我的還是這8塊NVIDIA Tesla T4。(8GPU卡交火的夢,這次算是圓了。) NVIDIA Tesla T4接下來就是最振奮人心的環節,小編將通過一系列測試軟件來了解這款服務器的硬實力。初次開機時,可以輕松進入BIOS界面為服務器安裝操作系統。 開機時待寧暢Logo出現後可進入BIOS BIOS界面寧暢X640 G30 支持Microsoft Windows Server、Red Hat Enterprise Linux、SUSE Linux Enterprise Server、Ubuntu等多種操作系統,本次評測的環境為Windows Server 2019。首先借助CPU-Z查看一下CPU基本信息。 服務器搭載英特爾至強金牌5220 CPU CPU基本信息 CPU-Z得分送評的寧暢X640 G30 AI服務器搭載的是兩塊Intel 至強金牌5220 CPU,14nm制程,主頻2.2GHz,單個CPU 18核心36線程。使用CPU-Z測試,單核得分321.2分,多核得分7844.9分。然後通過CineBench R20測試CPU性能,這也是一款飽受認可的跑分軟件。 CineBench R20得分可以看到,寧暢X640 G30 AI服務器在模擬測試中,跑出單核268cb,多核10930cb的得分,多核分數十分恐怖。接下來的測試項目是利用SiSoftware Sandra Lite 2020對寧暢X64 G30 AI服務器的算數、多媒體、加密、內存帶寬/延時等進行全方位測試。 SiSoftware Sandra Lite 2020測試結果可以看到,在算數性能、多媒體性能、內存延時、內存帶寬以及緩存及內存測試方面,寧暢X640 G30 AI服務器的成績都可圈可點,位於行業前列。接下來則是本次測試的重頭戲:寧暢X640 G30 AI服務器的GPU性能。首先讓我們看看寧暢X64 G30 AI服務器搭載的NVIDIA Tesla T4 GPU的基本信息。 GPU信息小編在這裏也貼出T4與其他Tesla GPU的數據對比,以及搭載T4 GPU 的X640 G30在MLperf平台跑分結果,讀者可以查看了解相關信息。 Tesla T4與其他Tesla GPU數據對比 3D-unit神經網絡測試結果 ResNet50殘差網絡測試結果 BERT語言模型測試結果各種模型測試結果太多,小編這裏就不逐一貼出了。關於寧暢X640 G30 AI服務器的GPU配置,根據官方文檔,針對訓練應用,支持8個NVIDIA V100 Tensor Core GPU/NVIDIA Quadro RTX 6000/NVIDIA Quadro RTX 8000全速7*24h工作,而針對推理應用,支持16個NVIDIA Tensor Core GPU提供在線大數據處理。上文中也提到了寧暢X640 G30 AI服務器在MLPerf中的不俗表現,最高可支持10張NVIDIA A100 PCIe卡或21張NVIDIA T4 PCIe卡。在搭載四個A100 GPU的情況下,在MLperf的Resnet50、SSD、RNN-T、BERT、DLRM等10項測試中分數值取得世界性能第一;搭載16個T4 GPU配置的情況下,X640 G30打破六項世界紀錄。在搭載21個T4 GPU配置下,亦取得14項性能第一。總結:通過上述外觀、內部設計及整體實際性能的綜合測試,可以看到,寧暢X640 G30 AI服務器無論是在計算、內存、和GPU方面的表現都十分不俗。可以預見到的是,如此的性能猛獸,在未來幾年內均可為企業數字化轉型提供源源不斷的算力,而強大的GPU運算能力,靈活可配置的計算性能,豐富的擴展,則可以在AI的應用場景中大顯身手,讓企業邁向智能化的道路更為通暢。此外,人性化的設計以及紮實的做工,也彰顯出寧暢這家初創公司所具備的大廠實力,為批量交付產品,提供了全面保障。縱觀行業內,寧暢X640 G30是款競爭力極強的產品,結合寧暢的定制化服務,相信能有不錯的市場表現。 《MLperf 30項性能第一 寧暢X640AI服務器拆機首測》完,請繼續朗讀精采文章。 喜歡 小編的世界 e4to.com,請記得按讚、收藏及分享!
音調
速度
音量
語言
MLperf 30項性能第一 寧暢X640AI服務器拆機首測
精確朗讀模式適合大多數瀏覽器,也相容於桌上型與行動裝置。
不過,使用Chorme瀏覽器仍存在一些問題,不建議使用Chorme瀏覽器進行精確朗讀。