MLperf 30項性能第一 寧暢X640AI服務器拆機首測

中關村在線

北京知行銳景科技有限公司

寧暢X640 G30 AI服務器

值得一提的是，不久之前，搭載NVIDIA T4/A100 GPU顯卡的寧暢X640 G30在AI基准性能評測平台MLPerf的ResNet、BERT、DLRM等基准測試中取得30項世界第一的成績。（注：MLPerf是用於衡量AI、邊緣計算等設備性能的基准測試平台，由雲服務廠商、OEM廠商、大學、軟件公司等超14個組織、50餘家知名IT企業共同驅動。該基准測試包括可代表生產級別的測試用例，測試結果在行業內具有較高權威性。
）

沒錯，這次的主角就是它！

而小編也是對寧暢這款X640 G30 AI服務器進行了一次深入測評，下面讓我們看看其“內功”如何。X640 G30 AI服務器采用了4U機架式機箱，整體采用銀白色設計，高、寬、深“三圍”為175.5mm X 482mm X 793mm。從整體上來看，不論做工、還是用料、細節，均彰顯出大廠品質，寧暢這家新創公司的家底看來很厚實。

整體采用銀白色設計

寧暢X640 G30 AI服務器前面板為黑色系，電源鍵及寧暢logo位於前面板右上角，電源鍵下方是ID按鍵，前面板左上角則是兩個USB 3.0接口和VGA接口。前面版的豐富接口，充分考慮了運維人員的工作場景，十分便捷，加分！

服務器前面板

將視線轉移到機器背面板，可以很明顯地看到大部分後面板都是密集的散熱通道，4個電源接口，1個RJ-45管理端口，2個USB 3.0接口，兩個LAN口和1個串口分布在下方。本次送測的服務器在實際評測過程中使用了1600W的電源，據官方介紹，寧暢X640 G30 AI服務器可選1600W或2000W CRPS高效白金電源，可選3+1冗餘或者2+2冗餘，電壓範圍100-240Vac，多種組合的冗餘電源設計，充分考慮了不同配置AI服務器的負載情況，保障穩定性。

服務器後面板

寧暢X640 G30 AI服務器的接口組成很豐富。網絡方面，寧暢X640 G30 AI板載集成千兆雙口RJ45，可選萬兆雙口RJ45、25G雙口光纖，萬兆雙口等多種網絡接口，這樣豐富的網口組合，保證了“道路”通常，讓服務器性能可以全面發揮。

寧暢X640 G30 打開各個管理模塊的方式十分便捷，還有圖注。打開上部面板，首先看下總體做工，處理器、電源、風扇、GPU等各模塊簡潔明朗，同時線路收於一起，絲毫不顯拖拉，設計、制造很到位。

人性化圖示

內部結構

在風扇模塊上，寧暢X640 G30 AI服務器采用了4個熱插拔風扇模組，支持N+1冗餘。

風扇模塊

值得一提的是，除了支持傳統風冷模組，寧暢X640 G30還支持“一體閉式循環液冷散熱器”以及“分體式開環冷板液冷散熱器”方案，不論多“猛”的GPU、CPU都可以鎮住。

但目前小編手上的機器，風冷應該已足夠了，小編暫時還未拿到裝有液冷模塊的機型，只能向廠家要張設計圖，解解饞。

寧暢閉式/開式液冷散熱方案設計圖示（廠商提供）

小編手上的這台X640 G30，最吸引我的還是這8塊NVIDIA Tesla T4。（8GPU卡交火的夢，這次算是圓了。）

NVIDIA Tesla T4

接下來就是最振奮人心的環節，小編將通過一系列測試軟件來了解這款服務器的硬實力。

初次開機時，可以輕松進入BIOS界面為服務器安裝操作系統。

開機時待寧暢Logo出現後可進入BIOS

BIOS界面

寧暢X640 G30 支持Microsoft Windows Server、Red Hat Enterprise Linux、SUSE Linux Enterprise Server、Ubuntu等多種操作系統，本次評測的環境為Windows Server 2019。

首先借助CPU-Z查看一下CPU基本信息。

服務器搭載英特爾至強金牌5220 CPU

CPU基本信息

CPU-Z得分

送評的寧暢X640 G30 AI服務器搭載的是兩塊Intel 至強金牌5220 CPU，14nm制程，主頻2.2GHz，單個CPU 18核心36線程。使用CPU-Z測試，單核得分321.2分，多核得分7844.9分。

然後通過CineBench R20測試CPU性能，這也是一款飽受認可的跑分軟件。

CineBench R20得分

可以看到，寧暢X640 G30 AI服務器在模擬測試中，跑出單核268cb，多核10930cb的得分，多核分數十分恐怖。

接下來的測試項目是利用SiSoftware Sandra Lite 2020對寧暢X64 G30 AI服務器的算數、多媒體、加密、內存帶寬/延時等進行全方位測試。

SiSoftware Sandra Lite 2020測試結果

可以看到，在算數性能、多媒體性能、內存延時、內存帶寬以及緩存及內存測試方面，寧暢X640 G30 AI服務器的成績都可圈可點，位於行業前列。

接下來則是本次測試的重頭戲：寧暢X640 G30 AI服務器的GPU性能。

首先讓我們看看寧暢X64 G30 AI服務器搭載的NVIDIA Tesla T4 GPU的基本信息。

GPU信息

小編在這裏也貼出T4與其他Tesla GPU的數據對比，以及搭載T4 GPU 的X640 G30在MLperf平台跑分結果，讀者可以查看了解相關信息。

Tesla T4與其他Tesla GPU數據對比

3D-unit神經網絡測試結果

ResNet50殘差網絡測試結果

BERT語言模型測試結果

各種模型測試結果太多，小編這裏就不逐一貼出了。關於寧暢X640 G30 AI服務器的GPU配置，根據官方文檔，針對訓練應用，支持8個NVIDIA V100 Tensor Core GPU/NVIDIA Quadro RTX 6000/NVIDIA Quadro RTX 8000全速7*24h工作，而針對推理應用，支持16個NVIDIA Tensor Core GPU提供在線大數據處理。

上文中也提到了寧暢X640 G30 AI服務器在MLPerf中的不俗表現，最高可支持10張NVIDIA A100 PCIe卡或21張NVIDIA T4 PCIe卡。在搭載四個A100 GPU的情況下，在MLperf的Resnet50、SSD、RNN-T、BERT、DLRM等10項測試中分數值取得世界性能第一；搭載16個T4 GPU配置的情況下，X640 G30打破六項世界紀錄。在搭載21個T4 GPU配置下，亦取得14項性能第一。

總結：

通過上述外觀、內部設計及整體實際性能的綜合測試，可以看到，寧暢X640 G30 AI服務器無論是在計算、內存、和GPU方面的表現都十分不俗。

可以預見到的是，如此的性能猛獸，在未來幾年內均可為企業數字化轉型提供源源不斷的算力，而強大的GPU運算能力，靈活可配置的計算性能，豐富的擴展，則可以在AI的應用場景中大顯身手，讓企業邁向智能化的道路更為通暢。

此外，人性化的設計以及紮實的做工，也彰顯出寧暢這家初創公司所具備的大廠實力，為批量交付產品，提供了全面保障。縱觀行業內，寧暢X640 G30是款競爭力極強的產品，結合寧暢的定制化服務，相信能有不錯的市場表現。