顺应AI时期需求,宁畅信息家当(北京)有限公司(以下简称“宁畅”)推出的X640 G30做事器,便是一款兼备演习与推理功能型的全能型GPU做事器。
这款做事器采取双路英特尔至强可扩展处理器,支持多达8个演习GPU或16个推理GPU,专为高密度GPU打算供应全方位性能支持。
还支持多种不同的GPU拓补构造,针对不同的运用和模型进行GPU互联优化,实现最高效的打算平台。

宁畅X640 G30 AI做事器

值得一提的是,不久之前,搭载NVIDIA T4/A100 GPU显卡的宁畅X640 G30在AI基准性能评测平台MLPerf的ResNet、BERT、DLRM等基准测试中取得30项天下第一的成绩。
注:MLPerf是用于衡量AI、边缘打算等设备性能的基准测试平台,由云做事厂商、OEM厂商、大学、软件公司等超14个组织、50余家有名IT企业共同驱动。
该基准测试包括可代表生产级别的测试用例,测试结果在行业内具有较高威信性。

没错,这次的主角便是它!

MLperf 30项机能第一 宁畅X640AI做事器拆机首测

整体采取银白色设计

宁畅X640 G30 AI做事器前面板为玄色系,电源键及宁畅logo位于前面板右上角,电源键下方是ID按键,前面板左上角则是两个USB 3.0接口和VGA接口。
前面版的丰富接口,充分考虑了运维职员的事情场景,十分便捷,加分!

做事器前面板

将视线转移到机器背面板,可以很明显地看到大部分后面板都是密集的散热通道,4个电源接口,1个RJ-45管理端口,2个USB 3.0接口,两个LAN口和1个串口分布不才方。
本次送测的做事器在实际评测过程中利用了1600W的电源,据官方先容,宁畅X640 G30 AI做事器可选1600W或2000W CRPS高效白金电源,可选3+1冗余或者2+2冗余,电压范围100-240Vac,多种组合的冗余电源设计,充分考虑了不同配置AI做事器的负载情形,保障稳定性。

做事器后面板

宁畅X640 G30 AI做事器的接口组成很丰富。
网络方面,宁畅X640 G30 AI板载集成千兆双口RJ45,可选万兆双口RJ45、25G双口光纤,万兆双口等多种网络接口,这样丰富的网口组合,担保了“道路”常日,让做事器性能可以全面发挥。

宁畅X640 G30 打开各个管理模块的办法十分便捷,还有图注。
打开上部面板,首先看下总体做工,处理器、电源、风扇、GPU等各模块简洁明朗,同时线路收于一起,丝毫不显拖沓,设计、制造很到位。

人性化图示

内部构造

在风扇模块上,宁畅X640 G30 AI做事器采取了4个热插拔风扇模组,支持N+1冗余。

风扇模块

值得一提的是,除了支持传统风冷模组,宁畅X640 G30还支持“一体闭式循环液冷散热器”以及“分体式开环冷板液冷散热器”方案,不论多“猛”的GPU、CPU都可以镇住。

但目前

宁畅闭式/开式液冷散热方案设计图示(厂商供应)

NVIDIA Tesla T4

接下来便是最振奋民气的环节,

初次开机时,可以轻松进入BIOS界面为做事器安装操作系统。

开机时待宁畅Logo涌现后可进入BIOS

BIOS界面

宁畅X640 G30 支持Microsoft Windows Server、Red Hat Enterprise Linux、SUSE Linux Enterprise Server、Ubuntu等多种操作系统,本次评测的环境为Windows Server 2019。

首先借助CPU-Z查看一下CPU基本信息。

做事器搭载英特尔至强金牌5220 CPU

CPU基本信息

CPU-Z得分

送评的宁畅X640 G30 AI做事器搭载的是两块Intel 至强金牌5220 CPU,14nm制程,主频2.2GHz,单个CPU 18核心36线程。
利用CPU-Z测试,单核得分321.2分,多核得分7844.9分。

然后通过CineBench R20测试CPU性能,这也是一款饱受认可的跑分软件。

CineBench R20得分

可以看到,宁畅X640 G30 AI做事器在仿照测试中,跑出单核268cb,多核10930cb的得分,多核分数十分胆怯。

接下来的测试项目是利用SiSoftware Sandra Lite 2020对宁畅X64 G30 AI做事器的算数、多媒体、加密、内存带宽/延时等进行全方位测试。

SiSoftware Sandra Lite 2020测试结果

可以看到,在算数性能、多媒体性能、内存延时、内存带宽以及缓存及内存测试方面,宁畅X640 G30 AI做事器的成绩都可圈可点,位于行业前列。

接下来则是本次测试的重头戏:宁畅X640 G30 AI做事器的GPU性能。

首先让我们看看宁畅X64 G30 AI做事器搭载的NVIDIA Tesla T4 GPU的基本信息。

GPU信息

Tesla T4与其他Tesla GPU数据比拟

3D-unit神经网络测试结果

ResNet50残差网络测试结果

BERT措辞模型测试结果

各种模型测试结果太多,

上文中也提到了宁畅X640 G30 AI做事器在MLPerf中的不俗表现,最高可支持10张NVIDIA A100 PCIe卡或21张NVIDIA T4 PCIe卡。
在搭载四个A100 GPU的情形下,在MLperf的Resnet50、SSD、RNN-T、BERT、DLRM等10项测试等分数值取得天下性能第一;搭载16个T4 GPU配置的情形下,X640 G30冲破六项天下记录。
在搭载21个T4 GPU配置下,亦取得14项性能第一。

总结:

通过上述外不雅观、内部设计及整体实际性能的综合测试,可以看到,宁畅X640 G30 AI做事器无论是在打算、内存、和GPU方面的表现都十分不俗。

可以预见到的是,如此的性能猛兽,在未来几年内均可为企业数字化转型供应源源不断的算力,而强大的GPU运算能力,灵巧可配置的打算性能,丰富的扩展,则可以在AI的运用处景中大显技艺,让企业迈向智能化的道路更为通畅。

此外,人性化的设计以及踏实的做工,也彰显出宁畅这家初创公司所具备的大厂实力,为批量交付产品,供应了全面保障。
纵不雅观行业内,宁畅X640 G30是款竞争力极强的产品,结合宁畅的定制化做事,相信能有不错的市场表现。