如何正确选择GPU服务器?

选择GPU服务器时首先要考虑业务需求来选择适合的GPU型号。在HPC高性能计算中还需要根据精度来选择，比如有的高性能计算需要双精度，这时如果使用P40或者P4就不合适，只能使用V100或者P100；同时也会对显存容量有要求，比如石油或石化勘探类的计算应用对显存要求比较高；还有些对总线标准有要求，因此，十次方平台建议您选择GPU型号要先看业务需求。
当GPU型号选定后，再考虑用什么样GPU的服务器。这时我们需要考虑以下几种情况：
第一、 在边缘服务器上需要根据量来选择T4或者P4等相应的服务器，同时也要考虑服务器的使用场景，比如火车站卡口、机场卡口或者公安卡口等；在中心端做Inference时可能需要V100的服务器，需要考虑吞吐量以及使用场景、数量等。
第二、 需要考虑客户本身使用人群和IT运维能力，对于BAT这类大公司来说，他们自己的运营能力比较强，这时会选择通用的PCI-e服务器；而对于一些IT运维能力不那么强的客户，他们更关注数字以及数据标注等，我们称这类人为数据科学家，选择GPU服务器的标准也会有所不同。
第三、 需要考虑配套软件和服务的价值。
第四、要考虑整体GPU集群系统的成熟程度以及工程效率，比如像DGX这种GPU一体化的超级计算机，它有非常成熟的 *** 作系统驱动Docker到其他部分都是固定且优化过的，这时效率就比较高。

CPU：
首先确认您的模型是否需要CPU的计算力
深度学习训练，4GPU主流配置10核CPU，8GPU建议配置12核以上
内存：
显存的总和再加32G基本能满足需求（如4卡3090显存总和为96G，加32G等于128G）
硬盘：
机械盘不能满足大部分模型数据读取，推荐480G SSD做为系统盘，热数据用SSD存储，冷数据用机械盘
GPU：
Geforce系列可用于深度学习，Tesla系列 深度学习 高性能计算，Quadro系列绘图渲染
选择GPU服务器的配置不同、性能不同，价格自然不一样，你可以去官网了解一下

---