做深度学习，需要配置专门的GPU服务器吗？

深度学习是需要配置专门的GPU服务器的:

深度学习的电脑配置要求：

1、数据存储要求

在一些深度学习案例中，数据存储会成为明显的瓶颈。做深度学习首先需要一个好的存储系统，将历史资料保存起来。

主要任务：历史数据存储，如：文字、图像、声音、视频、数据库等。

数据容量：提供足够高的存储能力。

读写带宽：多硬盘并行读写架构提高数据读写带宽。

接口：高带宽，同时延迟低。

传统解决方式：专门的存储服务器，借助万兆端口访问。

缺点：带宽不高，对深度学习的数据读取过程时间长(延迟大，两台机器之间数据交换)，成本还巨高。

2、CPU要求

当你在GPU上跑深度网络时，CPU进行的计算很少，但是CPU仍然需要处理以下事情：

（1）数据从存储系统调入到内存的解压计算。

（2）GPU计算前的数据预处理。

（3）在代码中写入并读取变量，执行指令如函数调用，创建小批量数据，启动到GPU的数据传输。

（4）GPU多卡并行计算前，每个核负责一块卡的所需要的数据并行切分处理和控制。

（5）增值几个变量、评估几个布尔表达式、在GPU或在编程里面调用几个函数——所有这些会取决于CPU核的频率，此时唯有提升CPU频率。

传统解决方式：CPU规格很随意，核数和频率没有任何要求。

3、GPU要求

如果你正在构建或升级你的深度学习系统，你最关心的应该也是GPU。GPU正是深度学习应用的核心要素——计算性能提升上，收获巨大。

主要任务：承担深度学习的数据建模计算、运行复杂算法。

传统架构：提供1~8块GPU。

4、内存要求

至少要和你的GPU显存存大小相同的内存。当然你也能用更小的内存工作，但是，你或许需要一步步转移数据。总而言之，如果钱够而且需要做很多预处理，就不必在内存瓶颈上兜转，浪费时间。

主要任务：存放预处理的数据，待GPU读取处理，中间结果存放。

深度学习需要强大的电脑算力，因此对电脑的硬件配置自然是超高的，那么现在普通的高算力电脑需要高配置硬件。

蓝海大脑深度学习液冷服务器研究人员表示:
其实现在的很多场景都部署在物理机上，云服务的好处是可以动态的进行资源的申请，这样就不用考虑高峰期的资源复用问题，只需要在高峰时期d性的申请资源。对于传统物理机的部署的场景，其实可以更好的去处理你的workload，每个workload其实并不是说一张卡完全就不能搞定，在工程实际的尝试中，你会发现CPU和GPU之间的资源配比，其实是需要每个场景都单独的去考虑的，所以在这种场景下，可以结合你本地的硬件环境去做调整，然后找到一个最优，对于你这种场景的一个实现，这是我理解的物理机部署和云服务部署之间的优势和劣势。

随着大数据、云计算、人工智能等技术的成熟与在各行各业的应用，在人工智能时代，AI服务器这个新兴名词也频繁地出现在人们的视线范围内，有人预测在人工智能时代，AI服务器将会广泛的应用于各个行业，那么AI服务器与普通服务器有什么区别呢？为什么AI服务器在人工智能时代能替代大多数的普通服务器呢？

从服务器的硬件架构来看，AI服务器是采用异构形式的服务器，在异构方式上可以根据应用的范围采用不同的组合方式，如CPU+GPU、CPU+TPU、CPU+其他的加速卡等。与普通的服务器相比较，在内存、存储、网络方面没有什么差别，主要在是大数据及云计算、人工智能等方面需要更大的内外存，满足各种数据的收集与整理。


戴尔（DELL）Poweredge R730/R740机架式服务器主机数据库/虚拟化服务器电脑整机
¥
16099
购买
京东
我们都知道普通的服务器是以CPU为算力的提供者，采用的是串行架构，在逻辑计算、浮点型计算等方面很擅长。因为在进行逻辑判断时需要大量的分支跳转处理，使得CPU的结构复杂，而算力的提升主要依靠堆砌更多的核心数来实现。


戴尔T640 GPU服务器AI主机深度学习人工智能大数据分析高性能技术计算
¥
27000
购买
京东
但是在大数据、云计算、人工智能及物联网等网络技术的应用，充斥在互联网中的数据呈现几何倍数的增长，这对以CPU为主要算力来源的传统服务提出了严重的考验，并且在目前CPU的制程工艺、单个CPU的核心数已经接近极限，但数据的增加却还在持续，因此必须提升服务器的数据处理能力。因此在这种大环境下，AI服务器应运而生。


戴尔（DELL）R740服务器主机2U机架式R730升级款AI人工智能深度学习
¥
13900
购买
京东
已下架
现在市面上的AI服务器普遍采用CPU+GPU的形式，因为GPU与CPU不同，采用的是并行计算的模式，擅长梳理密集型的数据运算，如图形渲染、机器学习等。在GPU上，NVIDIA具有明显优势，GPU的单卡核心数能达到近千个，如配置16颗NVIDIA Tesla V100 Tensor Core 32GB GPUs的核心数可过10240个，计算性能高达每秒2千万亿次。且经过市场这些年的发展，也都已经证实CPU+GPU的异构服务器在当前环境下确实能有很大的发展空间。

根据不同的深度学习架构，GPU参数的选择优先级不同，性价比可能是选择一款GPU最重要的考虑因素。Nvidia无疑是深度学习硬件领域的领导者。大多数深度学习库为英伟达GPU提供了最好的支持，软件是英伟达GPU非常强大的一部分。我们公司的服务器和英伟达官方授权经销商蓝海大脑有合作。质量和售后服务都挺好的⌄到现在都没出过问题。

如果你正在构建或升级你的深度学习系统，你最关心的应该也是GPU。GPU正是深度学习应用的核心要素——计算性能提升上，收获巨大。
主要任务：承担深度学习的数据建模计算、运行复杂算法。
蓝海大脑的液冷GPU服务器挺好的，具有高性能，高密度、扩展性强等特点。液冷GPU服务器产品支持1~20块 GPU卡，还可以选择，毕竟能可以选择也是很好的,芯片主要采用龙芯、飞腾、申威、海光、英伟达、Intel、AMD。完全定制啊，敲开心。适用于深度学习训练及推理、生命科学、医药研发、虚拟仿真等场景，覆盖服务器、静音工作站、数据中心等多种产品形态，量身定制，满足客户全场景需求。技术人员给的建议都非常受用。

深度学习GPU服务器是科学计算服务器的一种，科学计算服务器主要用于科学研究，是高性能计算机的一种，介于一般服务器与超级计算机之间。目前，科学计算服务器大约占整个服务器市场的5%左右，风虎云龙是目前所知国内专注于科学计算高性能服务器的厂商品牌，多年来一直紧跟科学发展，密切关注人工智能、机器学习、深度学习发展，结合科研发展需要研发生产高性能科学计算服务器，提供专业的售前、售中和售后服务，以及高性能计算集群的安装、调试、优化、培训、维护等技术支持和服务。

上海风虎信息作为深度学习服务器的专业厂商，专注为科研院所和高校师生打造高性能服务器，建议您选择深度学习服务器时需要注意以下几点：

1深度学习需要大量的并行计算资源，而且动辄计算几天甚至数周，而英伟达NVIDIA、英特尔Intel、AMD显卡（GPU)恰好适合这种工作，提供几十上百倍的加速，性能强劲的GPU能在几个小时内完成原本CPU需要数月完成的任务，所以目前深度学习乃至于机器学习领域已经全面转向GPU架构，使用GPU完成训练任务。

2如今即使使用GPU的深度学习服务器也要持续数天乃至数月（取决于数据规模和深度学习网络模型），需要使用单独的设备保障,保证训练任务能够小时长期稳定运行。

3独立的深度学习工作站（服务器）可以方便实现实验室计算资源共享，多用户可以在个人电脑编写程序，远程访问到深度学习服务器上排队使用计算资源，减少购买设备的开支并且避免了在本地计算机配置复杂的软件环境。

上海风虎信息专注于深度学习GPU服务器开发，根据TensorFlow，Pytorch，Caffe，Keras，Theano等软件计算特征，向您推荐入门级、中级、顶级GPU服务器典型配置，欢迎查阅，谢谢。

拥有高性能计算领域优秀的专业工程师团队，具有 10 年以上高性能计算 行业技术支持经验，提供专业的售前、售中和售后服务，以及高性能计算集群的安装、调 试、优化、培训、维护等技术支持和服务。在深度学习、量化计算、分子动力学、生物信 息学、雷达信号处理、地震数据处理、光学自适应、转码解码、医学成像、图像处理、密 码破解、数值分析、计算流体力学、计算机辅助设计等多个科研领域积累了深厚的技术功 底，和熟练的技术支持能力。提供 Caffe, TensorFlow, Abinit, Amber, Gromacs, Lammps, NAMD, VMD, Materials Studio, Wien2K, Gaussian, Vasp, CFX, OpenFOAM, Abaqus, Ansys, LS-DYNA, Maple, Matlab, Blast, FFTW, Nastran 等软件的安装、调 试、优化、培训、维护等技术支持和服务。

---