用GPU和CPU服务器深度学习，哪个合算？

CPU是一个有多种功能的优秀领导者。它的优点在于调度、管理、协调能力强，计算能力则位于其次。而GPU相当于一个接受CPU调度的“拥有大量计算能力”的员工。
当需要对大数据bigdata做同样的事情时，GPU更合适，当需要对同一数据做很多事情时，CPU正好合适。
GPU能做什么？关于图形方面的以及大型矩阵运算，如机器学习算法等方面，GPU就能大显身手。
简而言之，CPU擅长统领全局等复杂 *** 作，GPU擅长对大数据进行简单重复 *** 作。CPU是从事复杂脑力劳动的教援，而GPU是进行大量并行计算的体力劳动者。
深度学习是模拟人脑神经系统而建立的数学网络模型，这个模型的最大特点是，需要大数据来训练。因此，对电脑处理器的要求，就是需要大量的并行的重复计算，GPU正好有这个专长。

GPU计算是一种异构模式，由CPU负责执行顺序型的代码，如 *** 作系统、数据库等应用，而由GPU来负责密集的并行计算。打个比方说，假设让10个人把各自塑料瓶子的水倒入一个大桶中，CPU的做法是让这10个人按着顺序一个一个往里面倒，而GPU的做法则是在设定好一定规则的前提下让10个人同时或分组往里面倒。因此，在高性能计算领域，可以把CPU服务器和GPU服务器结合起来，构成一个混合型的集群，各司其职，会大大提高集群系统的总体计算效能。

分类: 电脑/网络 >> 硬件
解析:

CPU(中央处理器)，也就是通常讲的电脑的芯，一般情况，cpu的频率越高，每秒钟处理的指令数也越多，电脑运行的也越快。

GPU(Graphics Processing Unit,图形处理器)，是显卡的核心。早起的显卡是没有GPU的，GeForce系列才出现的新技术。随着人们对显示效果越来越高的要求，以前让CPU代替计算已经不能适应了，所以在显卡中也引入了类似CPU的核心，来取代的真正CPU的一部分任务，加快了显示处理速度。

PC图形，例如照片、视频和游戏等需要大量的处理能力。在没有任何帮助的情况下，CPU必须执行所有系统处理和图形处理任务。结果是降低系统性能。增添的专用 GPU 卸载了 CPU 的图形处理负荷。于是，CPU就可以有更多处理能力用于执行更主要的系统处理任务。

资讯 咨询机构IDC近日发布的《2017年中国AI基础设施市场跟踪报告》显示，2017年，中国GPU服务器市场迎来爆发式增长，市场规模为5．65亿美元（约合35亿元人民币），同比增长230．7％，约占中国X86服务器市场的6％。

该机构预测，未来五年GPU服务器市场仍将保持高速增长，2017～2022年复合增长率将超过43％。到2022年，GPU服务器的市场规模有望达到中国X86服务器市场整体规模的16％，将直接改变整个服务器市场的格局。

从厂商市场占有率来看，浪潮处于领先位置，曙光和新华三紧随其后。从行业分布来看，互联网是GPU服务器的主要用户群体，提供AIaaS的公有云服务提供商和AI解决方案提供商有望成为未来驱动市场增长的新动力。从市场趋势来看，2017年GPU服务器市场不再是一个小众的市场，几乎所有互联网用户和大量的AI初创公司都开始采购GPU服务器搭建自己的AI平台，主流的公有云厂商也都先后推出自己的AIaaS服务。

从AI生态系统建设来看，Nvidia具有明显优势，其Tesla系列产品在AI基础设施市场占据主导地位，尤其在线下训练场景中几乎垄断了市场。从其产品分布来看，P40和P100占据超过70％的市场份额，分别面向推理和训练工作负载，P4在2017年也取得了快速增长，主要面向1U紧凑型推理计算平台。

该机构中国服务器市场高级研究经理刘旭涛认为：“2017年是中国AI元年，也是AI生态和市场迅速发展的一年。在国家政策和资本的共同推动下，大量AI初创企业涌现、行业应用迅速落地。AI市场的火热推动了以GPU服务器为主的AI基础设施市场取得了爆发式增长，未来伴随AI市场的发展和繁荣，AI基础设施市场仍将保持快速增长。”他认为，目前，AI的应用以线下训练为主，使用者主要是拥有海量数据的用户群体，基础设施以GPU为主。未来，在线推理的应用将更加广泛，除了GPU，FPGA、ASIC等加速计算技术，甚至基于ARM架构的一些新的专用AI芯片都会迎来发展机遇。

全球GPU芯片行业发展历程

在1984年之前，GPU原本只是用于图形和图像的相关运算，受CPU的调配，但随着云计算、AI等技术的发展，GPU并行计算的优势被发掘，在高性能计算领域逐渐取代CPU成为主角。1999年，NVIDIA公司在发布其标志性产品GeForce256时，首次提出了GPU的概念。2006年，NVIDIA发布了第一款采用统一渲染架构的桌面GPU和CUDA通用计算平台，使开发者能够使用NVIDIAGPU的运算能力进行并行计算，拓展了GPU的应用领域。2011年，NVIDIA发布TESLAGPU计算卡，正式将用于计算的GPU产品线独立出来，标志着GPU芯片正式进入高性能计算时代。

全球GPU芯片出货量超过46亿片/年

近些年，全球GPU技术快速发展，已经大大超出了其传统功能的范畴，除了满足目前大多数图形应用需求，在科学计算、人工智能及新型的图形渲染技术方面的技术应用日益成熟，进而推动全球GPU芯片市场的持续高速发展。

从全球GPU芯片出货量来看，根据全球知名调研机构JPR数据，从2021年各个季度来看，全球GPU芯片的季度出货量维持在1-13万片之间，2021年全年出货总量超过46亿片。

全球集成GPU芯片出货量占比超八成

GPU芯片主要可分为独立GPU(封装在独立的显卡电路板上，使用专用的显示存储器，一般来讲，其性能更高)和集成GPU(集成GPU常和CPU共用一个Die，共享系统内存)。

目前，全球集成GPU出货量占比超过八成，占据绝大部分市场份额;但从占比变化趋势来看，独立GPU的市场份额有所增长，反映出市场对高性能GPU芯片需求有所增长。

注：内环2020年q4，外环2021年q4数据。

预计2027年全球市场规模超过320亿美元

根据IC Insights数据，2015-2021年全球GPU芯片市场规模增速超过20%，2021年，全球GPU芯片市场规模超过220亿美元。

根据JPR资料，预计2022-2026年，全球GUP出货量将实现63%复合年增长，以此增长率测算2027年全球GPU芯片行业市场规模将超过320亿美元。

—— 更多本行业研究分析详见前瞻产业研究院《中国GPU芯片行业市场前瞻与投资战略规划分析报告》

---