
2020GIDC全球互联网数据大会在深圳正式召开,会议从“数据经济”的角度出发,针对“新基建”、“边缘计算”、“容器技术”、“AI”、“RPA”等主流的技术趋势进行解读,众多嘉宾及企业分享了其在平台及技术生态搭建方面的见解与思考。
浪潮集团广东公司首席技术官陈逸聪出席大会,并以“突破计算边界,开放成就未来”为题,分享了其对智慧计算、数据中心等方面的看法。
陈逸聪表示,现在无论是互联网服务还是数据服务、数据中心运行等都和计算息息相关,而随着5G、AI、大数据时代的到来,计算的定义不仅仅局限于原有的传统的去中心化计算,而是与智慧挂钩,与此同时新型业务对计算力和数据中心的要求日益提高, 那么不局限于原有的定义,突破计算边界、推动形成开放计算生态成为亟需解决的行业核心要点所在。
他强调,智慧计算正源源不断地改变着我们现在和未来的生产生活方式,从日常生活到企业的数字化转型都留下了深刻的影响, 简言之,计算力就是生产力。
陈逸聪讲到,传统的数据中心就是部署一个机房或者一个机柜的设备,便能解决计算的需求,而随着互联网业务的发展和数据的扩增,加之2020年初爆发的疫情影响,使原来很多线下的活动转而在线上举行。 线上业务的发展意味着数据中心的规模变得越来越庞大和承载的设备越来越多,也意味着对后端的技术支撑和计算力提了新的要求。
此外在今年,国家发改委提出了在全国布局10个左右区域级数据中心集群和智能计算中心的规划,粤港澳大湾区亦规划一个数据中心集群,新型数据中心的建设成为关注的焦点所在。从几年前数据中心的规模扩大到现在超大型数据中心的承载计算设备的数量增多的变化来看,超大规模数据中心的建设一直在快速增长,并且大型数据中心发展带来对应用支撑的复杂度和对数据中心的管理都有所提高。
陈逸聪表示,原来的服务器、存储、网络到计算机 *** 作系统等数据中心建设所需的设备,对于其厂商、设备品牌是谁并不是需要过度关注的问题, 而随着大数据越来越聚集、对于云统一的认知愈发引起行业关注与思考。 云统一的话能否把各个服务器管起来,目前国内的包括阿里云、腾讯云都在进行,那么对于统一管理的标准如何制定亦有待商榷。
数据中心最大的开销是电力成本,目前全球所有数据中心,一年的总能耗数据显示是3000亿度,转换成发电站的发电来看的话,相当于30座大型核电站的一年发电量。如果在深圳建设一个超大型数据中心集群服务整个粤港澳大湾区,同时配套建设三个核电站做电力支撑并不现实,这必然会对新型超大型数据中心的绿色节能、高效运维有更高要求。
那么如何解决这一难题?陈逸聪举了一个例子,他讲到,原来服务器即物理机、现在已逐步服务的云计算均被业内所接受。云可以即开即用,但是亦有一些性能上的损耗;物理机最快数小时交付,所有的物理机是实时开通,即开即用,隔离性强,稳定性强,但相比云计算能耗也最高。
从另一个角度而言,超高的能耗严重影响数据中心业务的快速发展,中国因为互联网发展迅速,我们的数据中心建设也在世界的前列,一年下来年耗电量是在一千亿度,相当于整个三峡大坝一年的发电量,能耗控制产生了对一些新技术的要求。同时, 打破物理边界,实现资源池化亦是数据中心发展追求的方向,以便提高计算资源利用率,实现更高性能和更低TCO以及高效运维。
浪潮通过L11级一体化交付,使交付更快更便捷。在2019年春节前三周完成了突发需求一万台供货保障,从收到需求到交付完毕,仅用时两周。 曾经创造了一天8个小时之内物理地上架1万台服务器到数据中心的交付记录,保障了客户实现全球央视春晚观众红包互动的庞大业务需求。 此外,浪潮还通过开放计算加速智算中心建设,推动 社会 智慧转型,目前已布局全线开放计算标准产品线,多年来一直践行开放计算理念并引领开放计算标准,持续定义领先的开放计算产品。
陈逸聪表示,现在浪潮在市场上也得到了认可,前不久国际权威数据机构IDC公布的2020年Q2数据报告中显示: 浪潮服务器国内出货量市场占比113%,增速80%,全球第一。浪潮 86服务器在中国市场市占率426%,排名中国第一。特别在AI领域,浪潮AI服务器中国市场占有率连续三年超过50%。
他强调到,浪潮为业界提供了全栈信息化解决方案,也期待与业内合作伙伴们共同打造一个开放的计算环境,为业内生态的建设创造更美好的未来。
交换机视频分析识别系统
关键字:AI视频行为识别分析系统、AI视觉分析系统、AI图像识别分析系统、AI识别系统、AI行为分析系统
概述
背景
人工智能大时代背景下,视频应用领域相关的行业应用方式已经发生了深刻的变化,各论安防监控还是各类垂直行业视频应用,都需要AI视觉分析与识别技术助力,而且需求广泛而迫切。在应用层面,以AI分析识别技术为核心,集传统视频监控和行业相应传感器/预警等设备一并接入管理并相互联动的一体化综合管理成了刚性应用需求,由此,深圳融合永道科技有限公司早在2012年就已以此方向,研发新一代AI智能视频一体化平台软件,深挖行业需求,响应时代号角,向AI领域进军。
目标
本平台在我司AI-MIS分析识别算法中间件为核心的技术框架下,以AI人工智能机器视觉技术为支撑,以AI视频应用为核心,把实现客户需求为目标。细化应用规则,在良好的横向业务应用规则扩展支持的同时,又重视纵向的技术深度化研发。持续研发适配更多的场景业务,为社会治安治理、保障安全生产提供有力的技术手段。
系统架构
AI正在成为企业助力决策、提升客户体验、重塑商业模式与生态系统、乃至整个数字化转型的关键驱动力。
但在崭新的AI时代,数据中心网络性能也正在成为AI算力以及整个AI商用进程发展的关键瓶颈,正面临诸多挑战。
为此,华为以“网络新引擎 AI赢未来”为主题发布了业界首款面向AI时代数据中心交换机CloudEngine 16800,将人工智能技术创新性的应用到数据中心交换机,引领数据中心网络迈入AI时代。
AI时代数据中心网络面临三大挑战
当前,数字化转型的持续推进,正在提速驱动数据量暴增;同时,语音/视频等非结构化数据占比持续提高,庞大的数据量和处理难度已远超人类的处理能力,需要基于机器运算深度学习的AI算法来完成海量无效数据的筛选和有用信息的自动重组,从而获得高效的决策建议和智慧化的行为指引。
根据华为GIV 2025(Global Industry Vision)的预测,企业对AI的采用率将从2015年的16%增加到2025年86%,越来越多的企业将利用AI助力决策、重塑商业模式与生态系统、重建客户体验。
作为人工智能的“孵化工厂”,数据中心网络正成为AI等新型基础设施的核心。但与此同时,随着AI时代的到来,AI人工智能的算力也受到数据中心网络性能的影响,正在成为AI商用进程的一大瓶颈。
华为网络产品线总裁胡克文指出,AI时代的数据中心网络将面临以下三大挑战:
挑战1.AI算力。高性能数据中心集群对网络丢包异常敏感,未来的网络应该做到零丢包。但传统的以太网即使千分之一的丢包率,都将导致数据中心的AI算力只能发挥50%。
挑战2.大带宽。未来5年,数字洪水猛增近20倍,现有100GE的网络无法支撑。预计全球年新增数据量将从2018年的10ZB猛增到2025年180ZB(即1800亿TB),现有100GE为主的数据中心网络已无法支撑数据洪水的挑战。
挑战3.要面向自动驾驶网络的能力。随着数据中心服务器规模的增加,以及计算网络、存储网络和数据网络三网融合,传统人工运维手段已难以为继,亟需引入创新的技术提升智能化运维的能力,如何用新的技术去使能、把网络问题排查出来成为业界都在思考的问题。
华为定义AI时代数据中心交换机三大特征
从行业大势来看,随着以人工智能为引擎的第四次技术革命正将我们带入一个万物感知、万物互联、万物智能的智能世界,数据中心网络也必须从云时代向AI时代演进。在华为看来,数据中心需要一个自动驾驶的高性能网络来提升AI算力,帮助客户加速AI业务的运行。
那么,AI时代的数据中心网络究竟该如何建设呢?胡克文指出,“华为定义了AI时代数据中心交换机的三大特征:内嵌AI芯片、单槽48 x 400GE高密端口、能够向自动驾驶网络演进的能力。”
特征1.业界首款内嵌AI芯片数据中心交换机,100%发挥AI算力
从应用侧来看,刷脸支付的背后是上亿次图像信息的智能识别,深度 健康 诊断需要基于数千个算法模型进行分析,快捷网购体验离不开数百台服务器的智能计算。也就是说,新商业物种的诞生,产业的跨越式发展以及用户体验得以改变,强烈地依赖于人脸识别、辅助诊断、智能推荐等AI应用的发展。
但由于AI算力受到数据中心网络性能的影响,正在成为AI商用进程的关键瓶颈。为了最大化AI算力,存储介质演进到闪存盘,时延降低了不止100倍,计算领域通过采用GPU甚至专用的AI芯片将处理数据的能力提升了100倍以上。
CloudEngine 16800是业界首款搭载高性能AI芯片的数据中心交换机,承载独创的iLossLess智能无损交换算法,实现流量模型自适应自优化,从而在零丢包基础上获得更低时延和更高吞吐的网络性能,克服传统以太网丢包导致的算力损失,将AI算力从50%提升到100%,数据存储IOPS(Input/Output Operations Per Second)性能提升30%。
特征2.业界最高密度单槽位48 x 400GE,满足AI时代5倍流量增长需求
数据中心是互联网业务流量汇聚点,企业AI等新型业务驱动了数据中服务器从10G到25G甚至100G的切换,这就必然要求交换机支持400G接口,400GE接口标准化工作已经于2015年启动,目前针对数据中心应用已经完成标准化,400G时代已经来临。
集群的规模是数据中心架构演进的动力,经典的无阻塞CLOS理论支撑了数据中心服务器规模从千台、万台到今天10万台规模的发展,增大核心交换机容量是数据中心规模扩大的最常见手段。以一个1000T流量规模的数据中心组网为例,采用400GE技术,核心汇聚交换机需要5K个接口,相对100GE技术减少75%。
为此,CloudEngine 16800全面升级了硬件交换平台,在正交架构基础上,突破超高速信号传输、超强散热、高效供电等多项技术难题,不仅支持10G→40G→100G→400G端口平滑演进能力,还使得单槽位可提供业界最高密度48端口400GE线卡,单机提供业界最大的768端口400GE交换容量,交换能力高达业界平均的5倍,满足AI时代流量倍增需求。同时,CloudEngine 16800在PCB板材、工艺、散热,供电等多方面都进行了革命性的技术改进和创新,使得单比特功耗下降50%。
特征3.使能自动驾驶网络,秒级故障识别、分钟级故障自动定位
当数据中心为人工智能提供了充分的技术支撑去创新时,人工智能也给数据中心带来巨大利益,如借助telemetry等技术将异常信息送到集中的智能运维平台进行大数据分析,这极大提升了网络的运行和运维效率,降低运维难度和人力成本。但是当前计算和存储正在融合,数据中心服务器集群规模越来越大,分析的流量成千倍的增长,信息上报或者获取频度从分钟级到毫秒级,再加上信息的冗余,这些都使得智能运维平台的规模剧增,智能运维平台对性能压力不堪重负降低了处理的效率。如何减轻智能运维平台的压力,在最靠近服务器,最靠近数据的网络设备具有智能分析和决策功能,成为提升运维效率的关键。
CloudEngine 16800基于内置的AI芯片,可大幅度提升“网络边缘”即设备级的智能化水平,使得交换机具备本地推理和实时快速决策的能力;通过本地智能结合集中的FabricInsight网络分析器,构建分布式AI运维架构,可实现秒级故障识别和分钟级故障自动定位,使能“自动驾驶网络”加速到来。该架构还可大幅提升运维系统的灵活性和可部署性。
引领数据中心网络从云时代迈入AI时代
自2012年进入数据中心网络市场以来,目前华为已服务于全球6400+个用户,广泛部署在中国、欧洲、亚太、中东、非洲、拉美等全球各地,帮助互联网、金融、政府、制造、能源、大企业等多个行业的客户实现了数字化转型。
2017年华为进入Gartner数据中心网络挑战者象限;2018年进入Forrester数据中心SDN网络硬件平台领导者;2013-2018年,全球数据中心交换机厂商中,华为连续六年复合增长率第一,发展势头强劲。
早在2012年,华为就以“云引擎,承未来”为主题,发布了CloudEngine 12800数据中心核心交换机,七年以来这款面向云时代的交换机很好的支撑了数据中心业务d性伸缩、自动化部署等核心诉求。
而随着本次华为率先将AI技术引入数据中心交换机、并推出面向AI时代的数据中心交换机CloudEngine 16800,华为也在引领数据中心网络从云时代迈入AI时代。
2018年,华为轮值董事长徐直军宣布:将人工智能定位为新的通用技术,并发布了人工智能发展战略,全面将人工智能技术引入到智能终端、云和网络等各个领域。而本次华为发布的业界首款面向AI时代数据中心交换机CloudEngine 16800,也是华为在网络领域持续践行AI战略的集中体现。
而作为华为AI发展战略以及全栈全场景AI解决方案的一个重要组成部分,CloudEngine 16800不仅是业界首款面向AI时代的数据中心交换机,还将重新定义数据中心网络的代际切换,助力客户使能和加速AI商用进程,引领数据中心真正进入AI时代。
虚拟化,如exsi67---vSphere针对机器学习和AI工作负载优化(简单理解,传统服务器,无论
CPU与GPU,都有限的,最高配置,也有速度限的,,而虚拟化,就是将N台机的资源整合,所有机器都可调配,优化所有性能,将N台机合一使用。。。。)
我们在解藕了计算资源,存储资源,网络资源后,新的应用场景,例如大数据,AI,ML需要新的算力技术,比如GPU。在vSphere 7之前或者说在目前市场上的AI/ML算力解决方案中都是将GPU的算力和CPU
vSphere 7集成了VMware前期收购的Bitfusion,解决方案是将GPU/FPGA等AI/ML资源池化置于计算资源后端,计算资源需要AI相关算力时,通过网络灵活可力度调度后端AI算力资源
基于vSphere针对机器学习和AI工作负载优化
像ML和AI这样的现代应用程序需要计算加速来处理大型和复杂的计算。vSphere利用功能强大的加速来处理VM或容器中的工作负载。基础结构也可以用于某些HPC工作负载。
整合和共享硬件加速
轻松确定未充分利用的孤立且昂贵的资源。不论位置如何,都可以远程(全部或部分)共享硬件加速。GPU资源的切分也变得灵活
现在和将来扩展
在整个基础架构中利用GPU,并使用同一基础架构集成不断发展的技术,例如FPGA和定制ASIC。
人工智能算法需要强大的计算和存储资源,传统的个人计算机和服务器已经不能满足它们越来越高的需求。除此之外,高性能计算也需要比普通计算更高的耐用性和安全性,这正是运营商服务器的长处之一。运营商的服务器具备高性能、高存储容量、高稳定性和高安全性等优势,可以帮助企业快速搭建高性能的人工智能应用平台,而且它们还具有许多其他优点。首先,运营商的服务器通常具备更快的处理速度和更大的处理能力。这是因为它们使用的是更加先进的处理器,并且可以使用多个处理器同时处理数据和任务,从而提高处理速度和效率。其次,服务器通常具有不间断的电力供应和备用电源,这极大地减少了由于停电或停机造成的数据丢失或损坏的风险。此外,服务器还可以通过专用的软件进行自动备份和数据恢复,确保数据的安全性。最后,服务器通常可以承载更多的网络访问和用户请求,并能够更好地应对负载均衡的问题,从而提高应用程序的响应能力和稳定性。总之,运营商的服务器是进行人工智能开发的理想平台,拥有更加高端的硬件配置和优越的网络环境,这可以降低装备成本、提高应用性能、保证数据的安全性、提供更好的用户体验等。因此,运营商也为人工智能的开发和应用提供了很好的支持和保障。欢迎分享,转载请注明来源:内存溢出
微信扫一扫
支付宝扫一扫
评论列表(0条)