
那么,与其等“被动”业务反馈,能不能让这类问题“主动”推送给开发呢 我们能不做个“错误预警”的服务
消息推送技术,即是解决这类问题的良方
消息队列,一般我们会简称它为MQ(Message Queue),再介绍消息队列前,我们还是先简单解释一下队列这种数据结构
队列是一种先进先出的数据结构
如图,数据从队尾(右)进,从队头(左)出
消息队列可以简单的理解为:把要传输的数据放在队列中。
当我们需要使用消息的时候可以取出数据供自己使用。
从以上概念中我们不难看出有两个角色对队列至关重要,一个是放数据的,一个是取数据的
当然,这两个角色都有是有规范的名字的,同时,消息队列有两种场景,在这两种不同的场景里,这两个角色名字是不同的:
包括三个角色:
生产消费者模式特点:
包括三个角色:
发布订阅模式特点:
消息队列为了实现实现高性能,高可用,可伸缩和最终一致性架构,主要可以解决如下问题:
场景举例:
用户注册后,需要发注册邮件和注册短信
传统的做法有两种
场景举例:
银行身份z人脸识别系统,用户上传身份z,人脸识别系统会对该进行人脸识别
一般的做法是:
服务器接收到后,上传系统立即调用人脸识别系统,调用完成后再返回成功
该方法有如下缺点:
为了解决以上缺点,我们采用消息队列解决应用间的耦合问题:
消息队列的做法:
用户上传后,上传系统将信息顺序写入消息队列,直接返回成功;
人脸识别系统则定时从消息队列中取数据,完成对的识别。
上传系统并不需要关心人脸识别系统是否对这些信息的处理、以及何时对这些信息进行处理。事实上,由于用户并不需要立即知道人脸识别结果,人脸识别系统可以选择不同的调度策略,按照闲时、忙时、正常时间,对队列中的信息进行处理。
场景举例:
电商秒杀活动,常见的形式是数量极少的热门商品让大量的用户抢购
传统的做法是用户直接请求业务系统,但往往因为并发用户过大,或导致业务系统崩溃,或着出现超卖等等现象
采用消息队列后,系统可以从消息队列中取数据,相当于消息队列做了一次缓冲
采用消息队列处理秒杀有如下优点:
使用消息队列有如下优点:
消息队列是分布式系统中重要的组件,使用消息队列主要是为了通过异步处理提高系统性能和削峰、降低系统耦合性。目前使用较多的消息队列有ActiveMQ,RabbitMQ,Kafka,RocketMQ,这些消息中间件我们暂时不讲,本章,我们使用最为简单的方式REDIS来实现消息队列的发布订阅模式
Redis从2X版本开始,就支持一种基于非持久化消息的、使用发布/订阅模式实现的事件通知机制
所谓基于非连接保持,是因为一旦消息订阅者由于各种异常情况而被迫断开连接,在其重新连接后,
其离线期间的事件是无法被重新通知的(一些Redis资料中也称为即发即弃)
而其使用的发布/订阅模式,意味着其机制并不是由订阅者周期性的从Redis服务拉取事件通知,
而是由Redis服务主动推送事件通知到符合条件的若干订阅者
通俗的来讲,Redis实现的发布订阅模式有如下注意点:
以上已经实现了基于redis简单的发布订阅了
那么,在此之上我们多做一点来更好的理解发布订阅这块的内容
>即便如此,当中央画了一张如此清晰的地图,云计算巨头们立马“磨刀霍霍”。
而沿着“东数西算”划定的十大数据中心集群区域地图,我们发现多家科技企业已经在此布局,其中,包括阿里、腾讯、华为、三大运营商等在内的云服务龙头已经命中了多个地区。而它们,也正是政府财政之外“东数西算”项目投资的重要来源。
在八大节点的十大集群各大科技企业的布局情况
二、阿里腾讯华为等已布局,命中多个数据中心集群
纵观“东数西算”七大枢纽,我们关注的各大科技企业几乎都有布局。
当把物理边界锁定到张家口、中卫、和林格尔等十大集群,我们发现这里几乎成了阿里、腾讯、华为三大云服务商的主战场。
实际上,这一战场看起来已经过一轮角逐,从而使我们看到,几乎每个集群都呈现出1~2个更加显著的龙头玩家。比如,在京津冀枢纽的张家口集群,阿里是最主力的数据中心落地者;在宁夏枢纽的中卫数据中心集群,中国移动和中国联通则占据主导。
1、阿里:在京津冀枢纽,用张北的风为冬奥提供云服务
“张北的风点亮北京的灯”,在今年冬奥会,张北县还同时基于风电能力为冬奥提供了云计算服务。这依靠京津冀数据中心枢纽的阿里张北数据中心。
在京津冀枢纽,距离北京230公里的张家口市张北县,阿里张北数据中心已于2016年9月投产。
这个数据中心集群由阿里云联数据中心、阿里数据港数据中心、阿里中都草原数据中心组成,采用风电、光伏等绿色能源,就像是一个存放10万台处理器的“大房子”,这是国内云计算数据中心规模最大的浸没式液冷集群。
阿里巴巴张北数据中心1号园区
与此同时,在张北宣化区,阿里宣化数据中心也于2021年10月开工,紧密建设中。该项目总投资70亿元,占地总面积约900亩,计划安装机柜数量约35500台。这标志除了张北,宣化也成为京津冀枢纽的重要担当。
除了主要布局京津冀,阿里也在其他枢纽建立了数据中心,尽管这些数据中心不一定汇聚在十大集群内。比如,其内蒙古枢纽乌兰察布超级数据中心于2020年6月正式对外开放,乌兰察布虽然不是本次十大集群之一,却是内蒙古枢纽中条件优渥且已经吸引了多个数据中心落地的重要地区。
2、腾讯:命中多个集群,把5万台服务器放进贵安山洞里
相比于阿里,腾讯的数据中心选址相对分散,但也命中多个数据中心集群。
东边,在张家口集群,腾讯怀来数据中心总规划占地面积1000亩,项目总投资300亿;在长三角枢纽,上海市青浦区藏着一个亚太第一的数据中心,容纳10万台服务器,正是出自腾讯之手。
西边,在成渝枢纽,位于两江新区的腾讯西部云计算数据中心二期预计2022年建成投用,将凭借20万台服务器成为中国西部最大的单体数据中心;在贵州枢纽,腾讯贵安七星数据中心,在洞内布局5万台服务器,极限PUE达到11左右。PUE是评价数据中心电能利用效率的指标,根据“东数西算”规划,各地的数据中心建设也明确了绿色节能目标,比如集群内数据中心PUE要控制在125以内。
腾讯贵安七星数据中心
可以看到,腾讯在“东数西算”工程中有强大的基础,不仅布局东部“热数据”,还布局西部“冷数据”存储,选址与国家东数西算布局枢纽吻合度高。
3、华为:在贵安建其全球最大云数据中心
贵州是大数据大省,在本次划定的贵安数据集群,华为在全球最大的云数据中心正在紧锣密鼓地建设中。
这个可容纳100万台服务器的数据中心,是华为云业务的重要承载节点,承载了华为云和华为流程IT、消费者云等业务。该项目总用地面积1521亩,总体建成后将可容纳100万台服务器,PUE仅为112。在数据中心满负荷运行的情况下,预计每年可节省电力101亿度,减少碳排放81万吨,相当于年植树3567万棵。
华为贵安数据中心
当前,基于云服务、网络设施、服务器、存储等多项业务,在中国布局了五大数据中心。其中,贵州枢纽的贵安、内蒙古枢纽的乌兰察布,两地分别是华为云“南一北”两大云数据中心。此外,华为还在甘肃枢纽布局了庆阳华为云计算大数据中心。此外,华为在京津冀、长三角、粤港澳地区布局了三大核心数据中心。
可以看到,贵阳贵安成为汇聚多家巨头的地区。根据贵阳市政府公告,贵安聚集了移动、联通、电信、华为七星湖、华为高端园、腾讯、苹果的7个超大型数据中心,加上在建的有17个,成为全球集聚超大型数据中心最多的地区之一。
4、快手、优刻得等也已布局
当然,除了我们列到的这几个主玩家,包括快手、优刻得、百度、京东、字节跳动、美利云等互联网或云服务企业也公布了其布局。尽管这些数据中心规模不一,且有的在规划的枢纽节点内但不一定聚焦十大集群,但这仍意味着它们获得了重要的入局“门票”。
比如,在科创板上市的优刻得公司是一家云计算服务商。在长三角枢纽,其投建的青浦数据中心项目(一期)于2020年8月18日开工,总投资19亿元,规划用地面积约4198亩。两期全部建成后合计可以容纳5000台机柜。
UCloud青浦自建大型绿色节能数据中心效果图
三、数据从东往西怎么送?三大运营商还是你“大哥”
“东数西算”不仅关注数据中心,还关注数据传输。
相比于此前多地的单体数据中心项目,“东数西算”更加强调“联网”,包括打通枢纽内部以及东西部间数据直连通道。也就是说,西部不仅要建设数据中心,还要铺设更多的运营商网络。这将改变我国网络设施在北上广深等我国东部地区分布过于集中的格局。
那么数据从东到西怎么送?还要看三位运营商“老大哥”。实际上,凭借云计算和网络优势,它们已经在各个枢纽建了大量数据中心,直连全国各地。
1、中国移动:落地中卫“沙漠硅谷”,或成“东数西算”示范路线
在宁夏枢纽,一个名为中卫的城市正在成为一个东方的“沙漠硅谷”,而这也是本次“东数西算”项目圈定的十大数据中心集群之一。
左边沙漠,右边黄河,中卫年平均气温88度,电价低至036元/度,吸引了亚马逊云科技、美利云、中国移动、中国联通、天云网络、创客超算等多个企业建设超大型数据中心,服务器装机能力达到60万台。
中国移动公司是宁夏枢纽的一大龙头。2021年3月,中卫西部云基地中国移动(宁夏)数据中心二期项目进入铺地板等收尾阶段。该项目规划分五期,总投资13045亿元,建成将具备2万个机架、40万台服务器的承载能力。
中卫西部云基地中国移动(宁夏)数据中心
该数据中心直连北京、西安、广州、成都、杭州五个方向,已成为国家信息中心设立的国家电子政务“一主三备”西部云备份节点,很有可能直接成为“东数西算”的示范线路。
中国移动的数据中心还覆盖其他多个“东数西算”数据集群。比如,中国移动(苏州)数据中心位于“东数西算”工程圈定的江苏省苏州市吴江区,2021年12月的最后一天二期工程落成,总投资50亿元,交付后是江苏省内规模最大、建设标准最高的大型数据中心。
除此之外,中国移动还在内蒙古枢纽、贵州枢纽、成渝枢纽建立了中国移动呼和浩特数据中心。
2、中国联通:华韶数据谷数据中心今年1月投产
前面提到的“沙漠硅谷”中卫西部云基地,不仅是中国移动的青睐地,也是中国联通的数据中心布局地。中国联通中卫云数据中心占地200亩,总投资40亿元以上,年均PUE值控制在11-12之间。
这是一个新工程,2021年7月,投资35亿元的中国联通中卫云数据中心一期工程完成,共计1500台标准机柜,2万台服务器规模。与此同时,二期项目也立刻开工,计划总投资5亿元,可容纳2000余台机柜,3万台服务器的规模,成为中国联通在宁夏枢纽的最新布局。
中国联通中卫云数据中心内部
但中国联通的布局不止于此,在粤港澳大湾区枢纽,中国联通华韶数据谷数据中心已于2022年1月24日正式投产运营,总机柜数2736台,PUE低于1292,可以说是“东数西算”工程中的范本项目。
在成渝枢纽,中国联通成都郫都云数据中心投资20亿元,配备10万台数据机柜。除此之外,在贵安、重庆等数据中心集群中,中国联通也有布局。
3、中国电信:布局成渝枢纽和内蒙古
在过去很长一段时间里,成渝枢纽的数据中心主要负责对一些冷数据进行存储,这一定位将在“东数西算”项目中继续强化。
重庆数据中心集群是各大公司盯上数据中心建设“宝地”,比如中国电信。
中国电信两江腾龙数据中心于2019年6月开工,投资13亿元,这个重庆电信与腾龙控股集团合作的项目,被客户腾讯评为“未来全球微模块机房建设的标杆样板房”,2020年8月已交付二期项目。前文中提到的上海腾讯青浦区数据中心,也是与上海电信合建。
中国电信两江腾龙数据中心
除了成渝枢纽,中国电信在内蒙古枢纽也有命中,其云计算内蒙古信息园整体建设项目总投资173亿元,总占地面积1500亩,是当时亚洲规划规模最大的云计算数据中心。工程完工后具备15000台机架、15万至20万台服务器。
四、“东数西算”拉动“信创”,浪潮曙光万国数据等成潜在赢家
看完数据中心投建方,我们再来看看上游产业链,而这正是在这几天里股市增长最快板块。
面向这些五花八门的玩家,“东数西算”项目在选择供应商时会设哪些门槛?
除了绿色化、上架率等指标,强调本土化供应的“信创”可能成为一大参考标准。
业内人士告诉我们,国家主导的“全国一体化算力网络国家枢纽节点”将可能更加倾向选择“信创”产品,这为本土企业带来了机遇。但本土CPU产能不足、虚拟化技术瓶颈、落地价格等问题都需要时间解决。计划和市场两者之间面临的矛盾将在这一项目中更加凸显。
数据中心产业链中包括服务器、存储、网络设备、数据中心运维、光模块等多个产业链环节。作为其中的龙头选手,浪潮、曙光、万国数据等企业实际上也已经预定了“东数西算”占位。
1、浪潮:全国101个云中心,布局成渝、京津冀等枢纽
虽然“东数西算”项目涉及的产业链很长,但建设数据中心,服务器一定是首先需要考虑的基础设施。
作为服务器稳居中国第一的IT基础设施提供商,浪潮公司已经在全国布局101个云中心和323个分布式云节点。据称,浪潮云7大核心云数据中心在“东数西算”成渝、京津冀、长三角、粤港澳枢纽地区均有布局。
“绿色化”是“东数西算”工程的一大主要要求。作为落地国家枢纽的数据中心,浪潮(重庆)云计算中心于近日入选了国家绿色数据中心名单。浪潮(重庆)云计算中心通过采用变频改造、削峰填谷、智慧能源管理平台等技术,推动云中心的PUE较同期降低了015,每年减少碳排放约198吨。浪潮强调的“智算中心”,这种面向更多的智能化应用需求提供的服务平台,有望成为“东数西算”中的典型基础设施。
2、曙光:主打曙光计算服务及“绿色化”,
“全国一体化数据中心”强调算力“一张网”,面对这样的算力中心互联需求,服务器提供商曙光早在2021年7月推出了算力基础设施和公共计算服务平台——曙光计算服务。该平台旨在通过曙光计算服务链接遍布全国的数据中心算力资源,实现算力互通互联,这与“东数西算”宗旨吻合。
在“东数西算”强调的“绿色化”方面,曙光率先实践了液冷节能技术且拥有安全和服务全体系能力。据称,通过采用其液冷技术,数据中心能实现全地域全年自然冷却,PUE值可降至104。这一指标可以说远低于“东数西算”项目中要求的12。
据悉,成立于1996年的曙光曾推出国内首款规模化量产的液冷服务器,目前其智算中心在广东珠海、安徽合肥、浙江桐乡等地陆续落成,江苏昆山等地进入建设阶段。
3、万国数据:各大枢纽运营和在建70座自建数据中心
看完服务器,再看看数据中心建设与运营,就是这个放服务器的“大房子”。“东数西算”板块中,包括万国数据、奥飞数据、光环新网等多个玩家都见证了股价涨停。
以万国数据为例,成立于2001年的万国数据是亚洲最大的中立第三方数据中心运营商,截至2021年第一季度末在京津冀地区、长三角地区、粤港澳大湾区,以及西南等地区运营和在建70座自建数据中心。换句话说,国内三分之二主流的公有云服务商都将其POP点接入万国数据。
在成渝枢纽重庆数据中心集群,万国数据与重庆两江新区2019年开始合建占地737亩的数据中心项目,成为新加坡与重庆企业之间的桥梁与纽带。近日刚刚完成红杉中国新基建基金领投的62亿美元融资,体现了资本市场对其的青睐。
4、数据港、易华录等本土化玩家迎机遇
从近日热火的“东数西算”概念股我们都能看到,大多数都是涨停态势。除了我们提到的这几家服务器、机房等主要基础设施供应商,还有多家智东西长期关注的存储、光模块等细分领域玩家也迅速冲到人们的视野中。
比如数据中心运营公司数据港,它是上海市静安区国资委投资控股的国有企业。有业内人士推测,国家“东数西算”工程可能优先考虑本土供应商,这为数据港公司带来了新机遇。表现在股价上,2月18日之后3个交易日上涨2317%。
存储提供商易华录是一家央企小龙头,近日也发声称,已在京津冀、长三角、成渝、贵州、宁夏等全国算力网络国家枢纽节点建设数据湖,与发改委“东数西算”工程规划相当契合。
“东数西算”不仅强调数据中心节点,更强调节点间的网络互联,将冷数据、温数据存在西部并能让数据及时被东部取用。依托于蓝光存储的数据湖以及蓝光产品,是易华录的核心业务,正是能够支持数据实现像“搭高铁”一样的快速传输互联效果。
总的来说,建设全国一体化大数据中心协调体系是一个系统工程,涉及数网、数纽、数链、数脑等层层递进的多个环节。随着体系日益成熟,覆盖的产业面也将越来越广。因此,吃到“蛋糕”的玩家可能远不止上文提到的这些。
结语:“东数西算”开启新基建新阶段
随着国家发改委高技术司宣布“东数西算”启动,云计算行业的一个新故事诞生了。这让长期不冷不热的IT板块在股市上燥了起来,而在产业侧,科技巨头们已经纷纷发声表态。
但不仅仅是资本圈和产业需要这样的故事,更是数字经济发展需要的“新基建”集约化发展计划。随着“东数西算”进一步节奏明确,一种更加高能高效、绿色可持续的新经济发展方式将会在中国出现。通过学习《亿级流量网站架构核心技术》及《linux就该这么学》学习笔记及自己的感悟:架构设计之高可用高并发系统设计原则,架构设计包括墨菲定律、康威定律和二八定律三大定律,而系统设计包括高并发原则、高可用和业务设计原则等。
架构设计三大定律
墨菲定律 – 任何事没有表面看起来那么简单 – 所有的事都会比预计的时间长 – 可能出错的事情总会出错 – 担心某种事情发生,那么它就更有可能发生
康威定律 – 系统架构师公司组织架构的反映 – 按照业务闭环进行系统拆分/组织架构划分,实现闭环、高内聚、低耦合,减少沟通成本 – 如果沟通出现问题,应该考虑进行系统和组织架构的调整 – 适合时机进行系统拆分,不要一开始就吧系统、服务拆分拆的非常细,虽然闭环,但是每个人维护的系统多,维护成本高 – 微服务架构的理论基础 – 康威定律>
小编收集了几个java练手项目,大企业实战项目教程+源码,将近5G的资料通通送给你!
项目一:Ting域主持人项目介绍:Ting域主持人项目是一个标准的互联网项目,主要为各种需要主持人的场合提供主持人聘请相关功能。项目包含了前台和后台。前台主要是让新人和婚庆公司搜索相关主持人并进行聘请,在线对主持人下订单。后台是让主持人对自己订单的管理以及管理员对整个平台的管理。
技术架构:Spring、SpringMVC、MyBatis、MyBatisPlus、移动支付、短信验证、RBAC、EasyUI、POI、百度chart
项目亮点:真实企业项目;已上线项目;包含企业产品经理设计的项目原型;标准互联网项目,包含前后端;完整的第三方平台接入
2、未来出行汽车租赁平台项目介绍:未来出行汽车租赁平台是为汽车出租、出售进行管理的平台。管理员平台中可以对租赁人和汽车进行管理。项目包含:客户管理、业务管理、系统管理、汽车管理、租赁人管理等模块。项目中还包含了完善的权限管理相关功能。
技术架构:Spring、SpringMVC、MyBatis、MyBatisPlus、移动支付、短信验证、RBAC、EasyUI、POI、百度chart
项目亮点:完善的页面资源;汽车租赁业务全部实现;概括能力强。包含了所学的全部技术
3、至尊智能家居项目介绍:智能家居随着互联网和物联网的发展逐渐走进千家万户。智能家居的企业和工厂越来越多。至尊智能家居是智能家居企业进行综合管理的内部系统。可以实现智能家居管理、人事行政管理、系统公告、知识管理、任务管理、销售管理、项目管理、统计分析、系统设置、产品资料管理等功能。
技术架构:Spring Boot、SpringMVC、MyBatis、Druid、Logback、Quartz、Shiro、Swagger2、Linux、BootStrap
项目亮点:使用快速开发框架,真实感受最初进入企业的感觉;小组项目,完全模拟企业项目组开发中如何进行配合;Linux服务器,不仅仅是开发项目,还包含了部署项目
4、百战商城项目介绍:百战商城项目是一个大型综合性的B2C平台。完全采用SOA模式架构,使用Dubbo实现服务调用。基于高并发、海量数据环境进行实现。
百战商城分为前后台两套系统。后台系统使用FastDFS实现分布式文件存储主要负责商品管理,商品分类管理,CMS等内容。前台系统使用Redis实现缓存数据查询包含首页服务,搜索服务,单点登录服务、购物车服务,订单服务等。
技术架构:Spring Boot、Spring MVC、MyBatis、Zookeeper、Dubbo、Redis、Solr、RabbitMQ、FastDFS、Nginx、Spring Security、Spring Session、MyBatis Plus、MyCat
项目亮点:真实大型互联网项目呈现;SOA架构;高并发解决方案;RabbitMQ实现流量削峰和异步消息;使用Solr实现海量数据搜索;Redis缓存穿透、缓存雪崩、缓存击穿解决方案;基于Linux平台部署该项目,企业真实服务器环境;Nginx服务代理、负载均衡;使用Navicat做数据库分库分表及读写分离;FastDFS分布式文件存储;Spring Security 完成权限验证;Spring Session 分布式Session
5、Livegoods房源租赁海选平台项目介绍:本项目为前后端分离项目,移动客户端为其平台。作为互联网时代房屋平台,Livegoods拥有完善的房屋租赁资源搜索能力,可以根据城市定位,精确高效的搜索到需要的租赁房源信息。本系统分为租客平台、业主平台、用户管理平台两大功能平台。
技术架构:SpringBoot、SpringMVC、MyBatis、SpringDataMongoDB、SpringData、ElasticSearch、MongoDB、Spring Cloud、ElasticSearch、FastDFS、Nginx、支付
项目亮点:前后端分离项目,感受目前企业开发最主流的前后端分离开发模式;移动端项目,可以感受Java程序员开发app服务端的实现过程;微服务架构;秒杀系统实现;海量数据搜索;镜像和云
6、数字货币交易所项目项目介绍:开源数字货币交易所,基于Java开发的比特币交易所,包含BTC交易所、ETH交易所、数字货币交易所、交易平台、撮合交易引擎等核心模块。项目技术采用业界最流行、社区非常活跃的开源组件Spring Cloud Alibaba来构建我们的交易系统,是行业第一家基于Alibaba技术的大型项目,也是Spring Cloud的最佳实践之一。
项目架构:
后端技术:Spring Cloud Alibaba + Spring Boot + Mybatis Plus + Elasticsearch + Kafka + Mongodb + Zookeeper + RocketMQ + OAuth2、0 + Jwt + Redis + Hutool + Orika + Fst + Swagger-ui + Mycat + Docker + ECS + OSS + 腾讯防水墙
前端技术:Vue + iView + less + axios
7、尚学堂OA系统项目介绍:尚学堂OA系统取自真实的尚学堂办公自动化平台,包括人事管理、考勤管理、报销管理、收支管理等多个模块。可以全面练习JSP/Servlet核心技能、MVC模式、Ajax、数据库设计和多表SQL语句 *** 作、PowerDesigner绘制数据库模型图、业务流程图、多种面向对象模型图,还有验证码、POI、Echarts、JUnit、kindeditor、My97DatePicker等辅助技术。通过该项目,学生熟悉项目设计开发流程,具有自主设计和开发项目初步能力。
功能模块:尚学堂OA系统:包括人事管理、考勤管理、报销管理、收支管理等多个模块。包含人事管理中的部门管理、岗位管理练习单表的MVC *** 作,人事管理中的员工管理练习多表的MVC *** 作。考勤管理练习Ajax的应用。报销管理涉及理解业务流程、异常链、事务管理等多项技能。收支管理主要是练习Echarts图表插件的使用,使用柱状图、饼图等直观显示统计数据。
需要java项目资料的小伙伴可以添加一下分享资料的官方老师WX:18731997677,备注“gx尚学堂”可以找老师免费领取几649套简历模板哦!
Java项目的亮点可以从以下几个方面来写:1 功能强大:Java拥有丰富的功能库,可以满足各种需求;2 平台无关性:Java可以在各种 *** 作系统上运行;3 安全性:Java具有很强的安全性,可以防止恶意攻击;4 灵活性:Java可以根据不同的需求进行灵活的调整;5 可维护性:Java可以进行长期维护,可以持续改进。内容大纲:
RocketMQ的简介与演进
RocketMQ的架构设计
RocketMQ的关键特性
RocketMQ的应用场景
RocketMQ的简介
RocketMQ一个纯java、分布式、队列模型的开源消息中间件,前身是MetaQ,是阿里研发的一个队列模型的消息中间件,后开源给apache基金会成为了apache的顶级开源项目,具有高性能、高可靠、高实时、分布式特点。
RocketMQ的演进
RocketMQ一共前后经历了三代演进:
1第一代,推模式
数据存储采用关系型数据库,典型代表包括Notify、Napoli。
2第二代,拉模式
自研的专有消息存储,在日志处理方面参考Kafka,典型代表MetaQ。
3第三代,以拉模式为主,兼有推模式
低延迟消息引擎RocketMQ,在二代功能特性的基础上,为电商金融领域添加了可靠重试、基于文件存储的分布式事务等特性。使用在了阿里大量的应用上,典型如双11场景,具有万亿级消息流转。
RocketMQ的架构设计
1RocketMQ的核心组件
RocketMQ主要由NameServer、Broker、Producer以及Consumer四部分构成。
1)NameServer:主要负责对于源数据的管理,包括了对于Topic和路由信息的管理。
NameServer是一个功能齐全的服务器,其角色类似Dubbo中的Zookeeper,但NameServer与Zookeeper相比更轻量。主要是因为每个NameServer节点互相之间是独立的,没有任何信息交互。
2) Producer
消息生产者,负责产生消息,一般由业务系统负责产生消息。
Producer由用户进行分布式部署,消息由Producer通过多种负载均衡模式发送到Broker集群,发送低延时,支持快速失败。
3 )Broker
消息中转角色,负责存储消息,转发消息。
Broker是具体提供业务的服务器,单个Broker节点与所有的NameServer节点保持长连接及心跳,并会定时将Topic信息注册到NameServer,顺带一提底层的通信和连接都是基于Netty实现的。
Broker负责消息存储,以Topic为纬度支持轻量级的队列,单机可以支撑上万队列规模,支持消息推拉模型。
官网上有数据显示:具有上亿级消息堆积能力,同时可严格保证消息的有序性。
4)Consumer
消息消费者,负责消费消息,一般是后台系统负责异步消费。
Consumer也由用户部署,支持PUSH和PULL两种消费模式,支持集群消费和广播消息,提供实时的消息订阅机制。
5)大致流程
Broker在启动的时候会去向NameServer注册并且定时发送心跳,Producer在启动的时候会到NameServer上去拉取Topic所属的Broker具体地址,然后向具体的Broker发送消息。具体如下图:
2RocketMQ的消息领域模型
主要分为Message、Topic、Queue、Offset以及Group这几部分。
1)Topic
Topic表示消息的第一级类型,比如一个电商系统的消息可以分为:交易消息、物流消息等。一条消息必须有一个Topic。
最细粒度的订阅单位,一个Group可以订阅多个Topic的消息。
2)Tag
Tag表示消息的第二级类型,比如交易消息又可以分为:交易创建消息,交易完成消息等。RocketMQ提供2级消息分类,方便灵活控制。
3)Group
组,一个组可以订阅多个Topic。
4)Message Queue
消息的物理管理单位。一个Topic下可以有多个Queue,Queue的引入使得消息的存储可以分布式集群化,具有了水平扩展能力。
在RocketMQ 中,所有消息队列都是持久化,长度无限的数据结构,所谓长度无限是指队列中的每个存储单元都是定长,访问其中的存储单元使用
Offset 来访问,offset 为 java long 类型,64 位,理论上在 100年内不会溢出,所以认为是长度无限。
也可以认为 Message Queue 是一个长度无限的数组,Offset 就是下标。
RocketMQ的关键特性
1消息的顺序
消息的顺序指的是消息消费时,能按照发送的顺序来消费。例如:一个订单产生了 3 条消息,分别是订单创建、订单付款、订单完成。消费时,要按照这个顺序消费才有意义。但同时订单之间又是可以并行消费的。
RocketMQ是通过将“相同ID的消息发送到同一个队列,而一个队列的消息只由一个消费者处理“来实现顺序消息。如下图:
这样对于同一个订单的创建、付款和完成消息,确保按照这一顺序被发送和消费。
2消息重复
1)消息重复的原因
消息领域有一个对消息投递的QoS定义,分为:
最多一次(At most once)
至少一次(At least once)
仅一次( Exactly once)
几乎所有的MQ产品都声称自己做到了At
least
once。既然是至少一次,那避免不了消息重复,尤其是在分布式网络环境下。比如:网络原因闪断,ACK返回失败等等故障,确认信息没有传送到消息队列,导致消息队列不知道自己已经消费过该消息了,再次将该消息分发给其他的消费者。
不同的消息队列发送的确认信息形式不同,例如RabbitMQ是发送一个ACK确认消息,RocketMQ是返回一个CONSUME_SUCCESS成功标志,kafka实际上有个offset的概念。
RocketMQ没有内置消息去重的解决方案,最新版本是否支持还需确认。
2)消息去重
1)去重原则:使用业务端逻辑保持幂等性
幂等性:就是用户对于同一 *** 作发起的一次请求或者多次请求的结果是一致的,不会因为多次点击而产生了副作用,数据库的结果都是唯一的,不可变的。
只要保持幂等性,不管来多少条重复消息,最后处理的结果都一样,需要业务端来实现。
2)去重策略:保证每条消息都有唯一编号(比如唯一流水号),且保证消息处理成功与去重表的日志同时出现。
建立一个消息表,拿到这个消息做数据库的insert *** 作。给这个消息做一个唯一主键(primary key)或者唯一约束,那么就算出现重复消费的情况,就会导致主键冲突,那么就不再处理这条消息。
RocketMQ的应用场景
1削峰填谷
比如如秒杀等大型活动时会带来较高的流量脉冲,如果没做相应的保护,将导致系统超负荷甚至崩溃。如果因限制太过导致请求大量失败而影响用户体验,可以利用MQ 超高性能的消息处理能力来解决。
2异步解耦
通过上、下游业务系统的松耦合设计,比如:交易系统的下游子系统(如积分等)出现不可用甚至宕机,都不会影响到核心交易系统的正常运转。
3顺序消息
与FIFO原理类似,MQ提供的顺序消息即保证消息的先进先出,可以应用于交易系统中的订单创建、支付、退款等流程。
4分布式事务消息
比如阿里的交易系统、支付红包等场景需要确保数据的最终一致性,需要引入 MQ 的分布式事务,既实现了系统之间的解耦,又可以保证最终的数据一致性。
将大事务拆分成小事务,减少系统间的交互,既高效又可靠。再利用MQ 的可靠传输与多副本技术确保消息不丢,At-Least-Once 特性来最终确保数据的最终一致性。
工信部、国家机关事务管理局、国家能源局近日联合印发《关于加强绿色数据中心建设的指导意见》(下简称《意见》),明确提出要建立健全绿色数据中心标准评价体系和能源资源监管体系,到2022年,数据中心平均能耗基本达到国际先进水平。《意见》指出,引导大型和超大型数据中心设计电能使用效率值不高于14;力争通过改造使既有大型、超大型数据中心电能使用效率值不高于18。
基本原则
政策引领、市场主导。充分发挥市场配置资源的决定性作用,调动各类市场主体的积极性、创造性。更好发挥政府在规划、政策引导和市场监管中的作用,着力构建有效激励约束机制,激发绿色数据中心建设活力。
改造存量、优化增量。建立绿色运维管理体系,加快现有数据中心节能挖潜与技术改造,提高资源能源利用效率。强化绿色设计、采购和施工,全面实现绿色增量。
创新驱动、服务先行。大力培育市场创新主体,加快建立绿色数据中心服务平台,完善标准和技术服务体系,推动关键技术、服务模式的创新,引导绿色水平提升。
主要目标
建立健全绿色数据中心标准评价体系和能源资源监管体系,打造一批绿色数据中心先进典型,形成一批具有创新性的绿色技术产品、解决方案,培育一批专业第三方绿色服务机构。到2022年,数据中心平均能耗基本达到国际先进水平,新建大型、超大型数据中心的电能使用效率值达到14以下,高能耗老旧设备基本淘汰,水资源利用效率和清洁能源应用比例大幅提升,废旧电器电子产品得到有效回收利用。
重点任务
(一)提升新建数据中心绿色发展水平
1 强化绿色设计
加强对新建数据中心在IT设备、机架布局、制冷和散热系统、供配电系统以及清洁能源利用系统等方面的绿色化设计指导。鼓励采用液冷、分布式供电、模块化机房以及虚拟化、云化IT资源等高效系统设计方案,充分考虑动力环境系统与IT设备运行状态的精准适配;鼓励在自有场所建设自然冷源、自有系统余热回收利用或可再生能源发电等清洁能源利用系统;鼓励应用数值模拟技术进行热场仿真分析,验证设计冷量及机房流场特性。引导大型和超大型数据中心设计电能使用效率值不高于14。
2 深化绿色施工和采购
引导数据中心在新建及改造工程建设中实施绿色施工,在保证质量、安全基本要求的同时,最大限度地节约能源资源,减少对环境负面影响,实现节能、节地、节水、节材和环境保护。严格执行《电器电子产品有害物质限制使用管理办法》和《电子电气产品中限用物质的限量要求》(GB/T 26572)等规范要求,鼓励数据中心使用绿色电力和满足绿色设计产品评价等要求的绿色产品,并逐步建立健全绿色供应链管理制度。
(二)加强在用数据中心绿色运维和改造
1完善绿色运行维护制度
指导数据中心建立绿色运维管理体系,明确节能、节水、资源综合利用等方面发展目标,制定相应工作计划和考核办法;结合气候环境和自身负载变化、运营成本等因素科学制定运维策略;建立能源资源信息化管控系统,强化对电能使用效率值等绿色指标的设置和管理,并对能源资源消耗进行实时分析和智能化调控,力争实现机械制冷与自然冷源高效协同;在保障安全、可靠、稳定的基础上,确保实际能源资源利用水平不低于设计水平。
2有序推动节能与绿色化改造
有序推动数据中心开展节能与绿色化改造工程,特别是能源资源利用效率较低的在用老旧数据中心。加强在设备布局、制冷架构、外围护结构(密封、遮阳、保温等)、供配电方式、单机柜功率密度以及各系统的智能运行策略等方面的技术改造和优化升级。鼓励对改造工程进行绿色测评。力争通过改造使既有大型、超大型数据中心电能使用效率值不高于18。
3 加强废旧电器电子产品处理
加快高耗能设备淘汰,指导数据中心科学制定老旧设备更新方案,建立规范化、可追溯的产品应用档案,并与产品生产企业、有相应资质的回收企业共同建立废旧电器电子产品回收体系。在满足可靠性要求的前提下,试点梯次利用动力电池作为数据中心削峰填谷的储能电池。推动产品生产、回收企业加快废旧电器电子产品资源化利用,推行产品源头控制、绿色生产,在产品全生命周期中最大限度提升资源利用效率。
(三)加快绿色技术产品创新推广
1 加快绿色关键和共性技术产品研发创新
鼓励数据中心骨干企业、科研院所、行业组织等加强技术协同创新与合作,构建产学研用、上下游协同的绿色数据中心技术创新体系,推动形成绿色产业集群发展。重点加快能效水效提升、有毒有害物质使用控制、废弃设备及电池回收利用、信息化管控系统、仿真模拟热管理和可再生能源、分布式供能、微电网利用等领域新技术、新产品的研发与创新,研究制定相关技术产品标准规范。
2 加快先进适用绿色技术产品推广应用
加快绿色数据中心先进适用技术产品推广应用,重点包括:一是高效IT设备,包括液冷服务器、高密度集成IT设备、高转换率电源模块、模块化机房等;二是高效制冷系统,包括热管背板、间接式蒸发冷却、行级空调、自动喷淋等;三是高效供配电系统,包括分布式供能、市电直供、高压直流供电、不间断供电系统ECO模式、模块化UPS等;四是高效辅助系统,包括分布式光伏、高效照明、储能电池管理、能效环境集成监控等。
(四)提升绿色支撑服务能力
1 完善标准体系
充分发挥标准对绿色数据中心建设的支撑作用,促进绿色数据中心提标升级。建立健全覆盖设计、建设、运维、测评和技术产品等方面的绿色数据中心标准体系,加强标准宣贯,强化标准配套衔接。加强国际标准话语权,积极推动与国际标准的互信互认。以相关测评标准为基础,建立自我评价、社会评价和政府引导相结合的绿色数据中心评价机制,探索形成公开透明的评价结果发布渠道。
2培育第三方服务机构
加快培育具有公益性质的第三方服务机构,鼓励其创新绿色评价及服务模式,向数据中心提供咨询、检测、评价、审计等服务。鼓励数据中心自主利用第三方服务机构开展绿色评测,并依据评测结果开展有实效的绿色技术改造和运维优化。依托高等院校、科研院所、第三方服务等机构建立多元化绿色数据中心人才培训体系,强化对绿色数据中心人才的培养。
(五)探索与创新市场推动机制
鼓励数据中心和节能服务公司拓展合同能源管理,研究节能量交易机制,探索绿色数据中心融资租赁等金融服务模式。鼓励数据中心直接与可再生能源发电企业开展电力交易,购买可再生能源绿色电力证书。探索建立绿色数据中心技术创新和推广应用的激励机制和融资平台,完善多元化投融资体系。
保障措施
(一)加强组织领导。工业和信息化部、国家机关事务管理局、国家能源局建立协调机制,强化在政策、标准、行业管理等方面的沟通协作,加强对地方相关工作的指导。各地工业和信息化、机关事务、能源主管部门要充分认识绿色数据中心建设的重要意义,结合实际制定相关政策措施,充分发挥行业协会、产业联盟等机构的桥梁纽带作用,切实推动绿色数据中心建设。
(二)加强行业监管。在数据中心重点应用领域和地区,了解既有数据中心绿色发展水平,研究数据中心绿色发展现状。将重点用能数据中心纳入工业和通信业节能监察范围,督促开展节能与绿色化改造工程。推动建立数据中心节能降耗承诺、信息依法公示、社会监督和违规惩戒制度。遴选绿色数据中心优秀典型,定期发布《国家绿色数据中心名单》。充分发挥公共机构特别是党政机关在绿色数据中心建设的示范引领作用,率先在公共机构组织开展数据中心绿色测评、节能与绿色化改造等工作。
(三)加强政策支持。充分利用绿色制造、节能减排等现有资金渠道,发挥节能节水、环境保护专用设备所得税优惠政策和绿色信贷、首台(套)重大技术装备保险补偿机制支持各领域绿色数据中心创建工作。优先给予绿色数据中心直供电、大工业用电、多路市电引入等用电优惠和政策支持。加大政府采购政策支持力度,引导国家机关、企事业单位优先采购绿色数据中心所提供的机房租赁、云服务、大数据等方面服务。
(四)加强公共服务。整合行业现有资源,建立集政策宣传、技术交流推广、人才培训、数据分析诊断等服务于一体的国家绿色数据中心公共服务平台。加强专家库建设和管理,发挥专家在决策建议、理论指导、专业咨询等方面的积极作用。持续发布《绿色数据中心先进适用技术产品目录》,加快创新成果转化应用和产业化发展。鼓励相关企事业单位、行业组织积极开展技术产品交流推广活动,鼓励有条件的企业、高校、科研院所针对绿色数据中心关键和共性技术产品建立实验室或者工程中心。
(五)加强国际交流合作。充分利用现有国际合作交流机制和平台,加强在绿色数据中心技术产品、标准制定、人才培养等方面的交流与合作,举办专业培训、技术和政策研讨会、论坛等活动,打造一批具有国际竞争力的绿色数据中心,形成相关技术产品整体解决方案。结合“一带一路”倡议等国家重大战略,加快开拓国际市场,推动优势技术和服务走出去。
结语
据悉,在数据中心当前的后期运营,能耗是最大成本,占比超过50%。降低能耗效率(PUE)值,一直是业界相关部门关心的重点。
工信部在2017年4月发布的《关于加强“十 三五”信息通信业节能减排工作的指导意见》中指出:“十二五”期间新建大型数据中心的能耗效率(PUE)要普遍低于15;到2020年,新建大型、超大型数据中心的能耗效率(PUE)值必须达到14 以下。
去年3月,工信部首次公布的《全国数据中心应用发展指引》中称:全国超大型数据中心平均PUE(平均电能使用效率)为150,大型数据中心平均PUE为169。而根据“十三五规划”,到2020年,新建大型云计算数据中心PUE值将不得高于14。
如今,三部门联手针对绿色数据中心建设进一步提出了明确的指导意见。在这样的大背景下,数据中心运营商如何运用新技术、新架构降低能源降耗,实现数据中心的绿色发展,将成为行业的关注热点,与此同时,节能降耗的大趋势之下,也将带来更多的市场机遇。
欢迎分享,转载请注明来源:内存溢出
微信扫一扫
支付宝扫一扫
评论列表(0条)