为什么需要服务器负载均衡?采用服务器负载均衡器有什么优点？

随着网站、应用访问量的增加，一台服务器已经不能满足应用的需求，而需要多台服务器集群，这时就会用到负载均衡

它的好处

负载均衡优化了访问请求在服务器组之间的分配，消除了服务器之间的负载不平衡，从而提高了系统的反应速度与总体性能；

负载均衡可以对服务器的运行状况进行监控，及时发现运行异常的服务器，并将访问请求转移到其它可以正常工作的服务器上，从而提高服务器组的可靠性采用了负均衡器器以后，可以根据业务量的发展情况灵活增加服务器，系统的扩展能力得到提高，同时简化了管理。

Ｈ绻�蕴�钟猩璞溉プ鲇布��叮��斐勺试吹睦朔眩��胰绻�院竺媪僖滴窳康募ぴ觯�植坏貌辉俅瓮度敫叨畹挠布��冻杀荆�踔列阅茉僮吭降纳璞敢膊荒苈�憬�匆滴窳康男枨蟆�在此种情况下，单纯的网络架构就显得捉襟见肘了，而负载均衡机制则应运而生。服务器负载均衡(Server Load Balancing)，其原理是将工作任务相对均衡地分摊到多个节点(服务器集群)上执行，从而提升整个业务系统的性能。诸如LVS、HA Proxy等开源软件，可以在现有的网络基础架构之上建立负载均衡机制，以满足业务增长的需要，对于网站的来说不啻为一种廉价且有效的扩展性选择。此外，针对互联网上有可能影响数据传输的各种环节，CDN(Content Delivery Network)内容交付网络的应对方案也适时出现。CDN对网站内容的处理，主要在于利用缓存技术将静态内容快速分发至边缘节点，通过让用户就近取得所需内容，解决 Internet网络拥挤的状况，提高用户访问网站的响应速度，同时也减轻了网站自身系统的性能压力。现在看来，貌似我们已经解决了网站发布所面临的所有瓶颈了，但是实际上问题远没有那么简单。一方面，对于数据交互比较频繁的动态内容而言，CDN只能在其中心节点与源数据节点(网站自身系统)之间做有限的传输优化，加速效果远不如静态内容做缓存分发那般明显。另一方面，随着线上业务、电子商务等领域的Web内容呈现日渐丰富，涌现出了愈发复杂的业务交付需求，这对网站的发布方而言也意味着将面临更多的挑战。因此，当我们抛开网络的传输质量、带宽拥塞程度等外界因素来看的话，又不得不正视一个问题--影响网站访问效果的最大瓶颈还是在于源数据节点自身的处理性能。以电子商务网站这种典型的大型高并发访问量的线上业务为例，其性能瓶颈最容易出现在联机事务处理(OLTP)的环节，例如访问用户进行条目查阅、订单确认等场景。产生这种情况的原因在于，网站的运营方出于数据安全等因素的考虑，是不可能将后台数据库等资源完全向CDN服务商开放的。由此造成，所有涉及到此类动态资源的访问就会频繁地经由CDN网络的边缘节点上溯到源数据节点(即网站自身系统)来请求实时地响应处理。在保障数据安全性的前提下，要解决网站的性能瓶颈问题，必须提高源数据节点的业务处理效率，因此我们还得从网络架构的设计着手。前文提到过，单台服务器的处理能力有限，当突发访问量骤然增加的时候，其性能就会成为整个系统的瓶颈，导致用户访问的响应缓慢甚至网站服务器瘫痪。为了满足高并发量访问的需求，可以通过软件手段实现服务器集群的多机负载均衡效果。然而，这种软件式的负载均衡有一个不可避免的缺点，那便是系统的稳定性和性能方面受限于软件所安装运行的服务器，一旦访问量过大时，该台服务器就恰恰成了整个系统的瓶颈所在。就一个发布线上业务的网站系统而言，前台的Web服务器由于有外部的CDN服务作为静态内容的分流渠道，尚不至于产生明显的系统瓶颈，而后台处理动态内容的核心业务系统就难免会感到压力巨大了。具体分析的话，当前的业务系统多采用客户端--中间件--数据库的三层结构设计，通常多是利用WebLogic中间件软件自带的服务器集群功能来满足高性能需求，其中一台WebLogic Server作为管理服务器负责任务调度，实现负载均衡效果。但是，当访问用户到达一定数目的时候，由于该服务器自身的硬件性能瓶颈，会造成整个系统的联机事务处理效率低下;而且由于WebLogic自身设计的原因，当任务量达到一定阀值的时候，即便是升级服务器硬件性能也无法提升其进行负载均衡调度的能力。针对上述情况，最好的办法莫过于采用硬件负载均衡设备，以解决数据流量过大、任务负荷过重所产生的系统瓶颈问题。在这一方面，业内知名的硬件厂商有F5、深信服等等。值得一提的是，深信服的应用交付产品除具有传统负载均衡功能外，其独有的单边加速技术，能够在跨运营商网络环境中，通过广域网传输文件及应用的访问时间减少30%以上，极大提高了用户体验。虽然部署硬件设备意味着一笔额外的开支，但是它给网站的整体业务系统所带来的性能提升，却是传统的软件方案所望其项背的。除此之外，专业的硬件设备所能提供的负载调度算法和健康检查机制也更加丰富、全面，有助于进一步提升关键业务发布的稳定性和持久性，这对于高并发量的大型网站而言是极具价值的。当然，对于不同规模、不同业务的网站而言，没有一概而论的设计标准，文中提到的技术手段都有着相应的适用场景，这就需要网站的架构师们做具体的规划了。

理解负载均衡，必须先搞清楚正向代理和反向代理。

注：

正向代理，代理的是用户。

反向代理，代理的是服务器

什么是负载均衡

当一台服务器的单位时间内的访问量越大时，服务器压力就越大，大到超过自身承受能力时，服务器就会崩溃。为了避免服务器崩溃，让用户有更好的体验，我们通过负载均衡的方式来分担服务器压力。

我们可以建立很多很多服务器，组成一个服务器集群，当用户访问网站时，先访问一个中间服务器，在让这个中间服务器在服务器集群中选择一个压力较小的服务器，然后将该访问请求引入该服务器。如此以来，用户的每次访问，都会保证服务器集群中的每个服务器压力趋于平衡，分担了服务器压力，避免了服务器崩溃的情况。

负载均衡是用反向代理的原理实现的。
1、轮询（默认）

每个请求 按时间顺序逐一分配 到不同的后端服务器，如果后端服务器down掉，能自动剔除。

upstreambackserver {server192168014;server192168015;}

2、weight

指定轮询几率，weight和访问比率成正比，用于后端服务器性能不均的

情况。

upstreambackserver {server192168014weight=3;server192168015weight=7;}

权重越高，在被访问的概率越大，如上例，分别是30%，70%。

3、上述方式存在一个问题就是说，在负载均衡系统中，假如用户在某台服务器上登录了，那么该用户第二次请求的时候，因为我们是负载均衡系统，每次请求都会重新定位到服务器集群中的某一个，那么已经登录某一个服务器的用户再重新定位到另一个服务器，其登录信息将会丢失，这样显然是不妥的。

我们可以采用ip_hash指令解决这个问题，如果客户已经访问了某个服务器，当用户再次访问时，会将该请求通过哈希算法，自动定位到该服务器。

每个请求按访问ip的hash结果分配，这样每个访客固定访问一个后端服务器，可以解决session的问题。

upstreambackserver{ip_hash;server192168014:88;server192168015:80;}

4、fair（第三方）

按后端服务器的响应时间来分配请求，响应时间短的优先分配。

upstreambackserver {serverserver1;serverserver2;fair;}

5、url_hash（第三方）

按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，后端服务器为缓存时比较有效。

upstream backserver {    server squid1:3128;    server squid2:3128;    hash$request_uri;    hash_method crc32;}123456

每个设备的状态设置为:

down 表示单前的server暂时不参与负载

weight 默认为1weight越大，负载的权重就越大。

max_fails：允许请求失败的次数默认为1当超过最大次数时，返回 proxy_next_upstream模块定义的错误

fail_timeout:max_fails次失败后，暂停的时间。

backup： 其它所有的非backup机器down或者忙的时候，请求backup机器。所以这台机器压力会最轻。

配置实例：

#user  nobody;worker_processes4;events {# 最大并发数worker_connections1024;}>

实现负载均衡可有以下算法：

Nginx实现负载均衡的原理是利用>