1 吞吐率
吞吐率，单位时间里服务器处理的最大请求数，单位req/s
从服务器角度，实际并发用户数的可以理解为服务器当前维护的代表不同用户的文件描述符总数，也就是并发连接数。服务器一般会限制同时服务的最多用户数，比如apache的MaxClents参数。
这里再深入一下，对于服务器来说，服务器希望支持高吞吐率，对于用户来说，用户只希望等待最少的时间，显然，双方不能满足，所以双方利益的平衡点，就是我们希望的最大并发用户数。
2 压力测试
有一个原理一定要先搞清楚，假如100个用户同时向服务器分别进行10个请求，与1个用户向服务器连续进行1000次请求，对服务器的压力是一样吗？实际上是不一样的，因对每一个用户，连续发送请求实际上是指发送一个请求并接收到响应数据后再发送下一个请求。这样对于1个用户向服务器连续进行1000次请求, 任何时刻服务器的网卡接收缓冲区中只有1个请求，而对于100个用户同时向服务器分别进行10个请求，服务器的网卡接收缓冲区最多有100个等待处理的请求，显然这时的服务器压力更大。
压力测试前提考虑的条件
并发用户数: 指在某一时刻同时向服务器发送请求的用户总数(>多线程只有在多处理器系统（比如多核、smp等）上才有可能提高执行速率。在多处理系统上，将要执行的任务分割成多个可并行执行线程，就可以提高执行速率。但是如果任务本身不可并行，比如就是一个有限状态自动机的程序，那就没办法用到多处理机，也不能提高速率。上面说的是并行，不是并发。单处理器上多线程只能并发执行而不是并行，多线程并不能提高纯计算程序的速率。但是对于一般程序中都有i/o *** 作等，可以将io *** 作放到一个线程中执行，从而可以在io同时进行其他 *** 作不比等待io完成，这样可以提高速率。不宜创建过多线程，因为线程context switch造成很大的cpu负荷，并且线程占用内存资源。现在的网络服务器为了支持大量并发多不是靠多线程或多进程，而采用其他的技术如异步i/o，i/o multiplexing
1、减少内存分配和释放
服务器在运行过程中，需要大量的内存容量来支撑，内存的分配和释放就尤为关键。用户在使用服务器的时候，可以通过改善数据结构以及算法制度来减少中间临时变量的内存分配和数据复制时间。
另外，可以选择使用共享内存模式来降低内存的分配和释放问题。共享内存在多处理器系统中，可以被不同的中央处理器访问，也可以有不同的进程共享，是一种非常快的进程通信方式。
2、使用持久链接
持久链接也被称为场链接，是通过TCP通信的一种方式。在一次TCP链接中持续发送多份数据而不断开连接。
从性能角度上来讲，建立TCP链接次数越少，越有利于性能的提升，尤其对于密集型或者网页等数据处理上来说有明显的加速作用。
3、改进I/O模型
I/O *** 作根据设备形式有不同的类型，例如我们常见的内存I/O，网络I/O，磁盘I/O。针对网络I/O和磁盘I/O, 它们的速度要慢很多，可以选择采用高带宽网络适配器可以提高网络I/O速度。
以上的I/O *** 作时需要CPU来调度的，这就需要CPU空出时间来等待I/O *** 作。如果在CPU调度上使用时间较少，也就能节约出CPU的处理时间，从这一点上来说也是提升高服务器并发处理能力的方式。
4、改进服务器并发数策略
服务器高并发策略的调整，是为了让I/O *** 作和CPU计算尽量重叠进行。一方面使CPU在I/O *** 作时等待时间内不要空闲，另一方面也是为了最大限度缩短等待时间。感兴趣的话点击此处，了解一下
为什么>欢迎分享，转载请注明来源：内存溢出
欢迎分享，转载请注明来源：内存溢出
微信扫一扫
支付宝扫一扫
评论列表（0条）