在javaweb当中,servlet在运行阶段,针对每个客户端的请求,都会创建一个线程,该线程调用servlet的实例?

在javaweb当中,servlet在运行阶段,针对每个客户端的请求,都会创建一个线程,该线程调用servlet的实例?,第1张

具体servlet的请求处理,这个是分配给线程池线程处理的,servlet容器都这样实现,这个没什么问题。我主要来说说其它的。

线程池的作用

从其他人的回答看,都是太高看线程池本身的作用了。

线程池作为一种资源池(这里的资源就是线程了)模型,最大的优点是重复利用已经创建的线程,避免线程的反复创建和销毁带来的处理器和内存的消耗。而除此之外,它需要配合其它机制才能发挥更大的作用。

请求到达服务器后,如果线程池没有可用线程,请求会进入队列排队,如果超过队列最大阈值会被丢弃。重点来了,如果你的请求处理服务会有如数据库调用/远程服务调用的IO处理,而你用的阻塞模型,则这个线程在请求处理完成之前并不能返还到线程池供其它请求服务。这种长期占用线程的行为,会严重限制请求的并发。线程的有效利用率太低,大部分时间都在阻塞中,这个和你有没有线程池没有关系。所以要在高并发的情况下保证性能,重点是你的服务内部的使用异步IO避免阻塞。这样在你某个请求处于IO等待期间,当前线程可以返还给线程池继续提供服务。

(补充)

下面有朋友提到了请求队列,这里简单说下。

请求队列是所有服务器程序都会考虑和设计的一个机制,这样的机制实际上起缓冲层作用,避免服务器在请求过多时崩溃。以Tomcat为例,Connector中有下面几个关键配置。

acceptCount就是允许未处理请求队列的长度(backlog),默认是100,可以根据实际情况做调整。

更多的配置参见官方文档。如果有时间,会写一个Tomcat具体如何实现请求队列及它的处理文章。

请求响应

更友好的体验还要从客户端出发来考虑,如果你能缩短请求的处理时间,客户端体验是极好的,比如成都访问杭州阿里云服务器,空载来回大概40ms的时间,如果你的服务处理控制在10ms以内,请求在50ms就可以返回,是不是很舒服?当然如果是静态资源做CDN几ms就可以完成。

要缩短请求响应时间,可以从两方面入手:

1、将服务分解成多个可以并行处理的任务,这里的任务一般都会包含一个异步IO调用,然后并行执行。

2、将不影响响应结果的子任务异步处理,提前返回响应。比如推送消息,日志记录等。考虑一些极端的情况:在双11和秒杀场景,只有商品的库存处理是最核心的,这个环节处理完就可以结束本次处理,像支付这种繁琐的处理就可以延后,还有部分 *** 作都可以放入异步队列继续处理。

将请求分解异步并行化后,实际上又会多出很多线程切换,这个时候线程池的作用就被放大了。

总结

仅仅有线程池而没有异步并行框架的支撑,线程池其实只能发挥很小的作用,在高并发情况下它必不可少,但非最核心的那个东西。我们一般的Web应用都是IO密集型的,只要保证服务内的IO都异步化,线程池只需非常少量的线程就可以应对大量并发。

多线程技术可以提高cpu利用率,尤其是多核cpu的机器,提高并发执行效率。这是建立在cpu执行有空余的情况下的,多线程也并非没有代价,首先线程作为 *** 作系统的最小调度单位也是要占用内存空间的,其次线程调度及上下文切换也会消耗性能。一般线程数为cpu个数2+1较好,线程太多会占用内存,频繁的线程上下文切换也会导致效率降低。

1、什么是线程池: javautilconcurrentExecutors提供了一个 javautilconcurrentExecutor接口的实现用于创建线程池
多线程技术主要解决处理器单元内多个线程执行的问题,它可以显著减少处理器单元的闲置时间,增加处理器单元的吞吐能力。
假设一个服务器完成一项任务所需时间为:T1 创建线程时间,T2 在线程中执行任务的时间,T3 销毁线程时间。
如果:T1 + T3 远大于 T2,则可以采用线程池,以提高服务器性能。
一个线程池包括以下四个基本组成部分:
1、线程池管理器(ThreadPool):用于创建并管理线程池,包括 创建线程池,销毁线程池,添加新任务;
2、工作线程(PoolWorker):线程池中线程,在没有任务时处于等待状态,可以循环的执行任务;
3、任务接口(Task):每个任务必须实现的接口,以供工作线程调度任务的执行,它主要规定了任务的入口,任务执行完后的收尾工作,任务的执行状态等;
4、任务队列(taskQueue):用于存放没有处理的任务。提供一种缓冲机制。
线程池技术正是关注如何缩短或调整T1,T3时间的技术,从而提高服务器程序性能的。它把T1,T3分别安排在服务器程序的启动和结束的时间段或者一些空闲的时间段,这样在服务器程序处理客户请求时,不会有T1,T3的开销了。
线程池不仅调整T1,T3产生的时间段,而且它还显著减少了创建线程的数目,看一个例子:
假设一个服务器一天要处理50000个请求,并且每个请求需要一个单独的线程完成。在线程池中,线程数一般是固定的,所以产生线程总数不会超过线程池中线程的数目,而如果服务器不利用线程池来处理这些请求则线程总数为50000。一般线程池大小是远小于50000。所以利用线程池的服务器程序不会为了创建50000而在处理请求时浪费时间,从而提高效率。

流程上是:
Client->Server->Client
Server的任务是存储信息并完成客户端通讯之间的转发。
在服务器端采用线程创建而不是为每个客户端连接创建一个进程,这样能大大减少损耗。


欢迎分享,转载请注明来源:内存溢出

原文地址:https://54852.com/zz/10749381.html

(0)
打赏 微信扫一扫微信扫一扫 支付宝扫一扫支付宝扫一扫
上一篇 2023-05-11
下一篇2023-05-11

发表评论

登录后才能评论

评论列表(0条)

    保存