珍贵的线程资源,JDK VS Tomcat

哈喽,大家好,我是了不起。

高考结束了,依然祝高考学子们取得好成绩,然后报考计算机专业,然后快点毕业,来接收哥哥姐姐们留下的代码文明。。。。

接到某城举报,某迪泄露高考题目。

珍贵的线程资源,JDK VS Tomcat

最近生产环境各种问题,几百台设备停摆,真的是亚历山大。接手了别人的代码,只能硬着头皮改了,一不留神就恰班到10点多了。

今天还是说一下线程池的两个思考。

池子

我们常用的线程池,

1. JDK的ThreadPoolExecutor.

2. CompletableFutures 默认使用了ForkJoinPool.commonPool()。

CompletableFuture.supplyAsync(()->{ return "hello word";});

3. 还有Tomcat中的线程池

org.apache.tomcat.util.threads.TaskQueue  

org.apache.tomcat.util.threads.ThreadPoolExecutor

线程池维护多个线程,等待监督管理者分配可并发执行的任务。这种做法,一方面避免了处理任务时创建销毁线程开销的代价,另一方面避免了线程数量膨胀导致的过分调度问题,保证了对内核的充分利用。

JDK 线程池

public ThreadPoolExecutor(
    int corePoolSize, //核心线程数
    int maximumPoolSize,//最大线程数
    long keepAliveTime, //大于核心线程数量的线程存活时间,如果没有新任务就会关闭
    TimeUnit unit, // 时间单位
    BlockingQueue<Runnable> workQueue, //线程等待队列
    ThreadFactory threadFactory,//创建线程的工厂
    RejectedExecutionHandler handler//拒绝策略
) {

JDK线程池执行任务:

  1. 提交任务给线程池后,线程池会检查线程池中正在运行的线程数量,如果线程数量小于核心线程,则创建一个新的线程来处理任务。
  2. 如果线程池中线程数量达到和corePoolSize的大小,则将线程放入等待队列BlockingQueue中。
  3. 如果提交任务时连等待队列都已经满了的话,线程池会继续创建新的线程来处理任务,直到线程池数量达到maximumPoolSize。
  4. 如果线程数量达到了最大容量,则会执行拒绝策略。

这里需要注意直接使用LinkedBlockingQueue阻塞队列作为线程池会存在一个问题,当workcount > corePool时优先进入队列排队, 当请求并发过多时会导致请求缓慢,队列太长可能会出现内存溢出(先排队再涨线程池)

Tomcat线程池

下面时Tomcat线程池的构造方法

public ThreadPoolExecutor(int corePoolSize, int maximumPoolSize, long keepAliveTime, TimeUnit unit, BlockingQueue<Runnable> workQueue, ThreadFactory threadFactory, RejectedExecutionHandler handler) {
    this.ctl = new AtomicInteger(ctlOf(-536870912, 0));
    this.mainLock = new ReentrantLock();
    this.workers = new HashSet();
    this.termination = this.mainLock.newCondition();
    this.submittedCount = new AtomicInteger(0);
    this.lastContextStoppedTime = new AtomicLong(0L);
    this.lastTimeThreadKilledItself = new AtomicLong(0L);
    this.threadRenewalDelay = 1000L;
    if (corePoolSize >= 0 && maximumPoolSize > 0 && maximumPoolSize >= corePoolSize && keepAliveTime >= 0L) {
        if (workQueue != null && threadFactory != null && handler != null) {
            this.corePoolSize = corePoolSize;
            this.maximumPoolSize = maximumPoolSize;
            this.workQueue = workQueue;
            this.keepAliveTime = unit.toNanos(keepAliveTime);
            this.threadFactory = threadFactory;
            this.handler = handler;
            this.prestartAllCoreThreads();
        } else {
            throw new NullPointerException();
        }
    } else {
        throw new IllegalArgumentException();
    }
}

Tomcat主要针对web接口请求,不能因为LinkedBlockingQueue的排队导致接口出现大量延迟和缓慢, 从而使用了tomcat的TaskQueue,TaskQueue继承了JDK的LinkedBlockingQueue 并扩展了JDK线程池的功能。

主要有一下几点优化:

  • Tomcat的ThreadPoolExecutor使用的TaskQueue,是无界的LinkedBlockingQueue,但是通过taskQueue的offer方法覆盖了LinkedBlockingQueue的offer方法,修改了线程池增长规则,使得线程池能在任务较多的情况下增长线程池数量。(先涨线程池再排队。)
  • Tomcat的ThreadPoolExecutor改写了execute方法,当任务被reject时,捕获异常,会强制入队
public void execute(Runnable command, long timeout, TimeUnit unit) {
    this.submittedCount.incrementAndGet();

    try {
        this.executeInternal(command);
    } catch (RejectedExecutionException var9) {
        if (!(this.getQueue() instanceof TaskQueue)) {
            this.submittedCount.decrementAndGet();
            throw var9;
        }

        TaskQueue queue = (TaskQueue)this.getQueue();

        try {
            if (!queue.force(command, timeout, unit)) {
                this.submittedCount.decrementAndGet();
                throw new RejectedExecutionException(sm.getString("threadPoolExecutor.queueFull"));
            }
        } catch (InterruptedException var8) {
            this.submittedCount.decrementAndGet();
            throw new RejectedExecutionException(var8);
        }
    }

}

那个线程池适合

我们看看AI如何回复

珍贵的线程资源,JDK VS Tomcat

了不起认为大多数情况下使用JDK的线程池就够用了,如果觉得线程数据处理不过来,需要多一点线程直接增加核心线程数量设置就可以了。针对资源比较紧张,对线程使用代价比较高时可以考虑。

tomcat对线程池做过优化,也必然是有一定的考量,对于线程资源的使用频率比较高的情况下可以使用。

了不起之前也有对应的不同的例子来说明不同点。这里再放出来让大家体会一下!

JDK线程池,线程资源较珍贵

  • 有一家工厂建立,开始的时候只有10个工人,然后工厂的活越来越多,招聘新的工人肯定不是最好的策略,所以多出来的活暂时只能等着,进行排队。(这个例子中工厂的活多了,立马去招人肯定是不可能,只能先排单)
  • 后面工厂的业务越来越多,任务挤压过多,原来的工人干活已经不能满足业务需求了。为了最大化效益,招聘新的工人势在必行,于是就招聘了新的工人,所有的工人一起来干活,加快效率。
  • 当工厂的工人数量达到饱和之后,仍然不停的新增业务,此时工厂已经饱和,没有办法再继续接单。那么只能采取别的方案(拒绝策略),找别的工厂干,或者新建工厂。
  • 当后面业务量比较小的时候,新招的工人就会慢慢的裁剪(线程一段时间不使用就会关掉!)。

Tomcat线程池,线程资源使用比较频繁

  • 某学校有一个食堂,大厅里面日常至少摆100把椅子(min-spare)供学生们吃饭。
  • 然而当同时吃饭的同学大于100人的时候,食堂会增加一些椅子(创建线程),并且这些椅子也不会立马收回去,一段时间没有人使用才会收回。
  • 但是食堂里面最多可以摆500把椅子(maxThreads)。然后超过500人吃饭同时吃饭的话,其他人就只能在大厅里面排队等别人吃完。食堂大厅里面可以容纳1000人进行排队等候(maxConnections)。
  • 当食堂大厅1000人都排满了,那么就只能到食堂外面排队了,外面排队最多一直能排200人(acceptCount)。这个时候如果再有人过来要吃饭,而且还排不上队,就会等到不耐烦(time out),也会有人来告诉后来的同学,别来了人都满了,上其他地方吃饭去吧。(reject)

文章版权声明

 1 原创文章作者:0008,如若转载,请注明出处: https://www.52hwl.com/30393.html

 2 温馨提示:软件侵权请联系469472785#qq.com(三天内删除相关链接)资源失效请留言反馈

 3 下载提示:如遇蓝奏云无法访问,请修改lanzous(把s修改成x)

 免责声明:本站为个人博客,所有软件信息均来自网络 修改版软件,加群广告提示为修改者自留,非本站信息,注意鉴别

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023年7月14日 上午12:00
下一篇 2023年7月15日