线程池——核心线程数设置依据

根据线程数设置依据

最大线程数：原则上就是性能最高线程数，因为此时性能已经是最高，再设置比他大的线程数反而性能变低。极端情况下才会使用到最大线程数，正常情况下不应频繁出现超过核心线程数的创建。

核心线程数：基于性能考虑，及其他业务处理的最优效率考虑，估算平时的流量需要的线程数，设置核心线程数

阻塞队列：估算最大流量，设置阻塞队列长度

注意：需要通过压力测试来进行微调，只有经过压测的检验，才能最终保证的配置大小是准确的。

一般情况设置依据

CPU密集型：

核心线程数 = CPU核数 + 1

IO密集型：

核心线程数 = CPU核数 * 2

核心线程数 = CPU核数 / （1-阻塞系数）

博主认为，这种情况设置依据仅作初步设置依据，盲目性大。

Little's Law（利特尔法则）

定义：一个系统请求数等于请求的到达率与平均每个单独请求花费的时间之乘积

举例：假设服务器单核的，对应业务需要保证请求量（QPS）：10 ，真正处理一个请求需要 1 秒，那么服务器每个时刻都有 10 个请求在处理，即需要 10 个线程

公式：

线程池大小 = （（线程 IO time + 线程 CPU time ）/  线程 CPU time ）*  CPU数目

举例：假设服务器4核，平均IO时间为400ms，cpu处理时间为100ms， 线程应设置为20

结论

《Java并发编程实战》一书中，Brian Goetz和合著者们为线程池大小的优化提供了不少中肯的建议。这非常重要，如果线程池中线程的数量过多，最终它们会竞争稀缺的处理器和内存资源，浪费大量的时间在上下文切换上。反之，如果线程的数目过少，正如你的应用所面临的情况，处理器的一些核可能就无法充分利用。Brian Goetz建议，线程池大小与处理器的利用率之比可以使用下面的公式进行估算：

N-threads = N-CPU * U-CPU * (1 + W/C)

其中：

N-CPU是处理器的核的数目，可以通过Runtime.getRuntime().availableProcessors()得到

U-CPU是期望的CPU利用率（该值应该介于0和1之间）

W/C是等待时间与计算时间的比率