k8s容器部署服务，设置tomcat和undertow的线程数-CFANZ编程社区

1、Undertow和Tomcat对比

在SpringBoot框架中，我们使用最多的是Tomcat，这是SpringBoot默认的容器技术，而且是内嵌式的Tomcat。

同时，SpringBoot也支持Undertow容器，可以很方便的用Undertow替换Tomcat，而Undertow的性能和内存使用方面都优于Tomcat

具体优劣势详见文章：https://www.yisu.com/zixun/537090.html

2、设置tomcat线程数

pom依赖

 <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
        <exclusions>
            <exclusion>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-starter-tomcat</artifactId>
            </exclusion>
        </exclusions>
    </dependency>
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-undertow</artifactId>
    </dependency>

先看一下常见的tomcat线程数的配置：
1、Tomcat默认线程数200
2、修改server.xml文件，增加maxThreads、minSpareThreads、maxSpareThreads、acceptCount

maxThreads=“1000” #最大并发数
minSpareThreads=“100” #初始化时创建的线程数
maxSpareThreads=“500” #一旦创建的线程超过这个值，Tomcat就会关闭不再需要的socket线程。
acceptCount=“700” # 指定当所有可以使用的处理请求的线程数都被使用时，可以放到处理队列中的请求数，超过这个数的请求将不予处理

k8s容器部署下设置tomcat的线程数，栗子：

-Dserver.tomcat.accept-count=800
-Dserver.tomcat.max-threads=400
-Dserver.tomcat.min-spare-threads=100

注意：线程数的增加会增加Tomcat内存使用，每个线程都会占用一定的jvm内存。

3、设置undertow线程数

pom依赖

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-undertow</artifactId>
</dependency>

我们先了解一下常见的undertow在容器内部署的配置

# 设置IO线程数, 它主要执行非阻塞的任务,它们会负责多个连接, 默认设置每个CPU核心一个线程；
server.undertow.io-threads=8
 # 阻塞任务线程池, 当执行类似servlet请求阻塞IO操作, undertow会从这个线程池中取得线程，默认值是IO线程数*8；
server.undertow.worker-threads=64
 # 以下的配置会影响buffer,这些buffer会用于服务器连接的IO操作,有点类似netty的池化内存管理；
server.undertow.buffer-size=1024
# 每个区分配的buffer数量 , 所以pool的大小是buffer-size * buffers-per-region
server.undertow.buffers-per-region=1024
# 是否分配的直接内存(NIO直接分配的堆外内存)
server.undertow.direct-buffers=true

所以在k8s部署服务时，我们可以在deployment中设置undertow的线程数，栗子：

-Dserver.undertow.io-threads=16 
-Dserver.undertow.worker-threads=128

需要注意一下，k8s部署服务时同样会分配CPU和内存，如果分配给服务的是2C的CPU，那这里的启动线程数为：2 * 16，线程池的线程数为：2 * 128。