首页 > 编程语言 > springboot tomcat最大线程数与最大连接数解析
2021
08-08

springboot tomcat最大线程数与最大连接数解析

springboot tomcat最大线程数与最大连接数

首先看看springboot内置的tomcat,该如何配置这两个参数

# 在配置文件中添加如下内容
# tomcat最大线程数,默认为200
server.tomcat.max-threads=200
# tomcat最大连接数,默认为10000(网上的说法)
server.tomcat.max-connections=300

如何理解上面两个参数

为了方便理解,我这里使用了springboot编写了一个简单了的服务,包含一个模拟登录的接口,并使用jmeter进行测试,不了解jmeter如何使用的朋友可以翻看我的历史文章。部分代码如下

// java 代码
@RestController
@RequestMapping("/user")
public class UserController {
    @Autowired
    private UsersRepository usersRepository;

    @PostMapping("/login")
    public String login(Users user) throws InterruptedException {
        // 这里将线程挂起3秒,方便观察结果
        Thread.sleep(3000);
        Users checkUser = usersRepository.findByName(user.getName());
        if(checkUser == null)
            return "用户不存在";
        if(!checkUser.getPassword().equals(user.getPassword()))
            return "密码错误";
        System.out.println("用户:" + checkUser.getName() + ",登录成功");
        return "登录成功";
    }
}

接下来,设置jmeter中的线程数,分别测试以下场景返回的结果

注意:我在java代码中添加将线程挂起3秒的语句,实际的响应时间应该减去3秒

场景1:并发请求数 <= tomcat最大线程数200

设置jmeter并发请求数量为200

结果统计

结论:可以看到200个请求,平均响应时间为(3156-3000)=156ms,最小响应时间为23ms,最大响应时间为336ms,响应结果正常。

场景2:并发数 >tomcat最大线程数200,以下我将jmeter线程数设置为201,再来看看结果

看了下,平均值,最小值好像没什么异常,但是最大值却去到了5606毫秒,接近6S的时间。为什么会有个接近6S的最大值,原因很简单,因为tomcat最大的线程数为200,201的并发请求量,超出了并发处理的数量200,多出来的1个请求,需要等待某个处理中的请求处理完成。

这里我翻看了jmeter中大部分的http请求,验证了我的想法。大部分的http请求,响应时间都是3000多毫秒,只有最后一个响应的请求,响应的时间为5606毫秒,截图如下

场景3:请求数超过最大连接数300,这里将jmeter并发线程数设置为600

异常数量由原本的百分之0变成37.45%

可以看到有大量的没有正常响应的http请求,原因很简单,因为超过了tomcat设置的最大连接数,服务器拒绝了该次请求的连接

SpringBoot中修改tomcat最大连接数、最大线程数、最大等待数

1)maxThreads(最大线程数)

每一次HTTP请求到达Web服务器,Web服务器都会创建一个线程来处理该请求,该参数决定了应用服务同时可以处理多少个HTTP请求,tomcat默认为200;

2)accepCount(最大等待数)

当调用Web服务的HTTP请求数达到tomcat的最大线程数时,还有新的HTTP请求到来,这时tomcat会将该请求放在等待队列中,这个acceptCount就是指能够接受的最大等待数,默认100.如果等待队列也被放满了,这个时候再来新的请求就会被tomcat拒绝(connection refused);

3)maxConnections(最大连接数)

这个参数是指在同一时间,tomcat能够接受的最大连接数。一般这个值要大于maxThreads+acceptCount。

根据公司用户量及机器配置信息,公司的最大连接数、最大线程数和最大等待数优化为:

   #最大连接数
   server.tomcat.max-connections=2000
   #最大线程数
   server.tomcat.max-threads=1000
   #最大等待数
   server.tomcat.accept-count=800

以上为个人经验,希望能给大家一个参考,也希望大家多多支持自学编程网。

编程技巧