ab压力测试-突破最大线程数

2017-01-01 10:46

ab压力测试中,发现你一次最多只能启动1024个线程

  • 默认情况下,一个线程的栈要预留1M的内存空间
    而一个进程中可用的内存空间只有2G,所以理论上一个进程中最多可以开2048个线程

  • 但是内存当然不可能完全拿来作线程的栈,所以实际数目要比这个值要小。你也可以通过连接时修改默认栈大小,将其改的比较小,这样就可以多开一些线程。如将默认栈的大小改成512K,这样理论上最多就可以开4096个线程。即使物理内存再大,一个进程中可以起的线程总要受到2GB这个内存空间的限制。

  • 比方说你的机器装了64GB物理内存,但每个进程的内存空间还是4GB,其中用户态可用的还是2GB。

    • 内核态. CPU可以访问内存所有数据, 包括外围设备, 例如硬盘, 网卡. CPU也可以将自己从一个程序切换到另一个程序
    • 用户态:.只能受限的访问内存, 且不允许访问外围设备. 占用CPU的能力被剥夺, CPU资源可以被其他程序获取
  • 如果是同一台机器内的话,能起多少线程也是受内存限制的。每个线程对象都要站用非页面内存,而非页面内存也是有限的,当非页面内存被耗尽时,也就无法创建线程了。

  • 如果物理内存非常大,同一台机器内可以跑的线程数目的限制值会越来越大。在Windows下写个程序,一个进程Fork出2000个左右线程就会异常退出了,为什么?这个问题的产生是因为windows32位系统,一个进程所能使用的最大虚拟内存为2G,而一个线程的默认线程栈StackSize为1024K(1M),这样当线程数量逼近2000时,2000*1024K=2G(大约),内存资源就相当于耗尽

影响最大线程大小的因素

  • Java虚拟机本身

    • Xms 初始堆大小
    • Xmx 最大堆大小
    • Xss 每个线程的堆栈大小
  • 系统限制

    • /proc/sys/kernel/pid_max
    • /proc/sys/kernel/thread-max
    • max_user_process(ulimit -u)
    • /proc/sys/vm/max_map_count

其他突破线程问题

  • 多进程-启动多线程
  • 使用异步请求
    • 无论是使用多进程-多线程,还是异步请求,最主要的影响还是电脑本身的配置

下面是具体配置

Windows

httpd.exe -l 会看见 mpm_winnt.c windows默认执行 mpm_winnt_module方式 (暂未找到修改成其他方式的方法)

1.httpd.conf 文件去掉 Include conf/extra/httpd-mpm.conf 前面的#

2.修改extra/httpd-mpm.conf 最下面 或 查找 mpm_winnt_module 修改ThreadsPerChild 和 MaxRequestsPerChild

#每个子进程建立的线程数
    ThreadsPerChild      1 默认150

    #指令设置每个子进程在其生存期内允许伺服的最大请求数量。
    #到达MaxRequestsPerChild的限制后,子进程将会结束。
    #如果MaxRequestsPerChild为"0",子进程将永远不会结束。
    MaxRequestsPerChild    10  默认0

根据自己网站并发数量设置:
ThreadsPerChild 设置 网站平均在线人数
MaxRequestsPerChild 设置最高在线人数的值

Linux

ps -ef | grep httpd | wc -l 查看当前 httpd进程数

apachectl -l 会看见 prefork.c Linux默认执行 mpm_prefork_module

  1. httpd.conf 文件去掉 Include conf/extra/httpd-mpm.conf 前面的#

2.修改extra/httpd-mpm.conf 最上面 或 查找 mpm_prefork_module

StartServers          5 #默认启动线程数

    #指令设置空闲子进程的最小数量。
    #所谓空闲子进程是指没有正在处理请求的子进程。
    #如果当前空闲子进程数少于MinSpareServers ,
    #那么Apache将以最大每秒一个的速度产生新的子进程。
    #只有在非常繁忙机器上才需要调整这个参数。将此参数设的太大通常是一个坏主意。
    MinSpareServers       5 #

    #指令设置空闲子进程的最大数量。
    #所谓空闲子进程是指没有正在处理请求的子进程。
    #如果当前有超过MaxSpareServers数量的空闲子进程,
    #那么父进程将杀死多余的子进程。
    #只有在非常繁忙机器上才需要调整这个参数。
    #将此参数设的太大通常是一个坏主意。
    #如果你将该指令的值设置为比MinSpareServers小,
    #Apache将会自动将其修改成"MinSpareServers+1"。
    MaxSpareServers      10 #
    MaxClients          150 #apache可以同时处理的请求
    MaxRequestsPerChild   0  #如windows MaxRequestsPerChild

其他参考