KeepAliveTimeOut理解
在APACHE的httpd.conf中,KeepAlive指的是保持连接活跃,类似于Mysql的永久连接。换一句话说,如果将KeepAlive设置为On,那么来自同一客户端的请求就不需要再一次连接,避免每次请求都要新建一个连接而加重服务器的负担。
KeepAlive的连接活跃时间当然是受KeepAliveTimeOut限制的。如果第二次请求和第一次请求之间超过KeepAliveTimeOut的时间的话,第一次连接就会中断,再新建第二个连接。所以,一般情况下,图片较多的网站应该把KeepAlive设为On。但是KeepAliveTimeOut应该设置为多少秒就是一个值得讨论的问题了。
如果KeepAliveTimeOut设置的时间过短,例如设置为1秒,那么APACHE就会频繁的建立新连接,当然会耗费不少的资源;反过来,如果KeepAliveTimeOut设置的时间过长,例如设置为300秒,那么 APACHE中肯定有很多无用的连接会占用服务器的资源,也不是一件好事。
所以,到底要把KeepAliveTimeOut设置为多少,要看网站的流量、服务器的配置而定。其实,这和MySql的机制有点相似,KeepAlive相当于mysql_connect或mysql_pconnect,KeepAliveTimeOut相当于wait_timeout。
worker模式参数详解
修改:
<IfModule mpm_worker_module>
StartServers 2
MaxClients 150
MinSpareThreads 25
MaxSpareThreads 75
ThreadsPerChild 25
MaxRequestsPerChild 0
</IfModule>
为:
<IfModule mpm_worker_module>
# 配置都采用默认值,可以去掉
ServerLimit 16
ThreadLimit 64
StartServers 3
MinSpareThreads 25
MaxSpareThreads 250
# 应用特殊配置值
MaxClients 1024
ThreadsPerChild 64
</IfModule>
说明:
ServerLimit 16
# ServerLimit 和 ThreadLimit 需要配置其它 worker 指令前面
# default 16
ThreadLimit 64
# 每个子进程可配置的线程数上限, ThreadsPerChild的配值不能超过ThreadLimit,否则启动报警告并自动调整ThreadPerChild
# default 64
StartServers 3
# 服务器启动时建立的子进程数(Deven:与prefork模式一样,就是启动的子进程数)
# default 3
MinSpareThreads 25
# worker的默认值是"75"。这个MPM将基于整个服务器监视空闲线程数。如果服务器中总的空闲线程数太少,子进程将产生新的空闲线程。
# default 75
MaxSpareThreads 250
# Apache将按照"其大于等于MinSpareThreads加上ThreadsPerChild的和"自动修正你设置的值
# 75<64+25,所以MaxSpareThreads被重新设置为64+25=89
# default 250
MaxClients 1024
# MaxClients指令设置了允许同时伺服的最大接入请求数量
# 对于混合型的MPM默认值是16(ServerLimit)乘以64(ThreadsPerChild)的结果=1024,(Deven:而prefork模式中MaxClients=1204则说明最大能够有1024个apache子进程ps -ef|grep http|wc-l<=1024)
ThreadsPerChild 64
# 每个子进程建立的线程数,要设在超过64,需求相应配置ThreadLimit
# default 25
关系总结:
MaxClient <= ThreadsPerChild *ServerLimit (能被 ThreadsPerChild 整除)
ThreadsPerChild ≯ThreadLimit
引用:
apache worker配置
===========================================================
# 服务器在断定请求失败前等待的秒数
# TimeOut指令用于设置Apache等待以下三种事件的时间长度:
# 1. 接受一个GET请求耗费的总时间。
# 2. POST或PUT请求时,接受两个TCP包之间的时间。
# 3. 应答时TCP包传输中两个ACK包之间的时间。
# default 300
Timeout 15
KeepAlive On
# 一个持久链接中允许的最大请求数量
# default 100
MaxKeepAliveRequests 200
# 持久链接中服务器在两次请求之间等待的秒数
# Apache在关闭持久连接前等待下一个请求的秒数。一旦收到一个请求,超时值将会被设置为Timeout指令指定的秒数。
# default 5
KeepAliveTimeout 10
# 每个子进程在其生存期内允许伺服的最大请求数量,到达MaxRequestsPerChild的限制后,子进程将会结束
# 对于KeepAlive链接,只有第一个请求会被计数。事实上,它改变了每个子进程限制最大链接数量的行为。
MaxRequestsPerChild 20000
<IfModule worker.c>
# ServerLimit & ThreadLimit 需要配置其它worker指令前面
# default 16
ServerLimit 16
# 每个子进程可配置的线程数上限, ThreadsPerChild的配值不能超过ThreadLimit,否则启动报警告并自动调整ThreadPerChild
# default 64
ThreadLimit 64
# 服务器启动时建立的子进程数, 子进程在启动时建立这些线程后就不再建立新的线程了
# default 3
StartServers 5
# MaxClients指令设置了允许同时伺服的最大接入请求数量
# 对于混合型的MPM默认值是16(ServerLimit)乘以64(ThreadsPerChild)的结果
MaxClients 1024
# worker的默认值是"75"。这个MPM将基于整个服务器监视空闲线程数。如果服务器中总的空闲线程数太少,子进程将产生新的空闲线程。
# default 75
MinSpareThreads 25
# Apache将按照"其大于等于MinSpareThreads加上ThreadsPerChild的和"自动修正你设置的值
# 75<64+25,所以MaxSpareThreads被重新设置为64+25=89
# default 250
MaxSpareThreads 75
# 每个子进程建立的线程数,要设在超过64,需求相应配置ThreadLimit
# default 25
ThreadsPerChild 64
</IfModule>
ThreadLimit实际是用来限制 ThreadsPerChild的取值,即 ThreadsPerChild必须不能大于 ThreadLimit。ThreadLimit的默认值是64,所以如果你的ThreadsPerChild=128,启动apache就给你一个“WARNING: ThreadsPerChild of 128 exceeds ThreadLimit value of 64 threads, lowering ThreadsPerChild to 64. To increase, please see the ThreadLimit directive.“ ,自动把 ThreadsPerChild降级为64。如果你非要 ThreadsPerChild=128,必须添加 ThreadLimit=N(N大于等于128),ThreadLimit还必须配在其他指令前面,否则无效。
另外MaxClient的值必须<= ThreadsPerChild *ServerLimit,且能被 ThreadsPerChild 整除,默认值是 ThreadsPerChild *ServerLimit ( ThreadsPerChild 表示实际使用值,可能被 lowering了 )
MPM混合模式下,每个子进程根据实际ThreadsPerChild值一次性创建好所有线程,且在子进程活动期间不会再创建或销毁线程,线程要么工作要么空闲。 如果线程数不够,apache创建一个子进程批量增加可用线程。
上面配置MaxSpareThreads=75是有问题的,因为MinSpareThreads=25, ThreadsPerChild=64,当一个进程下的 64线程中,有超过ThreadsPerChild-MinSpareThreads=64-25=39已经投入工作,此时空闲线程数小于 MinSpareThreads,是必要创建更多的空闲线程以保持空闲线程在[MinSpareThreads, MaxSpareThreads]范围内。新进程会创建ThreadsPerChild个线程 。 那么此时就有 MinSpareThreads+ThreadsPerChild = 25+64 = 89 个空闲线程,如果MaxSpareThreads < 89,就需要销毁空闲线程,刚创建又销毁显然是不合理的。 所以apache启动时会把MaxSpareThreads调整为>= MinSpareThreads+ThreadsPerChild的值 。
另外StartServers被设置为5,启动初始创建6个进程,1个主进程(控制进程)和5个子进程,每个子进程初始化64个线程,5*64=320空闲线程,大于MaxSpareThreads(89),所以有4个子进程很快被杀掉,只留下一个子进程共64线程介于[MinSpareThreads, MaxSpareThreads]范围内。
如果把配置文档改为:
Java代码
- <IfModule worker.c>
- # 配置都采用默认值,可以去掉
- ServerLimit 16
- ThreadLimit 64
- StartServers 3
- MinSpareThreads 25
- MaxSpareThreads 250
- # 应用特殊配置值
- MaxClients 1024
- ThreadsPerChild 64
- </IfModule>
prefork模式参数详解
prefork模式下(其他模式下不适用),apache需要优化的主要参数:
ServerLimit 3000 StartServers 750 MinSpareServers 5 MaxSpareServers 100 MaxClients 3000 MaxRequestsPerChild 10000 首先来看看apache各个参数的意义(引号里引用的是官方文档的描述):(1)ServerLimit和MaxClients 服务器最大同时响应请求数
这个就是你当前配置的apache最大的并发响应数,对应的是apache的进程数,两个参数同时修改,MaxClients不得大于ServerLimit参数。 ServerLimit的大小,取决于你系统的资源,每个apache进程默认占用2M内存,基本可以按照这个公式来计算:最大内存*80%/2M=ServerLimit(2)StartServers 750 启动时默认启动的进程数
这个参数默认是5,因为apache会通过自动启动新进程来增加响应服务的进程数,这个值不做调整的也是可以的,会由默认的5增加到满足服务的进程数,但是会出现开始启动时的卡住。 小启动参数有一个好处:就是可以让传递后后端tomcat的压力缓慢增加上来,而不是一下子增加压力。可以把这个调整到当前服务最大的并发数,当前服务最大 并发连接数,可以通过监控apache进程个数:ps -ef | grep httpd | wc -l 来获得。不用调得太大,否则是无谓增加apache通过jk去跟tomcat建立的连接。 注意:apache进程跟tomcat建立连接后,不会释放此连接,会一直保持连接,直到timeout,如果没有timeout时间,就会永久连接。timeout的设置,会在后面jk配置里说明。 所以不要一次启动太多的apache进程,只启动足够用的进程即可。其他增加的流量,apache会自动调整进程数,直到MaxClients参数限定的范围。(3)MinSpareServers 5 最小空闲进程
MinSpareServers指令设置空闲子进程的最小数量。所谓空闲子进程是指没有正在处理请求的子进程。如果当前空闲子进程数少于MinSpareServers ,那么Apache将以第一秒一个,第二秒两个,第三秒四个,按指数递增个数的速度产生新的子进程。(4)MaxSpareServers 10 最大空闲进程
MaxSpareServers指令设置空闲子进程的最大数量。所谓空闲子进程是指没有正在处理请求的子进程。如果当前有超过MaxSpareServers数量的空闲子进程,那么父进程将杀死多余的子进程。 可以调整这两个参数,但是这两个参数的值不能设得太大,否则apache进程太多,会导致对应开启的tomcat进程也会很多。 官网上关于这两个参数都有这么句话:“将此参数设的太大通常是一个坏主意。” 在一台压力大(并发访问2800)的服务器上,MaxSpareServers这个值设置的是200。 设置了这个值的好处是不会有太多的空闲的进程在消耗资源,同时减少apache和tomcat的连接端口。 关闭空闲apache进程的同时,会释放jk连接,同时释放tomcat连接数,进而减少系统资源消耗。(5)MaxRequestsPerChild 10000
"MaxRequestsPerChild指令设置每个子进程在其生存期内允许伺服的最大请求数量。到达MaxRequestsPerChild的限制后,子进程将会结束。如果MaxRequestsPerChild为"0",子进程将永远不会结束。 将MaxRequestsPerChild设置成非零值有两个好处: * 可以防止(偶然的)内存泄漏无限进行,从而耗尽内存。 * 给进程一个有限寿命,从而有助于当服务器负载减轻的时候减少活动进程的数量。 注意:对于KeepAlive链接,只有第一个请求会被计数。事实上,它改变了每个子进程限制最大链接数量的行为。" 也就是说实际上这个时候子进程最大连接数等于MaxRequestsPerChild*MaxKeepAliveRequests 所以在开启KeepAlive后,需要同时设置MaxRequestsPerChild和MaxKeepAliveRequests ,确保每个apache进程在服务一定请求数后会关闭,重新开启新的子进程,避免apache进程异常导致的内存泄露和资源占用。(6)Keep-Alive
默认:ON 发送的请求,在MaxRequestsPerChild里面只算一个,不管这个连接发送了多少个请求。(7)MaxKeepAliveRequests
默认:100 "一个建立好的Keep-Alive连接,允许发送的请求的个数。一旦建立连接,要么就是个数达到了断开,要么就是等KeepAliveTimeout时间到了断开连接。 MaxKeepAliveRequests指令限制了当启用KeepAlive时,每个连接允许的请求数量。如果将此值设为"0",将不限制请求的数目。我们建议最好将此值设为一个比较大的值,以确保最优的服务器性能。" 这个数字的设置,必须考虑在一个时间段内,同一个用户访问你的服务会发多少请求。要结合KeepAliveTimeout参数来考虑。 举个例子,用户需要间隔时间不大于KeepAliveTimeout的时间内,连续请求10个文件,那么这个参数就应该设置成10,如果用户在连续时间里不 断请求访问,则这个数值得设置得更多。否则就重新建立连接下载。一旦用户连续进行了10个请求后,并且这个用户肯定在完成这些请求后的5秒内不会再请求, 甚至要在之后的很长时间后请求,那么这个KeepAliveTimeout时间就可以设置得很短,以便尽早断开这种用户,把资源让个其他用户。(8)KeepAliveTimeout
默认:5 "在一个建立好的Keep-Alive连接上,在MaxKeepAliveRequests个数未满的情况下,等待下一个请求的时间。" 如果有请求到达,那么apache等待IO响应的timeout时间时间开始生效,timeout时间没等到响应,连接被断开;如果KeepAliveTimeout时间内,没有请求到达,连接就被断开。 具体设置可以参考配合MaxKeepAliveRequests参数。同时这个参数又受TimeOut参数影响,在一次成功连接中,TimeOut时间内没有等到响应,也会断开连接。(9)TimeOut
默认:300 "TimeOut指令用于设置Apache等待以下三种事件的时间长度: 1. 接受一个GET请求耗费的总时间。 2. POST或PUT请求时,接受两个TCP包之间的时间。 3. 应答时TCP包传输中两个ACK包之间的时间。 我们计划在发展里程中,逐步把它们分别变得更易配置。计时器在1.2版本之前的默认值为1200,而现在已经设置为300了,但对于绝大多数情况来说仍是足够的。没有把它默认值设的更小的原因在于代码里还有点问题:有时发送一个包之后,计时器没有复位。KeepAliveTimeout 与TimeOut区别可以参考官方网站:
http://man.chinaunix.net/newsoft/ApacheManual/mod/core.html
Apache 中 KeepAlive 配置的合理使用
在 Apache 服务器中,KeepAlive 是一个布尔值,On 代表打开,Off 代表关闭,这个指令在其他众多的 HTTPD 服务器中都是存在的。
KeepAlive 配置指令决定当处理完用户发起的 HTTP 请求后是否立即关闭 TCP 连接,如果 KeepAlive 设置为On,那么用户完成一次访问后,不会立即断开连接,如果还有请求,那么会继续在这一次 TCP 连接中完成,而不用重复建立新的 TCP 连接和关闭TCP 连接,可以提高用户访问速度。 那么我们考虑3种情况: 1。用户浏览一个网页时,除了网页本身外,还引用了多个 javascript 文件,多个 css 文件,多个图片文件,并且这些文件都在同一个 HTTP 服务器上。 2。用户浏览一个网页时,除了网页本身外,还引用一个 javascript 文件,一个图片文件。 3。用户浏览的是一个动态网页,由程序即时生成内容,并且不引用其他内容。 对于上面3中情况,我认为:1 最适合打开 KeepAlive ,2 随意,3 最适合关闭 KeepAlive 下面我来分析一下原因。 在 Apache 中,打开和关闭 KeepAlive 功能,服务器端会有什么异同呢? 先看看理论分析。 打开 KeepAlive 后,意味着每次用户完成全部访问后,都要保持一定时间后才关闭会关闭 TCP 连接,那么在关闭连接之前,必然会有一个Apache 进程对应于该用户而不能处理其他用户,假设 KeepAlive 的超时时间为 10 秒种,服务器每秒处理 50个独立用户访问,那么系统中 Apache 的总进程数就是 10 * 50 = 500 个,如果一个进程占用 4M 内存,那么总共会消耗 2G内存,所以可以看出,在这种配置中,相当消耗内存,但好处是系统只处理了 50次 TCP 的握手和关闭操作。 如果关闭 KeepAlive,如果还是每秒50个用户访问,如果用户每次连续的请求数为3个,那么 Apache 的总进程数就是 50 * 3= 150 个,如果还是每个进程占用 4M 内存,那么总的内存消耗为 600M,这种配置能节省大量内存,但是,系统处理了 150 次 TCP的握手和关闭的操作,因此又会多消耗一些 CPU 资源。 在看看实践的观察。 我在一组大量处理动态网页内 容的服务器中,起初打开 KeepAlive功能,经常观察到用户访问量大时Apache进程数也非常多,系统频繁使用交换内存,系统不稳定,有时负载会出现较大波动。关闭了 KeepAlive功能后,看到明显的变化是: Apache 的进程数减少了,空闲内存增加了,用于文件系统Cache的内存也增加了,CPU的开销增加了,但是服务更稳定了,系统负载也比较稳定,很少有负载大范围 波动的情况,负载有一定程度的降低;变化不明显的是:访问量较少的时候,系统平均负载没有明显变化。 总结一下: 在内存非常充足的服务器上,不管是否关闭 KeepAlive 功能,服务器性能不会有明显变化; 如果服务器内存较少,或者服务器有非常大量的文件系统访问时,或者主要处理动态网页服务,关闭 KeepAlive 后可以节省很多内存,而节省出来的内存用于文件系统Cache,可以提高文件系统访问的性能,并且系统会更加稳定。补充1: 关于是否应该关闭 KeepAlive 选项,我觉得可以基于下面的一个公式来判断。 在理想的网络连接状况下,系统的 Apache 进程数和内存使用可以用如下公式表达: HttpdProcessNumber = KeepAliveTimeout * TotalRequestPerSecond / Average(KeepAliveRequests) HttpdUsedMemory = HttpdProcessNumber * MemoryPerHttpdProcess参考:http://hi.baidu.com/marsjin/blog/item/fd31845143990b3f42a75b99.html
http://www.phpv.net/html/1570.html