Tomcat并发性能调优问题
电话系统，数据量和访问量都比较大。
系统后台由一个C服务程序记录电话记录，前台使用JAVA提供WEB查询与统计电话记录功能。
核心数据表每天产生大约4万条记录，会使用此系统的大概有3000多企业员工，上班时间目前大约有600人左右在线，在高峰时段并发请求数在40-50左右。（日后系统在企业内进一步推广后同时在线人数和并发数会更高）系统运行到现在4个多月，主表已经有300多万记录了。
现在系统的并发数超过45个的时候，就很容易出现503错误，不能响应请求。
因为这是个实时电话记录查询的系统，所以不能对记录主表做缓存。每个查询页面都已经把HIBERNATE生成的SQL语句控制在两句之内，而且没有JOIN，查询条件的约束字段部分有索引（不能全部条件都加索引，因查询复杂，怕索引太多导致插入性能降低，及数据库索引消耗太多的资源）。经过测试，生成的SQL在压力低估的时候查询时间都不超过1秒。WEB系统从收到请求到返回最终结果页面大约是1秒多点。
WEB系统的并发性能上不去，目前可以排除WEB服务器硬件的因素。系统配置如下：
WEB单独一台服务器，4颗双核至强2.4G，4G内存，
WIN2003，JDK15，TOMCAT5.5.20
数据库单独一台服务器，4颗双核至强2.4G，4G内存，
WIN2003，SQLSERVER2005
（硬件是豪华配置。用户指定使用WIN2003、SQLSERVER2005，所以....）
TOMCAT分配内存初始是1G，最大1.5G。（其实在46个并发程序无响应的时候，JVM内存也才使用了200M内存）
TOMCAT的CONNECTOR的线程参数配置： maxThreads="1000" minSpareThreads="25" maxSpareThreads="75"
程序无响应时，Current busy thread:46。应用程序的LOG也没有记录到什么异常。TOMCAT也并没有死，他的MANAGER还能正常访问，速度还很快。
数据库连接池最大连接数是20个，不知道合适否。
现在我打算下一步将所有查询数据库SQL的耗时都在LOG记录下来，看是否数据库在高并发的情况下性能大幅下降，导致阻塞了WEB请求。
请各位帮忙分析一下，有什么优化的办法。
曾经听说TOMCAT的并发性能不太好，有个专业测试公司的测试人员说，在有业务逻辑查询数据库的系统里，他见过TOMCAT最高只能达到70个并发。是否真是这样？再高的并发量就只能跑多实例或多机集群了吗？
zjg035673 2008-5-3 20:47
数据库连接池最大连接数是20个，不知道合适否
------
这个可能太小了，我一般设置为 100-150，按数据库(oracle)的实际并发数。
TOMCAT本身处理http请求并发数（指短连接，小数据量，如静态html页面）还是算不错的，如果是静态较大文件，如文件下载，并发量虽然会下来很多，但也不算太差，即使加上APR也只能减少线程数和降低cpu占用，不过这个说明不了什么问题，Web服务器都这样。
说到底，在同等配置下，Web服务器的并发量其实取决于请求的平均处理时间。
kalven 2008-5-5 11:08
求教1
您好!我的系统最近也出现了类似问题,它的高峰同时在线人数大约在300人左右,网络通道是通的,但是在广域网访问的时候,会出现登录不正常,或者连不上登录界面,或者登录后菜单树无法显示(这个问题可以通过连续刷新页面来解决),局域网无任何问题,CPU 和内存占用都不高,以下是关于并发访问的控制:
<Connector port="80" protocol="HTTP/1.1" maxThreads="1200" minSpareThreads="75" maxSpareThreads="750" acceptCount="750"
connectionTimeout="20000"
redirectPort="8443" URIEncoding="GBK"/>
我现在用的WEB服务器是双核,2G内存,2003,以前在HP服务器上用unix 系统带的时候没有这种问题出现
请您帮我分析一下,非常感谢
电话系统，数据量和访问量都比较大。
系统后台由一个C服务程序记录电话记录，前台使用JAVA提供WEB查询与统计电话记录功能。
核心数据表每天产生大约4万条记录，会使用此系统的大概有3000多企业员工，上班时间目前大约有600人左右在线，在高峰时段并发请求数在40-50左右。（日后系统在企业内进一步推广后同时在线人数和并发数会更高）系统运行到现在4个多月，主表已经有300多万记录了。
现在系统的并发数超过45个的时候，就很容易出现503错误，不能响应请求。
因为这是个实时电话记录查询的系统，所以不能对记录主表做缓存。每个查询页面都已经把HIBERNATE生成的SQL语句控制在两句之内，而且没有JOIN，查询条件的约束字段部分有索引（不能全部条件都加索引，因查询复杂，怕索引太多导致插入性能降低，及数据库索引消耗太多的资源）。经过测试，生成的SQL在压力低估的时候查询时间都不超过1秒。WEB系统从收到请求到返回最终结果页面大约是1秒多点。
WEB系统的并发性能上不去，目前可以排除WEB服务器硬件的因素。系统配置如下：
WEB单独一台服务器，4颗双核至强2.4G，4G内存，
WIN2003，JDK15，TOMCAT5.5.20
数据库单独一台服务器，4颗双核至强2.4G，4G内存，
WIN2003，SQLSERVER2005
（硬件是豪华配置。用户指定使用WIN2003、SQLSERVER2005，所以....）
TOMCAT分配内存初始是1G，最大1.5G。（其实在46个并发程序无响应的时候，JVM内存也才使用了200M内存）
TOMCAT的CONNECTOR的线程参数配置： maxThreads="1000" minSpareThreads="25" maxSpareThreads="75"
程序无响应时，Current busy thread:46。应用程序的LOG也没有记录到什么异常。TOMCAT也并没有死，他的MANAGER还能正常访问，速度还很快。
数据库连接池最大连接数是20个，不知道合适否。
现在我打算下一步将所有查询数据库SQL的耗时都在LOG记录下来，看是否数据库在高并发的情况下性能大幅下降，导致阻塞了WEB请求。
请各位帮忙分析一下，有什么优化的办法。
曾经听说TOMCAT的并发性能不太好，有个专业测试公司的测试人员说，在有业务逻辑查询数据库的系统里，他见过TOMCAT最高只能达到70个并发。是否真是这样？再高的并发量就只能跑多实例或多机集群了吗？
zjg035673 2008-5-3 20:47
数据库连接池最大连接数是20个，不知道合适否
------
这个可能太小了，我一般设置为 100-150，按数据库(oracle)的实际并发数。
TOMCAT本身处理http请求并发数（指短连接，小数据量，如静态html页面）还是算不错的，如果是静态较大文件，如文件下载，并发量虽然会下来很多，但也不算太差，即使加上APR也只能减少线程数和降低cpu占用，不过这个说明不了什么问题，Web服务器都这样。
说到底，在同等配置下，Web服务器的并发量其实取决于请求的平均处理时间。
kalven 2008-5-5 11:08
求教1
您好!我的系统最近也出现了类似问题,它的高峰同时在线人数大约在300人左右,网络通道是通的,但是在广域网访问的时候,会出现登录不正常,或者连不上登录界面,或者登录后菜单树无法显示(这个问题可以通过连续刷新页面来解决),局域网无任何问题,CPU 和内存占用都不高,以下是关于并发访问的控制:
<Connector port="80" protocol="HTTP/1.1" maxThreads="1200" minSpareThreads="75" maxSpareThreads="750" acceptCount="750"
connectionTimeout="20000"
redirectPort="8443" URIEncoding="GBK"/>
我现在用的WEB服务器是双核,2G内存,2003,以前在HP服务器上用unix 系统带的时候没有这种问题出现
请您帮我分析一下,非常感谢