日期:2014-05-16  浏览次数:21057 次

服务器群集:apache+tomcat+mysql 负载平衡和集群
(1) 采用负载平衡和集群技术,初步机构采用apache+tomcat的机群技术。
(2) 采用压力测试工具,测试压力。工具是loadrunner。
硬件环境搭建:
为了能够进行压力测试,需要搭建一个环境。刚开始时,测试在公司局域网内进行,但很快发现了一个问题,即一个脚本的压力测试结果每次都不一样,并且差别很大。原来是受公司网络的影响,于是决定搭建一个完全隔离的局域网测试。搭建后的局域网配置如下:
(1) 网络速度:100m
(2) 三台服务器:
负载服务器 :操作系统windows2003,
tomcat服务器:操作系统windows2000 professional
数据库服务器:操作系统windows2000 professional
三台机器的cpu 2.4 g, 内存 1g。
软件环境搭建:
软件的版本如下:
apache 版本:2.054,
tomcat5.0.30,
mysql :4.1.14.
jdk1.5
压力测试工具:loadrunner7.8。

负载平衡方案如下:
一台机器(操作系统2003)安装apache,作为负载服务器,并安装tomcat作为一个worker;一个单独安装tomcat,作为第二个worker;剩下的一台单独作为数据库服务器。
apache和tomcat的负载平衡采用jk1.2.14(没有采用2.0,主要是2.0不再维护了)。
集群方案:
采用tomcat本身的集群方案。在server.xml配置。
压力测试问题:
压力测试后,发现了一些问题,现一一列出来:
(1)采用tocmat集群后,速度变得很慢。因为集群后,要进行session复制,导致速度较慢。tomcatd的复制,目前不支持 application 复制。复制的作用,主要用来容错的,即一台机器有故障后,apache可以把请求自动转发到另外一个机器。在容错和速度的考虑上,我们最终选择速度,去掉了tomcat集群。
(2) 操作系统最大并发用户的限制:
为了采用网站的压力,我们开始的时候,仅测试tomcat的最大负载数。 tomcat服务器安装的操作系统是windows2000 professional。当我们用压力测试工具,并发测试时,发现只要超过15个并发用户,会经常出现无法连接服务器的情况。经过研究,发现是操作系统的问题:windows2000 professional 支持的并发访问用户有限,默认的好像是15个。于是我们把操作系统全部采用windows2003 server版本。
(3) 数据库连接池的问题:
测试数据库连接性能时,发现数据库连接速度很慢。每增加一些用户,连接性能就差了很多。我们采用的数据库连接池是dbcp,默认的初始化为50个,应该不会很慢吧。查询数据库的连接数,发现初始化,只初始化一个连接。并发增加一个用户时,程序就会重新创建一个连接,导致连接很慢。原因就在这里了。如何解决呢?偶尔在jdk1.4下的tomcat5.0.30下执行数据库连接压力测试,发现速度很快,程序创建数据库连接的速度也是很快的。看来jdk1.5的 jdbc驱动程序有问题。于是我们修改 jdk的版本为1.4.

(4) c3p0和dbcp
c3p0是hibernate3.0默认的自带数据库连接池,dbcp是apache开发的数据库连接池。我们对这两种连接池进行压力测试对比,发现在并发300个用户以下时,dbcp比c3p0平均时间快1秒左右。但在并发400个用户时,两者差不多。

速度上虽然dbcp比c3p0快些,但是有bug:当dbcp建立的数据库连接,因为某种原因断掉后,dbcp将不会再重新创建新的连接,导致必须重新启动tomcat才能解决问题。dbcp的bug使我们决定采用c3p0作为数据库连接池。
调整后的方案:
操作系统windows2003 server版本
jdk1.4
tomcat 5.0.30
数据库连接池c3p0
仅采用负载平衡,不采用集群。
软件的配置:
apache配置:主要配置httpd.conf和新增加的文件workers.properties
httpd.conf:
#一个连接的最大请求数量
maxkeepaliverequests 10000
#nt环境,只能配置这个参数来提供性能
<ifmodule mpm_winnt.c>
#每个进程的线程数,最大1920。nt只启动父子两个进程,不能设置启动多个进程
threadsperchild 1900
每个子进程能够处理的最大请求数
maxrequestsperchild 10000
</ifmodule>

# 加载mod_jk
#
loadmodule jk_module modules/mod_jk.so
#
# 配置mod_jk
#
jkworkersfile conf/workers.properties
jklogfile logs/mod_jk.log
jkloglevel info
#请求分发,对jsp文件,.do等动态请求交由tomcat处理
documentroot "c:/apache/htdocs"
jkmount /*.jsp loadbalancer
jkmount /*.do loadbalancer
jkmount /servlet/* loadbalancer
#关掉主机lookup,如果为on,很影响性能,可以有10多秒钟的延迟。
hostnamelookups off
#缓存配置
loadmodule cache_module modules/mod_cache.so
loadmodule disk_cache_module modules/mod_disk_cache.so
loadmodule mem_cache_module modules/mod_mem_cache.so

<ifmodule mod_cache.c>
cacheforcecompletion 100
cachedefaultexpire 3600
cachemaxexpire 86400
cachelastmodifiedfactor 0.1

<ifmodule mod_disk_cache.c>
cacheenable disk /
cacheroot c:/cacheroot
cachesize 327680
cachedirlength 4
cachedirlevels 5
cachegcinterval 4
</ifmodule>
<ifmodule mod_mem_cache.c>
cacheenable mem /
mcachesize 8192
mcachemaxobjectcount 10000
mcacheminobjectsize 1
mcachemaxobjectsize 51200
</ifmodule>
</ifmodule>
worker. properties文件
#
# workers.properties ,可以参考
http://jakarta.apache.org/tomcat ... config/workers.html
# in unix, we use forward slashes:
ps=

# list the workers by name

worker.list=tomcat1, tomcat2, loadbalancer

# ------------------------
# first tomcat server
# ------------------------
worker.tomcat1.port=8009
worker.tomcat1.host=localhost
worker.tomcat1.type=ajp13

# specify the size of the open connection cache.
#worker.tomcat1.cachesize