登录 注册

tomcat 的优化

本贴最后更新于 2946 天前，其中的信息可能已经沧海桑田

1 概述
本文档主要介绍了 Tomcat 的性能调优的原理和方法。可作为公司技术人员为客户 Tomcat 系统调优的技术指南，也可以提供给客户的技术人员作为他们性能调优的指导手册。

2 调优分类
由于 Tomcat 的运行依赖于 JVM，从虚拟机的角度我们把 Tomcat 的调整分为外部环境调优和自身调优两类来描述。
2.1 外部环境调优

调整 Tomcat 运行环境的操作系统参数和运行 Tomcat 的 java 虚拟机参数。
2.1.1 JAVA 虚拟机性能优化

    Tomcat需要依赖Java虚拟机运行。根据客户选用的主机的操作系统选择对应的 JDK的版本。无论哪个厂商的JDK，都建议使用最新的版本。 
    虚拟机可通过命令行的方式改变虚拟机使用内存的大小。如下表所示有两个参数用来设置虚拟机使用内存的大小。 
    参数                               描述 
    -Xms                JVM初始化堆的大小 
    -Xmx                JVM堆的最大值 
    Tomcat默认可以使用的内存为128MB，在较大型的应用项目中，这点内存是不够的，需要调大。 
​

　　[LD1] Windows 下，在文件 tomcat_home/bin/catalina.bat，Unix 下，在文件 tomcat_home/bin/catalina.sh 的前面，增加如下设置：
　　JAVA_OPTS=‘-Xms【初始化内存大小】 -Xmx【可以使用的最大内存】’'
需要把这个两个参数值调大。例如：

  1. JAVA_OPTS='-Xms256m -Xmx512m'

表示初始化内存为 256MB，可以使用的最大内存为 512MB。
另外需要考虑的是 Java 提供的垃圾回收机制。虚拟机的堆大小决定了虚拟机花费在收集垃圾上的时间和频度。收集垃圾可以接受的速度与应用有关，应该通过分析实际的垃圾收集的时间和频率来调整。
如果堆的空间很大，那么完全垃圾收集（FULL GC）就会很慢，但是频度会降低。如果在客户系统中把堆的大小和内存的需要一致，完全收集就很快，但是会更加频繁。调整堆大小的的目的是最小化垃圾收集的时间，以在特定的时间内最大化处理客户的请求。对于 SUN 和 HP 等虚拟机，推荐将最小堆大小和最大堆大小设置为同一值，因为这样可以避免浪费用于时常调整堆大小所需的 VM 资源。
当然，客户系统如果用到 IBM 虚拟机，要特别的注意设置-Xms 和-Xmx 一样大小会耽误垃圾回收的开始直到堆满，这样第一次垃圾回收就会变成非常昂贵的操作。推荐把-Xms 设置为应用所需的最小值，这样会产生高效的垃圾回收。

2.1.2 操作系统性能优化

以客户系统为 HP-UX 为例。
HP 系统中对 Tomcat 有影响的参数：
其中：
max_thread_proc: 一个进程所能创建的线程的最大数
nkthread: 在系统上同时允许的核心线程的最大数
maxfiles 上表给的建议是不是不合适？
如果在输出里看到消息：java.lang.OutOfMemoryError: unable to create new native thread，则说明名为 max_thread_proc 的 Unix 内核设置过小。max_thread_proc 是单个进程中的最大线程数。 它必须大到能够容纳 Java 应用程序中的所有线程以及虚拟机本身中的部分额外线程。

查看核心参数：$ulimit -a

     显示[LD2] 输出中的 nofiles 是指用户的进程能同时打开的最大文件句柄数。如果日志中出现”two many open files”的异常，需要重点检查这个参数。coredump 参数是 core 文件最大值的，限制当进程 coredump 时将产生 core文件的大小不能超过这个最大值。如果在日志文件检查时，发现 core文件不完整，需要增大这个参数值。执行 ulimit  -n 命令可以设置 nofiles 参数，执行ulimit -c命令设置 core 文件最大值。
    如果是在Windows操作系统上使用Tomcat，那么最好选择服务器版本。因为在非服务器版本上，最终用户授权数或者操作系统本身所能承受的用户数、可用的网络连接数或其它方面的一些方面都是有限制的。并且基于安全性的考虑，必须经常给操作系统打上最新的补丁。
​

2.1.3 Tomcat 与其它 web 服务器整合使用

    虽然tomcat也可以作web服务器,但其处理静态html的速度比不上apache,且其作为web服务器的功能远不如apache,因此我们想把 apache和tomcat集成起来，将html与jsp的功能部分进行明确分工，让tomcat只处理jsp部分，其它的由apache,IIS等这些 web服务器处理，由此大大节省了tomcat有限的工作线程[LD3] 。
​

2.2 自身调优

本节将说明 Tomcat 性能调优的技巧和方法，这些技巧和方法与操作系统或 Java 虚拟机的种类无关。以下方法都是针对 Tomcat 性能自身调整的最佳方式。
2.2.1 禁用 DNS 查询
当 web 应用程序要记录客户端的信息时，它也会记录客户端的 IP 地址或者通过域名服务器查找机器名转换为 IP 地址。DNS 查询需要占用网络，并且包括可能从很多很远的服务器或者不起作用的服务器上去获取对应的 IP 的过程，这样会消耗一定的时间。为了消除 DNS 查询对性能的影响我们可以关闭 DNS 查询，方式是修改 server.xml 文件中的 enableLookups 参数值：
不同的 tomcat 版本稍有不同。
Tomcat4

[html] view plain copy

  1. **** className=“org.apache.coyote.tomcat4.CoyoteConnector”port=“80”

  2. minProcessors=“5” maxProcessors=“75” enableLookups=“false”  
​
  3. redirectPort=“8443” acceptCount=“100” debug=“0” connectionTimeout=“20000”  
​
  4. useURIValidationHack=“false” disableUploadTimeout=“true” **/>**   
​

Tomcat5

[html] view plain copy

  1. **** port=“80” maxThreads=“150” minSpareThreads=“25”

  2. maxSpareThreads=“75” enableLookups=“false” redirectPort=“8443”  
​
  3. acceptCount=“100” debug=“0” connectionTimeout=“20000”  
​
  4. disableUploadTimeout=“true” **/>**   

 除非客户需要连接到站点的每个HTTP客户端的机器名，否则我们建议在生产环境上关闭DNS查询功能。可以通过Tomcat以外的方式来获取机器名。这样不仅节省了网络带宽、查询时间和内存，而且更小的流量会使日志数据也会变得更少，显而易见也节省了硬盘空间。对流量较小的站点来说禁用DNS查询可能没有大流量站点的效果明显。
​

2.2.2 调整线程数
另外一个可通过应用程序的连接器（Connector）进行性能控制的参数是创建的处理请求的线程数。Tomcat 使用线程池加速响应速度来处理请求。在 Java 中线程是程序运行时的路径，是在一个程序中与其它控制线程无关的、能够独立运行的代码段。它们共享相同的地址空间。多线程帮助程序员写出 CPU 最大利用率的高效程序，使空闲时间保持最低，从而接受更多的请求。
Tomcat4 中可以通过修改 minProcessors 和 maxProcessors 的值来控制线程数。这些值在安装后就已经设定为默认值并且是足够使用的，但是随着站点的扩容而改大这些值。minProcessors 服务器启动时创建的处理请求的线程数应该足够处理一个小量的负载。也就是说，如果一天内每秒仅发生 5 次单击事件，并且每个请求任务处理需要 1 秒钟，那么预先设置线程数为 5 就足够了。但在你的站点访问量较大时就需要设置更大的线程数，指定为参数

maxProcessors 的值。maxProcessors 的值也是有上限的，应防止流量不可控制（或者恶意的服务攻击），从而导致超出了虚拟机使用内存的大小。如果要加大并发连接数，应同时加大这两个参数。web server 允许的最大连接数还受制于操作系统的内核参数设置，通常 Windows 是 2000 个左右，Linux 是 1000 个左右。

    在Tomcat5对这些参数进行了调整，请看下表： 
​


最好的方式是多设置几次并且进行测试，观察响应时间和内存使用情况。在不同的机器、操作系统或虚拟机组合的情况下可能会不同，而且并不是所有的 web 站点的流量都是一样的，因此没有一刀切的方案来确定线程数的值。

2.2.3 加速 JSP 编译速度
当第一次访问一个 JSP 文件时，它会被转换为 Java servlet 源码，接着被编译成 Java 字节码。客户工程师可以控制使用哪个编译器，默认情况下，Tomcat 使用命令行 javac 进行使用的编译器。也可以使用更快的编译器，这里将介绍如何优化它们。
[LD4] 另外一种方法是不要把所有的实现都使用 JSP 页面，而是使用一些不同的 java 模板引擎变量。
在 Tomcat 4.0 中可以使用流行而且免费的 Jikes 编译器。Jikes 编译器的速度要高于 Sun 的 Java 编译器。首先要安装 Jikes（可访问 http://oss.software.ibm.com/pub/jikes 获得更多的信息），接着需要在环境变量中设置 JIKESPATH 包含系统运行时所需的 JAR 文件。装好 Jikes 以后还需要设置让 JSP 编译 servlet 使用 Jikes，需要修改 web.xml 文件中 jspCompilerPlugin 的值：

[html] view plain copy

  2. ****jsp****  
​
  3. ****  
​
  4.     org.apache.jasper.servlet.JspServlet   
​
  6. ****  
​
  7.     ****logVerbosityLevel****  
​
  8.     ****WARNING****  
​
  9. ****  
​
  10. ****  
​
  11.     ****jspCompilerPlugin****  
​
  12.     ****org.apache.jasper.compiler.JikesJavaCompiler****  
​
  13. ****  
​
  14. ****  
​
  16.     ****classpath****  
​
  17.     ****  
​
  18.         /usr/local/jdk1.3.1-linux/jre/lib/rt.jar:  
​
  19.         /usr/local/lib/java/servletapi/servlet.jar   
​
  21. ****  
​
  22. ****3****  
​
  23. 在Tomcat 4.1（或更高版本），JSP的编译由包含在Tomcat里面的Ant程序控制器直接执行。客户开发人员需要在元素中定义一个名字叫”compiler”，并且在value中有一个支持编译的编译器名字，示例如下：
​

[html] view plain copy

  2. ****jsp****  
​
  3. ****  
​
  4.     org.apache.jasper.servlet.JspServlet   
​
  6. ****  
​
  7.     ****logVerbosityLevel****  
​
  8.     ****WARNING****  
​
  9. ****  
​
  10. ****  
​
  11.     ****compiler****  
​
  12.     ****jikes****  
​
  13. ****  
​
  14. ****3****  
​

Ant 可用的编译器

由于 JSP 页面在第一次使用时已经被编译，那么你可能希望在更新新的 jsp 页面后马上对它进行编译。实际上，这个过程完全可以自动化，因为可以确认的是新的 JSP 页面在生产服务器和在测试服务器上的运行效果是一样的。
在 Tomcat4 的 bin 目录下有一个名为 jspc 的脚本。它仅仅是运行翻译阶段，而不是编译阶段，使用它可以在当前目录生成 Java 源文件。它是调试 JSP 页面的一种有力的手段。
可以通过浏览器访问再确认一下编译的结果。这样就确保了文件被转换成 servlet，被编译了可直接执行。这样也准确地模仿了真实用户访问 JSP 页面，可以看到给用户提供的功能。也抓紧这最后一刻修改出现的 bug 并且修改它。
Tomcat 提供了一种通过请求来编译 JSP 页面的功能。客户可以在浏览器地址栏中输入 http://localhost: 8080/examples/jsp/dates/date.jsp?jsp_precompile=true，这样 Tomcat 就会编译 data.jsp 而不是执行它。此举唾手可得，不失为一种检验页面正确性的捷径。

2.2.4 NIO 配置
NIO （No-blocking I/O）从 JDK 1.4 起，NIO API 作为一个基于缓冲区，并能提供非阻塞 I/O 操作的 API 被引入[LD6] 。

TOMCAT 可以支持高并发的企业级应用。其中有个很大的原因就是，配置良好的 tomcat 都会使用 APR(Apache Portable Runtime),APR 是 Apache HTTP Server2.x 的核心，它是高度可移植的本地库，它使用高性能的 UXIN I/O 操作，低性能的 java io 操作，但是 APR 对客户开发人员而言可能稍稍有点难度，在很多 OS 平台上，可能需要重新编译 APR。但是从 Tomcat6.0 以后, 客户开发人员很容易就可以用 NIO 的技术来提升 tomcat 的并发处理能力。但是为什么 NIO 可以提升 tomcat 的并发处理能力呢，我们先来看一下 java 传统 io 与 java NIO 的差别。
Java 传统的 IO 操作都是阻塞式的(blocking I/O), 如果有 socket 的编程基础，你会接触过堵塞 socket 和非堵塞 socket，堵塞 socket 就是在 accept、read、write 等 IO 操作的时候，如果没有可用符合条件的资源，不马上返回，一直等待直到有资源为止。而非堵塞 socket 则是在执行 select 的时候，当没有资源的时候堵塞，当有符合资源的时候，返回一个信号，然后程序就可以执行 accept、read、write 等操作，一般来说，如果使用堵塞 socket，通常我们通常开一个线程 accept socket，当读完这次 socket 请求的时候，开一个单独的线程处理这个 socket 请求；如果使用非堵塞 socket，通常是只有一个线程，一开始是 select 状，当有信号的时候可以通过多路复用（Multiplexing)技术传递给一个指定的线程池来处理请求，然后原来的线程继续 select 状态。 最简单的多路复用技术可以通过 java 管道(Pipe)来实现。换句话说，如果客户端的并发请求很大的时候，客户系统可以使用少于客户端并发请求的线程数来处理这些请求，而这些来不及立即处理的请求会被阻塞在 java 管道或者队列里面，等待线程池的处理。
在 web 服务器上阻塞 IO(BIO)与 NIO 一个比较重要的不同是，客户系统使用 BIO 的时候往往会为每一个 web 请求引入多线程，每个 web 请求一个单独的线程，所以并发量一旦上去了，线程数就上去了，CPU 就忙着线程切换，所以 BIO 不合适高吞吐量、高可伸缩的 web 服务器；而 NIO 则是使用单线程(单个 CPU)或者只使用少量的多线程(多 CPU)来接受 Socket，而由线程池来处理堵塞在 pipe 或者队列里的请求.这样的话，只要 OS 可以接受 TCP 的连接，web 服务器就可以处理该请求。大大提高了 web 服务器的可伸缩性。
客户只需要在 server.xml 里把 HTTP Connector 做如下更改：

[html] view plain copy

  1. **** port="8080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" />

    改为

[html] view plain copy

  1. **** port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol" connectionTimeout="20000" redirectPort="8443" />

然后启动服务器，如果出现 org.apache.coyote.http11.Http11NioProtocol start 的提示信息，表示 NIO 已经启动。其他的配置请参考官方配置文档。
2.2.5 其它
前面我们提到过操作系统通过一些限制手段来防止恶意的服务攻击，同样 Tomcat 也提供了防止恶意攻击或禁止某些机器访问的设置。
Tomcat 提供了两个参数供你配置：RemoteHostValve 和 RemoteAddrValve。
通过配置这两个参数，可以让你过滤来自请求的主机或 IP 地址，并允许或拒绝哪些主机/IP。与之类似的，在 Apache 的 httpd 文件里有对每个目录的允许/拒绝指定。
例如你可以把 Admin Web application 设置成只允许本地访问，设置如下：

[html] view plain copy

  1. **** path=“/path/to/secret_files”>

  2. **** className=“org.apache.catalina.valves.RemoteAddrValve” allow=“127.0.0.1”deny=““ **/>**  
​
  3.  如果没有给出允许主机的指定，那么与拒绝主机匹配的主机就会被拒绝，除此之外的都是允许的。与之类似，如果没有给出拒绝主机的指定，那么与允许主机匹配的主机就会被允许，除此之外的都是拒绝的。
​

3 负载均衡
在负载均衡的思路下，多台服务器为对等方式，每台服务器都具有同等的地位，可以单独对外提供服务而无须其他服务器的辅助。通过负载分担技术，将外部发送来的请求按一定规则分配到对称结构中的某一台服务器上，而接收到请求的服务器都独立回应客户机的请求。
提供服务的一组服务器组成了一个应用服务器集群(cluster)，集群下的对等多机环境可以增加系统的并发处理能力，和单台机器出现故障系统的错误冗余能力；同时实现了负载均衡和系统高可靠性。

四种实现负载均衡的方式：
第一是通过 DNS，但只能实现简单的轮流分配，不能处理故障；
第二如果是基于 MS IIS，Windows 2003 server 本身就带了负载均衡服务；
第三是硬件方式，通过交换机的功能或专门的负载均衡设备可以实现；
第四种是软件方式，通过一台负载均衡服务器进行，上面安装软件。使用 Apache Httpd Server 做负载平衡器。
客户系统一般采用 Apache httpd 作为 web 服务器，即作为 Tomcat 的前端处理器，根据具体情况而定，有些情况下是不需要 Apache httpd 作为 web 服务器的，如系统展现没有静态页面那就不需要 Apache httpd，那时可以直接使用 Tomcat 作为 web 服务器来使用。使用 Apache httpd 主要是它在处理静态页面方面的能力比 Tomcat 强多了。

3.1.1 配置负载均衡器
在 apache 下配置负载均衡器分为三步，注意每次修改 httpd.conf 和 workers2.properties 时不要忘了重新启动 apache。
第一步，安装和调试 apache
负载均衡器 jk2 模块是 apache www 服务的插件，所以配置负载均衡器就得先安装 apache。假设客户下载的是 windows 版本 2.0.43，执行 setup.exe 并回答一些简单问题就可完成 apache 的任务。值得注意的是，安装并启动 apache 后如果 apache 对 http://localhost/ 地址没反应，你得修改 apache 安装路径下 htdocs 目录下的 index.html.xx 文件，比如把 index.html.en 改成 index.html。
第二步，安装 jk2
把下载到的 mod_jk2-2.0.43.dll 改成 mod_jk2.dll 放到 apache 的 modules 目录下，修改 apache 的 httpd.conf，即在 LoadModule foo_module modules/mod_foo.so 行下插入 mod_jk2 模块的装载信息[LD7] ：

[html] view plain copy

  1. Example:

  2. LoadModule foo_module modules/mod_foo.so

  4. LoadModule jk2_module modules/mod_jk2.dll

第三步，配置 jk2

jk2 的配置全在一个配置文件中，文件名为 workers2.properties，和 apache 的 httpd.conf 放在同一个目录下。以下是这个文件的内容：

[html] view plain copy

  1. #++++++++++++++++++++++++++++++++++++

  2. only at beginnin. In production uncomment it out

  3. [logger.apache2]

  4. level=DEBUG

  6. #shm 必须配

  8. [shm]

  10. file=D:\Program Files\Apache Group\Apache2\logs\shm.file

  12. size=1048576

  14. 第一个 tomcat 的地址

  16. Example socket channel, override port and host.

  18. [channel.socket:tomcat1]

  20. port=11009

  22. host=127.0.0.1

  24. 定义第一个工作者指向第一个 tomcat

  26. define the worker

  28. [ajp13:tomcat1]

  30. channel=channel.socket:tomcat1

  32. #第二个 tomcat 得地址

  34. Example socket channel, override port and host.

  36. [channel.socket:tomcat2]

  38. port=12009

  40. host=10.1.36.123

  42. 定义第二个工作者指向第二个 tomcat

  44. define the worker

  46. [ajp13:tomcat2]

  48. channel=channel.socket:tomcat2

  50. #定义负载均衡器，使其包含两个工作者

  52. [lb:lb1]

  54. worker=ajp13:tomcat2

  56. worker=ajp13:tomcat1

  58. #指定负载均衡器完成单一地址映射，使得 apache 服务所在的 uri 全部指向 两个 tomcat 上的 root

  60. Uri mapping

  62. [uri:/*]

  64. group=lb:lb1

  66. #++++++++++++++++++++++++++++++++++++++++++

3.1.2 配置 tomcat

    同属于一个集群下的两个服务实体，要求功能的同一性，所以我们可先安装和配置第一个tomcat，接着拷贝形成第二个tomcat，最后配置第二个tomcat。 
​

安装 tomcat 非常简单，本文就不再描述。我们假设第一个 tomcat 的安装路径为 d:\tomcat1。
配置第一个 tomcat：

tomcat 中的 jk2 connector 缺省端口为 8009，为了在一台机器上运行两个 tomcat，修改 D:\Tomcat1\conf\jk2.properties，设置 jk2 connector 的端口为 11009，整个文件内容如下：

[html] view plain copy

  1. #++++++++++++++

  2.            channelSocket.port=11009   
​
  3.          #++++++++++++++   
​

为了让一台机器上运行两个 tomcat，修改 server.conf 的 tomcat 停止指令监听端口：

[html] view plain copy

  1. **** port="8005" shutdown="SHUTDOWN" debug="0">

改为

[html] view plain copy

  1. **** port="11005" shutdown="SHUTDOWN" debug="0">

然后打开 JK2 AJP connector ，关闭其它 connector，下面是 JK2 AJP 1.3 的样子，这里已把它的端口改为 11009：

  3. **** className="org.apache.coyote.tomcat4.CoyoteConnector"

  4. port="11009" minProcessors="5" maxProcessors="75" enableLookups="true"  
​
  5. redirectPort="8443" acceptCount="10" debug="0" connectionTimeout="20000"  
​
  6. useURIValidationHack="false" protocolHandlerClassName="org.apache.jk.server.JkCoyoteHandler" **/>**   
​

接着配置需要集群支持的 webapp（比如 examples） 的 context，添加如下 manager：

[html] view plain copy

  1. **** className="org.apache.catalina.session.InMemoryReplicationManager"

  2. protocolStack="UDP(mcast_addr=228.1.2.3;mcast_port=45566;ip_ttl=32):PING(timeout=3000; num_initial_members=6):FD(timeout=5000):VERIFY_SUSPECT(timeout=1500): pbcast.STABLE(desired_avg_gossip=10000):pbcast.NAKACK(gc_lag=10; retransmit_timeout=3000):UNICAST(timeout=5000;min_wait_time=2000): MERGE2:FRAG:pbcast.GMS(join_timeout=5000;join_retry_timeout=2000; shun=false;print_local_addr=false)"**>**  
​

注意 protocolStack 的值必须在一行内写完。
配置第二个 tomcat：
把已经配好的第一个 tomcat 复制一份，形成第二个 tomcat，假设路径为 d:\tomcat2。
修改 D:\Tomcat2\conf\jk2.properties，设置 jk2 connector 的端口 12009，整个文件内容如下：

[html] view plain copy

  1. #++++++++++++++

  2. channelSocket.port=12009

  3. #++++++++++++++

修改 server.conf
有了第一个 tomcat 的配置我们只需修改 server.conf 的 tomcat 停止指令监听端口：
改为

然后设置 JK2 AJP connector 端口为 12009。
3.1.3 运行测试
启动 apache，tomcat1 和 tomcat2。

我们先准备两个文件，第一个文件为 test.jsp，拷贝到第一个 tomcat 的根 web 应用的目录即 d:\tomcat1\webapps\ROOT 下：

  2. **** bgcolor="red"**>**  
​
  3.     ****  
​
  4.         **<**%= request.getSession().getId() %**>**  
​
  5.         ****Tomcat 1****  
​
  6. ****  
​

第二个文件也为 test.jsp，拷贝到第二个 tomcat 的根 web 应用的目录即 d:\tomcat2\webapps\ROOT 下：

[html] view plain copy

  2. **** bgcolor="blue"**>**  
​
  3.     ****  
​
  4.         **<**%= request.getSession().getId() %**>**  
​
  5.         ****Tomcat 2****  
​
  6. ****  
​

从不同的浏览器中多次输入地址 http://localhost/test.jsp 会看到不同的颜色，这表明 apache 中的 jk2 模块起到了负载均衡的作用。
4 容量计划
容量计划是在生产环境中使用 Tomcat 不得不提的提高性能的另一个重要的话题。如果你没有对预期的网络流量下的硬件和带宽做考虑的话那么无论你如何做配置修改和测试都无济于事。
这里先对提及的容量计划作一个简要的定义：容量计划是指评估硬件、操作系统和网络带宽，确定应用服务的服务范围，寻求适合需求和软件特性的软硬件的一项活动。因此这里所说的软件不仅包括 Tomcat，也包括与 Tomcat 结合使用的任何第三方 web 服务器软件。
如果在购买软硬件或部署系统前你对容量计划一无所知，不知道现有的软硬件环境能够支撑多少的访问量，甚至更糟直到你已经交付并且在生产环境上部署产品后才意识到配置有问题时再进行变更可能为时已晚。此时只能增加硬件投入，增加硬盘容量甚至购买更好的服务器。如果事先做了容量计划那么就不会搞的如此焦头烂额了。
我们这里只介绍与 Tomcat 相关的内容。
首先为了确定 Tomcat 使用机器的容量计划，你应该从一下列表项目种着手研究和计划：
4.1.1 硬件
采用什么样的硬件体系？需要多少台计算机？使用一个大型的，还是使用多台小型机？每个计算机上使用几个 CPU？使用多少内存？使用什么样的存储设备，I/O 的处理速度有什么要求？怎样维护这些计算机？不同的 JVM 在这些硬件上运行的效果如何（比如 IBM AIX 系统只能在其设计的硬件系统上运行）？
4.1.2 网络带宽
带宽的使用极限是多少？web 应用程序如何处理过多的请求？
4.1.3 服务端操作系统
采用哪种操作系统作为站点服务器最好？在确定的操作系统上使用哪个 JVM 最好？例如，JVM 在这种系统上是否支持本地多线程，对称多处理？哪种系统可使 web 服务器更快、更稳定，并且更便宜。是否支持多 CPU？
4.1.4 Tomcat 容量计划
以下介绍针对 Tomcat 做容量计划的步骤：
1） 量化负载。如果站点已经建立并运行，可以使用工具模仿用户访问，确定资源的需求量。
2） 针对测试结果或测试过程中进行分析。需要知道那些请求造成了负载过重或者使用过多的资源，并与其它请求做比较，这样就确定了系统的瓶颈所在。例如：如果 servlet 在查询数据库的步骤上耗用较长的时间，那么就需要考虑使用缓冲池来降低响应时间。

3）确定性能最低标准。例如，你不想让用户花 20 秒来等待结果页面的返回，也就是说甚至在达到访问量的极限时，用户等待的时间也不能超过 20 秒种（从点击链接到看到返第一条返回数据）。这个时间中包含了数据库查询时间和文件访问时间。同类产品性能在不同的公司可能有不同的标准，一般最好采取同行中的最低标准或对这个标准做出评估。
4）确定如何合理使用底层资源，并逐一进行测试。底层资源包括 CPU、内存、存储器、带宽、操作系统、JVM 等等。在各种生产环境上都按顺序进行部署和测试，观察是否符合需求。在测试 Tomcat 时尽量多采用几种 JVM，并且调整 JVM 使用内存和 Tomcat 线程池的大小进行测试。同时为了达到资源充分合理稳定地使用的效果，还需针对测试过程中出现的硬件系统瓶颈进行处理确定合理的资源配置。这个过程最为复杂，而且一般由于没有可参考的值所以只能靠理论推断和经验总结。
5） 如果通过第 4 步的反复测试如果达到了最优的组合，就可以在相同的生产环境上部署产品了。

此外应牢记一定要文档化你的测试过程和结果，因为此后可能还会进行测试，这样就可以拿以前的测试结果作为参考。另外测试过程要反复多次进行，每次的条件可能都不一样，因此只有记录下来才能进行结果比较和最佳条件的选择。

这样客户系统通过测试找到了最好的组合方式，各种资源得到了合理的配置，系统的性能得到了极大的提升。

  • Linux

    Linux 是一套免费使用和自由传播的类 Unix 操作系统，是一个基于 POSIX 和 Unix 的多用户、多任务、支持多线程和多 CPU 的操作系统。它能运行主要的 Unix 工具软件、应用程序和网络协议，并支持 32 位和 64 位硬件。Linux 继承了 Unix 以网络为核心的设计思想，是一个性能稳定的多用户网络操作系统。

    957 引用 • 944 回帖
北京 位置
535 6 85 111 34 46 51 188

相关帖子

回帖
tomcat 的优化

欢迎来到这里！

我们正在构建一个小众社区，大家在这里相互信任，以平等 • 自由 • 奔放的价值观进行分享交流。最终，希望大家能够找到与自己志同道合的伙伴，共同成长。

注册 关于
请输入回帖内容 ...
zgzhang
论一个笨蛋的自我修养。 北京
回帖
0
 帖子
8
 积分
507

近期热议

推荐标签 标签

  • 爬虫

    网络爬虫（Spider、Crawler），是一种按照一定的规则，自动地抓取万维网信息的程序。

    106 引用 • 275 回帖 • 1 关注
  • Outlook
    1 引用 • 5 回帖 • 2 关注
  • Love2D

    Love2D 是一个开源的， 跨平台的 2D 游戏引擎。使用纯 Lua 脚本来进行游戏开发。目前支持的平台有 Windows, Mac OS X, Linux, Android 和 iOS。

    14 引用 • 53 回帖 • 564 关注
  • Caddy

    Caddy 是一款默认自动启用 HTTPS 的 HTTP/2 Web 服务器。

    10 引用 • 54 回帖 • 179 关注
  • RabbitMQ

    RabbitMQ 是一个开源的 AMQP 实现，服务器端用 Erlang 语言编写，支持多种语言客户端，如：Python、Ruby、.NET、Java、C、PHP、ActionScript 等。用于在分布式系统中存储转发消息，在易用性、扩展性、高可用性等方面表现不俗。

    49 引用 • 60 回帖 • 352 关注
  • Webswing

    Webswing 是一个能将任何 Swing 应用通过纯 HTML5 运行在浏览器中的 Web 服务器，详细介绍请看 将 Java Swing 应用变成 Web 应用 。

    1 引用 • 15 回帖 • 643 关注
  • 又拍云

    又拍云是国内领先的 CDN 服务提供商,国家工信部认证通过的“可信云”，乌云众测平台认证的“安全云”，为移动时代的创业者提供新一代的 CDN 加速服务。

    20 引用 • 37 回帖 • 572 关注
  • 禅道

    禅道是一款国产的开源项目管理软件，她的核心管理思想基于敏捷方法 scrum，内置了产品管理和项目管理，同时又根据国内研发现状补充了测试管理、计划管理、发布管理、文档管理、事务管理等功能，在一个软件中就可以将软件研发中的需求、任务、bug、用例、计划、发布等要素有序的跟踪管理起来，完整地覆盖了项目管理的核心流程。

    10 引用 • 15 回帖 • 1 关注
  • jQuery

    jQuery 是一套跨浏览器的 JavaScript 库，强化 HTML 与 JavaScript 之间的操作。由 John Resig 在 2006 年 1 月的 BarCamp NYC 上释出第一个版本。全球约有 28% 的网站使用 jQuery，是非常受欢迎的 JavaScript 库。

    63 引用 • 134 回帖 • 736 关注
  • RemNote
    2 引用 • 16 回帖 • 26 关注
  • wolai

    我来 wolai：不仅仅是未来的云端笔记！

    2 引用 • 14 回帖
  • Excel
    31 引用 • 28 回帖
  • Markdown

    Markdown 是一种轻量级标记语言，用户可使用纯文本编辑器来排版文档，最终通过 Markdown 引擎将文档转换为所需格式（比如 HTML、PDF 等）。

    172 引用 • 1543 回帖
  • Kubernetes

    Kubernetes 是 Google 开源的一个容器编排引擎，它支持自动化部署、大规模可伸缩、应用容器化管理。

    118 引用 • 54 回帖 • 5 关注
  • Vditor

    Vditor 是一款浏览器端的 Markdown 编辑器，支持所见即所得、即时渲染（类似 Typora）和分屏预览模式。它使用 TypeScript 实现，支持原生 JavaScript、Vue、React 和 Angular。

    376 引用 • 1862 回帖
  • 微服务

    微服务架构是一种架构模式，它提倡将单一应用划分成一组小的服务。服务之间互相协调，互相配合，为用户提供最终价值。每个服务运行在独立的进程中。服务于服务之间才用轻量级的通信机制互相沟通。每个服务都围绕着具体业务构建，能够被独立的部署。

    96 引用 • 155 回帖
  • C++

    C++ 是在 C 语言的基础上开发的一种通用编程语言，应用广泛。C++ 支持多种编程范式，面向对象编程、泛型编程和过程化编程。

    108 引用 • 153 回帖
  • Ant-Design

    Ant Design 是服务于企业级产品的设计体系，基于确定和自然的设计价值观上的模块化解决方案，让设计者和开发者专注于更好的用户体验。

    17 引用 • 23 回帖 • 4 关注
  • Latke

    Latke 是一款以 JSON 为主的 Java Web 框架。

    71 引用 • 535 回帖 • 831 关注
  • 酷鸟浏览器

    安全 · 稳定 · 快速
    为跨境从业人员提供专业的跨境浏览器

    3 引用 • 59 回帖 • 52 关注
  • 分享

    有什么新发现就分享给大家吧！

    248 引用 • 1794 回帖 • 1 关注
  • 深度学习

    深度学习（Deep Learning）是机器学习的分支，是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。

    43 引用 • 44 回帖
  • WiFiDog

    WiFiDog 是一套开源的无线热点认证管理工具，主要功能包括：位置相关的内容递送；用户认证和授权；集中式网络监控。

    1 引用 • 7 回帖 • 612 关注
  • 七牛云

    七牛云是国内领先的企业级公有云服务商，致力于打造以数据为核心的场景化 PaaS 服务。围绕富媒体场景，七牛先后推出了对象存储，融合 CDN 加速，数据通用处理，内容反垃圾服务，以及直播云服务等。

    29 引用 • 230 回帖 • 125 关注
  • Log4j

    Log4j 是 Apache 开源的一款使用广泛的 Java 日志组件。

    20 引用 • 18 回帖 • 38 关注
  • 大疆创新

    深圳市大疆创新科技有限公司(DJI-Innovations，简称 DJI)，成立于 2006 年，是全球领先的无人飞行器控制系统及无人机解决方案的研发和生产商，客户遍布全球 100 多个国家。通过持续的创新，大疆致力于为无人机工业、行业用户以及专业航拍应用提供性能最强、体验最佳的革命性智能飞控产品和解决方案。

    2 引用 • 14 回帖
  • LaTeX

    LaTeX（音译“拉泰赫”）是一种基于 ΤΕΧ 的排版系统，由美国计算机学家莱斯利·兰伯特（Leslie Lamport）在 20 世纪 80 年代初期开发，利用这种格式，即使使用者没有排版和程序设计的知识也可以充分发挥由 TeX 所提供的强大功能，能在几天，甚至几小时内生成很多具有书籍质量的印刷品。对于生成复杂表格和数学公式，这一点表现得尤为突出。因此它非常适用于生成高印刷质量的科技和数学类文档。

    12 引用 • 59 回帖

最新标签