Ubuntu服务器上JSP并发处理技巧

Ubuntu服务器上JSP并发处理技巧

一 架构与负载均衡

• 在 Ubuntu 上，JSP 通常由 Tomcat 执行，并发能力首先取决于连接器线程池与后端资源。单机优化到瓶颈后，使用 Nginx/HAProxy 做反向代理与负载均衡，横向扩展到多台 Tomcat 实例，可显著提升总体并发与可用性。Nginx 示例：
  • 配置 upstream：

    upstream tomcat_servers {
        
        server 127.0.0.1:8080;
        
        server 127.0.0.1:8081;
    
    }
    
    server {
        
        listen 80;
    
        location / {
        
            proxy_pass http://tomcat_servers;
        
            proxy_set_header Host $host;
        
            proxy_set_header X-Real-IP $remote_addr;
        
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        
            proxy_set_header X-Forwarded-Proto $scheme;
    
        }
    
    }
        
    

  • 静态资源交由 Nginx 直接服务，动态请求反向代理到 Tomcat，降低应用服务器压力。

二 Tomcat与JVM关键配置

• 连接器线程与队列（建议通过共享 Executor 统一管理）：

  <
      Executor name="tomcatThreadPool"
          namePrefix="catalina-exec-"
          maxThreads="500"
          minSpareThreads="30"
          maxIdleTime="60000"
          prestartminSpareThreads="true"
          maxQueueSize="100"/>
      
  
  <
      Connector executor="tomcatThreadPool"
             port="8080" protocol="HTTP/1.1"
             connectionTimeout="20000"
             redirectPort="8443"
             enableLookups="false"
             compression="on"
             compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain"
             acceptCount="100"/>
      
  

  • 要点：
    • maxThreads 决定同时处理请求数，需结合 CPU 核数 与 I/O 等待 调整，避免过高导致上下文切换激增。
    • acceptCount 是当线程耗尽时的排队长度，配合队列与快速失败策略保护后端。
    • 关闭 enableLookups 减少阻塞 DNS 查询；开启 GZIP 减少传输体积。
• JVM 建议（以 JDK 8+ 为例，使用 G1GC）：

  JAVA_OPTS="$JAVA_OPTS -server \
    -Xms4g -Xmx4g \
    -XX:+UseG1GC \
    -XX:MaxGCPauseMillis=200 \
    -XX:+PrintGCDetails -Xloggc:$CATALINA_HOME/logs/gc.log"
  

  • 建议堆大小与物理内存匹配，避免频繁 GC 与 OOM；生产环境优先 G1GC，关注 GC 停顿与吞吐的平衡。

三 Linux系统层面优化

• 文件描述符与进程数（提升可打开连接与并发线程上限）：

  # /etc/security/limits.conf
  * soft nofile 655360
  * hard nofile 655360
  * soft nproc  655360
  * hard nproc  655360
  

• 网络与端口（提升连接建立与回收效率）：

  # /etc/sysctl.conf
  net.core.somaxconn = 8192
  net.ipv4.tcp_max_syn_backlog = 8192
  net.ipv4.ip_local_port_range = 10000 65000
  net.ipv4.tcp_tw_reuse = 1
  net.ipv4.tcp_fin_timeout = 30
  net.ipv4.tcp_max_tw_buckets = 10000
  net.core.rmem_max = 1310720
  net.core.wmem_max = 1310720
  net.ipv4.tcp_synack_retries = 1
  net.ipv4.tcp_syn_retries = 1
  

  • 调整后执行：sysctl -p --system。注意不同内核版本对 tcp_tw_recycle 的支持差异，生产谨慎启用。

四 应用与数据库层优化

• 代码与页面：
  • 减少 JSP 中的 Java 脚本，使用 JSTL/EL；启用 JSP 预编译 与关闭开发模式的自动重载，降低运行时开销。
  • 合并/压缩 CSS/JS，使用 CDN 分发静态资源；开启 GZIP 输出；对耗时任务采用 Ajax 异步 与 异步 Servlet。
• 数据与缓存：
  • 使用 HikariCP/C3P0/DBCP 等连接池，合理设置最大连接数与超时；优化 SQL 与索引，必要时 分库分表/读写分离。
  • 引入 Redis/Memcached 做热点数据缓存，减少数据库压力；对突发流量使用 消息队列（RabbitMQ/Kafka） 削峰填谷。
• 稳定性与治理：
  • 实施 限流/降级（如 Guava RateLimiter 或 Redis 令牌桶），保障核心链路稳定；规范 HttpSession 使用，避免无必要的会话创建。

五 压测与监控闭环

• 压测：使用 Apache JMeter 创建线程组与 HTTP 请求，配置并发线程数、循环与监听器（如聚合报告），验证 吞吐量/响应时间/错误率 等指标，指导参数调优。
• 监控与诊断：
  • 系统层：top/htop、free -m、df -h、iftop 观察资源瓶颈。
  • 应用层：JConsole/VisualVM/JMC 观察线程、堆与 GC；分析 catalina.out、localhost.log* 与 GC 日志定位问题。
  • APM：接入 New Relic/Datadog 获取全链路指标与告警，结合业务指标持续优化。

声明：本文内容由网友自发贡献，本站不承担相应法律责任。对本内容有异议或投诉，请联系2913721942#qq.com核实处理，我们将尽快回复您，谢谢合作！