Jelastic平台Wildfly服务器负载测试出现503错误的优化咨询

Wildfly服务端配置调整 #

• 调整Undertow线程池参数：进入Wildfly管理控制台修改undertow子系统的worker配置，io-threads设为容器CPU核心数的2倍，task-max-threads设为300匹配压测并发量，同时将线程队列长度调高至1000以上，避免请求直接被丢弃。
• 调高HTTP连接上限：修改Undertow的HTTP监听器配置，将max-connections参数设置为1000以上，关闭默认的连接数限流规则。
• 优化JVM内存参数：20个cloudlet对应8GB内存配额，建议将JVM堆内存上限-Xmx调整为6GB，年轻代大小设为2GB，避免频繁Full GC导致服务暂停响应。

Jelastic平台层面参数调整 #

• 调整容器入站连接阈值：Jelastic默认对单容器的入站连接数有限制，进入环境容器设置页面，找到网络入站连接阈值配置项，将默认值调高到1000以上，避免平台层面直接拦截超额请求返回503。
• 关闭容器临时节流规则：部分Jelastic集群默认会对短时间内出现高并发的容器触发临时节流，可在环境设置中关闭当前Wildfly节点的临时节流策略，或联系平台运维确认相关规则。
• 调整端口转发队列长度：在环境变量配置中新增变量JELASTIC_CONNECTION_QUEUE_SIZE，值设为2048，重启Wildfly节点生效，解决端口转发队列溢出导致的请求丢弃问题。

容器内核参数调整 #

• 调高文件句柄数限制：以root权限进入Wildfly容器，修改/etc/security/limits.conf，添加如下配置：

wildfly soft nofile 65535
wildfly hard nofile 65535

避免并发过高时socket文件句柄不足导致请求失败。

• 优化TCP内核参数：修改/etc/sysctl.conf，调整如下配置项：

net.core.somaxconn = 1024
net.ipv4.tcp_max_syn_backlog = 2048
net.ipv4.tcp_tw_reuse = 1

修改完成后执行sysctl -p生效，避免TCP连接队列溢出导致的连接被拒绝问题。

内容的提问来源于stack exchange，提问作者yaexiste2