为何从Ruby中启动的程序无法启用Transparent Huge Pages？

你的核心问题是：直接运行测试程序时THP（透明大页）通过madvise(..., MADV_HUGEPAGE)正常生效，但通过Ruby的system/Process.spawn/Open3.popen3启动时失效，结合RHEL7.9的环境，主要有以下几个排查方向：

1. 父进程（Ruby）的THP配置继承 #

子进程会继承父进程的内存策略和cgroup限制，如果Ruby主进程本身被设置了MADV_NOHUGEPAGE或者处于限制THP的cgroup中，子进程的THP会被直接禁用：

• 检查Ruby进程的THP状态：

  # 获取Ruby进程PID
  ps aux | grep ruby
  # 查看进程THP整体使用情况
  grep Huge /proc/<ruby_pid>/status
  # 查看内存区域的THP标记（找HugePages相关行）
  cat /proc/<ruby_pid>/smaps | grep -E "(HugePages|VmFlags)"
  

• 检查cgroup的THP限制：

  # 查看Ruby进程所属cgroup
  cat /proc/<ruby_pid>/cgroup
  # 检查对应cgroup的hugetlb内存限制（如果值为0则禁止使用THP）
  cat /sys/fs/cgroup/memory/<你的cgroup路径>/memory.hugetlb.limit_in_bytes
  

2. Ruby进程替换 vs 子进程启动的差异 #

Ruby的system/spawn/popen3都是启动子进程，而exec是直接替换当前Ruby进程的内存空间，不会继承父进程的内存策略（除了系统级限制）。可以先测试这种方式：

# 替换Ruby进程启动测试程序，而非启动子进程
exec("./你的测试程序路径")

如果这种方式下THP生效，说明问题出在父进程（Ruby）的内存策略继承上。

3. RHEL7.9内核的THP子进程继承特性 #

RHEL7.9使用的3.10.x内核在THP的madvise模式下，存在子进程继承父进程内存策略的特殊逻辑：如果父进程对某个内存区域设置了MADV_NOHUGEPAGE，子进程的对应区域会继承该标记。如果Ruby进程本身的内存区域被标记了MADV_NOHUGEPAGE，可能会影响子进程的THP生效。

4. SELinux安全策略限制 #

RHEL7.9默认开启SELinux，可能存在阻止子进程使用THP的规则：

• 临时关闭SELinux测试：

  setenforce 0
  

  重新运行Ruby脚本启动测试程序，如果THP生效，查看SELinux审计日志定位具体规则：

  grep DENY /var/log/audit/audit.log | grep hugetlb
  

  之后可以通过调整SELinux策略来允许THP使用。

额外验证步骤 #

在你的测试程序中添加日志，输出自身/proc/self/smaps的HugePages相关内容，直接确认通过Ruby启动时madvise是否真正生效，而不是仅依赖性能判断：

// 在测试程序的madvise调用后添加以下代码
FILE* f = fopen("/proc/self/smaps", "r");
char buf[256];
while (fgets(buf, sizeof(buf), f)) {
    if (strstr(buf, "HugePages") || strstr(buf, "VmFlags")) {
        printf("%s", buf);
    }
}
fclose(f);

内容的提问来源于stack exchange，提问作者meisel