如何对Kubernetes Pod内运行的C++服务进行perf/火焰图性能分析？

你遇到的问题是Pod内缺对应内核版本的perf安装源，且kubectl flame无法直接适配C++程序，可以通过以下三种方式解决：

方案1：宿主机节点侧直接采集（最省事，推荐优先用） #

Pod和所在K8s节点共享内核，perf可以直接在节点侧运行，无需进入Pod安装任何工具：

• 第一步：查询目标Pod调度的节点
  kubectl get pod <你的Pod名称> -o wide --no-headers | awk '{print $7}'
• 第二步：登录对应节点，获取目标进程在宿主机的PID
  可以通过进程名过滤：ps aux | grep <你的C++程序进程名>
  也可以通过容器ID精准匹配：crictl inspect <容器ID> | jq '.info.pid'
• 第三步：节点侧直接运行perf采样
  采样30秒调用栈：perf record -g -p <目标PID> -- sleep 30
• 第四步：生成火焰图
  将节点上生成的perf.data和你C++程序带完整符号表的二进制文件拷到本地，执行：
  perf script | stackcollapse-perf.pl | flamegraph.pl > flame.svg

注意：如果节点本身未安装perf，直接在节点上安装对应内核版本的perf包即可，节点的软件源一般是完整的，不会出现Pod内找不到安装包的问题。

方案2：特权Sidecar注入工具 #

如果不允许登录节点操作，可以通过Sidecar容器注入perf工具，无需修改主容器镜像：

• 给你的Deployment/Pod配置开启共享PID命名空间：shareProcessNamespace: true
• 新增一个特权Sidecar容器，镜像使用提前预装了perf的定制镜像（可基于Ubuntu官方镜像预装对应内核版本perf打包），Sidecar的安全上下文配置为privileged: true
• 部署完成后直接进入Sidecar容器，即可看到主容器的所有进程，直接执行perf采样即可

方案3：eBPF工具替代perf采集 #

如果节点内核版本 >=4.15，可使用eBPF类性能分析工具，不需要匹配内核版本的perf包，兼容性更好：

• 节点侧安装bcc工具集后，使用profile工具采样：profile -p <目标PID> -F 99 30 > profile.out
• 采样完成后直接用输出文件生成火焰图即可，采样开销比perf更低，适合生产环境长期采样。

补充：如果你能提供C++程序带符号表的二进制文件，也可以尝试给kubectl flame指定符号路径使用，命令为：kubectl flame <Pod名称> -s <符号文件路径> -t 30 --lang cpp

内容的提问来源于stack exchange，提问作者Tinyden