探究EC2实例上周期性50ms延迟尖峰的原因

兄弟，我看你是在跑死循环排查延迟问题对吧？先把你贴的这段核心代码整理好：

#include <iostream> 
#include <thread> 
#include <atomic> 
#include <chrono> 
#include <unistd.h> 
#include <sys/syscall.h> 
#include <sched.h> 
#include <cstring> 
#include <errno.h> 
#include <x86intrin.h>  

using namespace std::chrono;  

std::atomic<bool> running{true};  

void tight_loop_latency_prob...

碰到EC2实例上这种周期性的50ms延迟尖峰，我之前调试类似问题的时候踩过不少坑，给你捋捋几个最可能的原因：

• 虚拟化宿主机的调度策略：EC2是共享宿主机的虚拟化环境，宿主机会给每个分配的实例分配CPU时间片，如果你的实例刚好在时间片结束后被暂时挂起，等下一个时间片再调度，就可能出现接近50ms的延迟——不少AWS宿主机的时间片配置就是这个量级。
• Hypervisor层面的周期性任务：不同EC2实例类型用的Hypervisor不一样，比如Xen或者KVM，它们会周期性做宿主机的内存管理、页表同步这类维护操作，这些操作可能会短暂阻塞guest OS的运行，刚好触发50ms左右的延迟尖峰。
• 系统电源管理的C状态切换：如果你的EC2实例开了自动节能模式，CPU在空闲时会进入低功耗的C状态，有任务要运行时再唤醒。这个唤醒过程可能带来几十ms的延迟，要是系统节能策略是周期性检查的，就会出现规律的延迟尖峰。
• 底层资源的周期性操作：哪怕你这段代码没碰网络和存储，EC2实例底层的网络栈周期性同步、EBS卷的快照或缓存刷新操作，也可能间接影响CPU调度，导致延迟。

要准确定位的话，你可以在代码里加更细粒度的时间戳采集，比如用rdtsc指令测循环内每一次迭代的耗时，再把延迟尖峰的时间点和系统日志（比如dmesg里的虚拟化相关日志、/var/log/messages里的调度信息）对应上，就能揪出问题根源了。

备注：内容来源于stack exchange，提问作者Rohith Uppala