关于SIMD初始化成本、频率切换及性能损耗的技术咨询（Arm64/M1）

1. 使用SIMD是否存在初始化成本？ #

• 针对现代Arm64架构（Cortex-A53、A55、A75、A77及Apple M1）：存在可测量但通常可忽略的初始化成本。首次触发SIMD指令时，CPU需要唤醒对应执行单元、加载必要微码（若需）并完成寄存器文件初始化。该成本仅在长时间未使用SIMD后首次执行时出现，后续连续执行SIMD指令不会重复触发。
• 补充Intel场景：首次执行AVX/AVX-512等宽SIMD指令时，同样存在初始化延迟，且伴随执行单元暂停的"硬切换"过程。

2. 常用消费级设备中，SIMD子系统启动或达到全频率运行前是否存在功率/频率提升周期？该延迟需以时钟周期还是微秒计量？ #

• Arm64架构细节：
  • Cortex-A53/A55：SIMD子系统与整数单元共享大部分电源域，频率提升周期较短，通常在几十到几百个时钟周期级别（按2GHz主频换算约0.01-0.1μs），基本可忽略。
  • Cortex-A75/A77：采用独立SIMD电源域，首次启动时需完成电压/频率调节，延迟约1-5μs（对应2-10k时钟周期），后续维持激活状态时无此延迟。
  • Apple M1：其Firestorm/Icestorm核心的SIMD单元与核心深度整合，频率提升周期极短，通常在百级时钟周期内完成，实测延迟低于0.5μs。
• 补充Intel场景：执行AVX-512指令时，CPU会因功耗限制触发频率下降；从非SIMD状态切换到AVX状态的硬切换最长耗时8.5μs，期间执行单元暂停，该延迟以微秒计量更直观。

3. 反之，通常执行多少条非SIMD指令会导致SIMD性能丢失，或是通过其他方式检测该状态？ #

• Arm64架构细节：
  • Cortex-A53/A55：若连续执行数千条纯整数指令（无SIMD操作），SIMD单元会进入低功耗待机状态，再次执行SIMD时需重新唤醒，导致性能损失。具体阈值因电源管理策略不同在2k-10k指令之间波动。
  • Cortex-A75/A77：SIMD单元待机阈值更高，通常需连续执行10k-50k条非SIMD指令才会进入低功耗状态，部分设备可通过PMU性能计数器（如CPU_CYCLES和SIMD_ACTIVE事件）检测SIMD是否处于激活状态。
  • Apple M1：其动态调度机制会根据指令流预测SIMD需求，若连续执行5k-20k条非SIMD指令，SIMD单元可能进入轻待机状态，但唤醒延迟远低于Arm公版架构，可通过系统性能监控工具（如powermetrics）查看SIMD单元的功耗状态。
• 补充Intel场景：从AVX/AVX-512状态切换回SSE状态时同样存在延迟，若连续执行数万条非SIMD指令，CPU会退出高功耗SIMD状态，再次执行SIMD时需重新完成状态切换。

内容的提问来源于stack exchange，提问作者Aki Suihkonen