Apple设备上线程组最大总线程数与GPU核心的疑问

• 首先要明确：MTLComputePipelineState.maxTotalThreadsPerThreadgroup不是设备可并行运行的总线程数，它代表的是单个线程组（threadgroup）允许包含的最大总线程数，这是Metal API层面设定的统一上限，和设备硬件的总并行能力是两个概念。
• 你看到Intel核显和M1设备返回值都是1024，是因为这个数值是Metal为跨设备兼容性设定的固定上限，不管是Intel核显还是Apple Silicon，单个线程组的总线程数最高就只能是1024，和新设备的硬件性能没有直接关联。
• 若想了解设备真正的并行线程能力，应该查看MTLDevice的相关属性：比如maxThreadsPerExecutionUnit（每个执行单元支持的最大线程数）乘以executionUnits（设备的执行单元总数），这个乘积才能反映设备能同时运行的总线程数。M1的GPU拥有更多执行单元，实际总并行线程数远高于Intel核显，但这和单个线程组的上限互不影响。
• 在Metal编程中，你可以通过创建多个线程组来充分利用硬件资源，单个线程组的大小限制是为了保证调度效率和资源分配合理性——每个线程组会占用共享内存等硬件资源，过大的线程组反而会降低调度灵活性。

内容的提问来源于stack exchange，提问作者Michaelll