为何尾返回类型可避免函数模板实例化而auto不行？

核心现象 #

在尝试模拟C++17 if constexpr 避免错误模板实例化的行为时，发现两个模板表现出明显差异：

• NotWorking<T>：使用auto*作为返回类型，即便函数从未被实际调用，只要代码中存在对它的引用，就会触发模板实例化，导致针对long（通常占8字节）的static_assert(sizeof(T) <= 4)触发错误。
• Working<T>：使用尾返回类型auto -> T*，同样包含static_assert，但即便被引用却未实际调用时，不会触发函数体的实例化，因此不会报错。

简化后的测试代码如下：

template <typename T>
auto* NotWorking() {
    static_assert(sizeof(T) <= 4, "");
    return static_cast<T*>(nullptr);
}

template <typename T>
auto Working() -> T* {
    static_assert(sizeof(T) <= 4, "");
    return static_cast<T*>(nullptr);
}

#define PRODUCE_ERROR

template <typename T>
void not_called_closure_operator(T) {
#if defined(PRODUCE_ERROR)
    NotWorking<long>();
#else
    Working<long>();
#endif
}

原因分析 #

这本质是C++模板实例化规则中返回类型推导时机的差异导致的：

1. auto*返回类型的模板：
   当代码中出现NotWorking<long>()的引用时，编译器需要先推导函数的返回类型。由于auto*的类型推导依赖函数体内的return语句，编译器必须实例化函数体的部分内容来完成类型推导。一旦实例化函数体，里面的static_assert就会被执行检查，进而触发错误。

2. 尾返回类型的模板：
   尾返回类型auto -> T*直接明确了返回类型为T*，不需要依赖函数体的内容进行推导。此时，只要函数没有被ODR使用（即没有实际调用），编译器不需要实例化函数体——模板函数的实例化仅在需要生成实际可执行代码时才会发生。因此static_assert所在的函数体不会被实例化，也就不会触发错误。

关键结论 #

• 对于用auto/auto*作为返回类型的模板函数，返回类型推导需要访问函数体，会导致函数体被提前实例化，即便函数未被调用。
• 尾返回类型明确指定了返回类型，避免了这种提前实例化，只有当函数被实际调用时才会实例化函数体，这和if constexpr对未选中分支不实例化的行为逻辑一致。

内容的提问来源于stack exchange，提问作者Etienne M