自定义std::byte类类型的别名规则合规性及相关技术问询

问题背景 #

我们的环境因禁用异常无法使用标准stdlib，改用自定义移植库替代（比如用my_std::vector<my_std::unique_ptr<T>>替换std::vector<std::unique_ptr<T>>，二者API基本一致）。现在引入了my_std::byte，其实现与cppreference示例一致：

namespace my_std {

enum class byte : unsigned char {};

// 位运算重载
... 

}  // namespace my_std

有人担忧该类型会引发未定义行为，原因是std::byte*和unsigned char*一样可以合法别名任意对象，但自定义的my_std::byte*不具备这个特性。现针对以下问题解答：

1. 上述担忧是否成立？ #

成立。C++标准明确规定，只有unsigned char*、char*、std::byte*这三类指针可以合法绕过严格别名规则，直接别名任意对象的内存。而自定义的my_std::byte是基于unsigned char的用户自定义枚举类，不属于标准划定的特殊类型范畴，因此my_std::byte*不具备绕过严格别名规则的权限。如果用它来别名其他类型的对象，会触发严格别名规则违例，进而导致未定义行为——编译器可能基于“不同类型指针不会指向同一块内存”的假设做优化，生成逻辑错误的机器码。

2. 哪些代码用std::byte合法但用my_std::byte不合法？ #

所有依赖std::byte别名特性的场景都会出问题，典型案例包括：

• 二进制内存读写：将任意类型对象的内存转为my_std::byte*后进行序列化、反序列化或内存拷贝：

  struct MyData { int a; double b; };
  MyData data{42, 3.14};
  char some_buffer[sizeof(MyData)];
  
  // std::byte版本合法
  std::byte* std_bytes = reinterpret_cast<std::byte*>(&data);
  std::memcpy(some_buffer, std_bytes, sizeof(MyData));
  
  // my_std::byte版本违反严格别名规则，属于未定义行为
  my_std::byte* my_bytes = reinterpret_cast<my_std::byte*>(&data);
  std::memcpy(some_buffer, my_bytes, sizeof(MyData));
  

• 跨类型内存访问：通过my_std::byte*读取对象内存后转换为其他类型（即便对象表示符合目标类型要求）：

  int x = 123;
  // std::byte版本合法（若int与float的对象表示兼容）
  std::byte* std_ptr = reinterpret_cast<std::byte*>(&x);
  float y = *reinterpret_cast<float*>(std_ptr);
  
  // my_std::byte版本违反严格别名规则，未定义行为
  my_std::byte* my_ptr = reinterpret_cast<my_std::byte*>(&x);
  float z = *reinterpret_cast<float*>(my_ptr);
  

• 内存池的字节级管理：用my_std::byte数组作为内存池存储不同类型对象，通过指针转换访问对象：

  my_std::byte pool[1024];
  auto obj = new (pool) MyData(); // placement new本身合法
  // my_std::byte版本违反严格别名规则，未定义行为
  MyData* p = reinterpret_cast<MyData*>(pool);
  // std::byte版本则完全合法
  

3. 是否有编译器提供类似#pragma can_alias_anything的指令？ #

没有统一的标准指令，但部分编译器提供了扩展手段：

• GCC/Clang：可以用__attribute__((may_alias))标记类型，让该类型的指针获得绕过严格别名规则的能力，修改实现如下：

  namespace my_std {
  
  enum class byte : unsigned char __attribute__((may_alias)) {};
  
  // 位运算重载
  ... 
  
  }  // namespace my_std
  

  注意：这是编译器扩展，不具备跨编译器可移植性。
• MSVC：没有针对单个类型的放宽选项，但可以通过全局编译选项/Oa禁用严格别名优化——不过这会影响整个程序的优化效率，而非仅针对my_std::byte。另外，/wd4244只是禁用类型转换警告，不解决未定义行为问题。

内容的提问来源于stack exchange，提问作者Dominik Kaszewski