ShellExecuteExA偶现ERROR_FILE_NOT_FOUND且篡改lpFile的原因排查

问题背景 #

在Unicode版本的Windows C++项目中使用ShellExecuteExA时，直接传入MakeMiddlewarePath()返回的指针会间歇性触发ERROR_FILE_NOT_FOUND，且调用后路径缓冲区被篡改；但将路径缓存到CString再传入则完全正常。

1. 直接传指针出问题、缓存到CString正常的原因 #

核心差异在于缓冲区的内存属性与生命周期：

• 假设MakeMiddlewarePath()返回的是以下类型的指针：
  • 栈上局部数组的指针：函数返回后，栈内存已被释放/覆盖，此时ShellExecuteExA操作这块内存会导致数据篡改，属于非法内存访问。
  • 只读内存指针（比如const char*指向字符串字面量）：ShellExecuteExA内部可能会尝试修改传入的lpFile缓冲区（比如自动给带空格的路径添加引号、解析短路径转长路径等），写入只读内存会触发未定义行为，表现为缓冲区被篡改或程序异常。
• 而CString会将路径字符串复制到自己管理的堆内存中，这块内存是可写的，且在ShellExecuteExA调用期间始终有效（只要CString对象未被销毁），完全满足函数对缓冲区的要求，因此不会出现问题。

2. 属于未定义行为，且符合ShellExecuteExA的文档隐含要求 #

• 这属于未定义行为：当你传入不可写/已失效的内存指针时，操作系统API对其进行写入操作的结果是不可预测的，可能表现为缓冲区篡改、错误返回、甚至程序崩溃。
• 从官方文档的隐含要求来看：ShellExecuteExA的lpFile参数对应的缓冲区需要满足两个条件：
  1. 调用期间保持有效：函数在执行过程中会持续使用该缓冲区，若指针指向的内存提前失效（如栈内存），必然导致错误。
  2. 可写：虽然文档未明确标注，但Windows的部分ANSI版本API内部会对传入的字符串缓冲区进行修改，因此要求缓冲区必须是可写的。传入只读内存会违反这个隐含要求，触发未定义行为。

内容的提问来源于stack exchange，提问作者SoulSystem