编译x86版detours.net时DetourEnumerateImportsEx报回调类型错误
核心报错原因
该问题和CMake配置、目标架构参数设置无关,本质是x86平台下函数调用约定不兼容,也是x64编译正常、x86编译直接报错的关键原因:
- Windows SDK中
CALLBACK宏固定展开为__stdcall,因此PF_DETOUR_IMPORT_FUNC_CALLBACK_EX类型的函数指针,强制要求绑定的回调函数必须采用__stdcall调用约定。 - 你定义的
Unsandbox函数未显式标注调用约定,在MSVC的x86编译规则下,普通C/C++函数默认使用__cdecl调用约定。哪怕返回值、参数列表完全匹配,只要调用约定存在差异,函数指针类型就属于不兼容类型,会直接触发C2664转换错误。 - x64平台下MSVC仅支持统一的原生调用约定,会自动抹平
__cdecl和__stdcall的语法差异,因此x64编译阶段不会暴露这个调用约定不匹配的问题。
修复方案
给Unsandbox函数补充和类型定义一致的调用约定修饰即可:
static BOOL CALLBACK Unsandbox( _In_opt_ PVOID pContext, _In_ DWORD nOrdinal, _In_opt_ LPCSTR pszFunc, _In_opt_ PVOID* ppvFunc )
排查注意事项
如果修改后仍出现同类类型转换错误,可以检查项目编译选项:
- 确认没有开启
/Gd(全局强制__cdecl)、/Gz(全局强制__stdcall)的冲突配置 - 确保Detours库本身的编译调用约定和你的DLL项目完全对齐
内容的提问来源于stack exchange,提问作者Sebi
相关产品推荐
相关产品推荐

