自制COM进程内服务器：Explorer未调用IContextMenu接口问题

• 从零编写COM进程内服务器（InprocServer）实现Explorer的ContextMenuHandler，目标是右键菜单弹出MessageBox
• 已确认Explorer能成功查询IShellExtInit接口并正确获取选中文件名，但后续从未查询IContextMenu接口（通过调试MessageBox验证）
• 排查发现：Explorer会在调用IShellExtInit之前连续两次查询IContextMenu接口，但从未调用该接口的具体方法，导致无法添加右键菜单项
• 额外发现：IShellExtInit之后Explorer会重复查询IInternetSecurityManager和IObjectWithSite各两次，尝试实现这两个接口（仅返回E_INVALIDARG并弹出提示），但Explorer并未调用它们的方法，排除这两个接口是问题根源
• 已在多台设备测试，重启Explorer/系统后问题依旧

1. COM对象接口查询逻辑错误 #

Explorer对ContextMenuHandler的调用逻辑是：先创建COM对象，优先查询IContextMenu（用于预判断是否加载扩展），之后才调用IShellExtInit::Initialize完成初始化。如果你的COM对象在未初始化时，对IID_IContextMenu的QueryInterface请求返回错误，会导致Explorer后续放弃再次查询该接口。

解决措施：

• 确保QueryInterface处理IID_IContextMenu时，无论是否完成初始化都返回S_OK并提供有效接口指针，不要在未初始化阶段返回错误。IContextMenu的方法（如QueryContextMenu）可以在内部判断是否已完成初始化，未初始化时再做相应处理。
• 检查IContextMenu的AddRef/Release计数实现是否正确，避免对象提前被释放导致后续调用失败。

2. 注册表配置错误 #

ContextMenuHandler的注册表项配置错误会导致Explorer无法正确识别扩展，跳过后续接口调用。需重点检查：

• 确认在HKEY_CLASSES_ROOT\*\shellex\ContextMenuHandlers\{你的CLSID}（或对应目标文件类型的shellex子项）下，默认值为你的COM对象CLSID
• 检查HKEY_CLASSES_ROOT\CLSID\{你的CLSID}\InprocServer32的默认值为DLL的绝对路径，且ThreadingModel值设置为Apartment（Explorer为单线程公寓模型）
• 移除可能干扰的多余注册表项，比如错误设置的DisableIfNoHandlerModel

3. 线程模型不匹配 #

Explorer采用单线程公寓（STA）模型，如果你的COM对象ThreadingModel注册错误，会导致接口调用异常。

解决措施：

• 将InprocServer32下的ThreadingModel值修改为Apartment
• 确保DLL中的DllGetClassObject、DllCanUnloadNow等函数符合STA模型要求，比如用临界区保护全局共享数据

4. 权限或完整性限制 #

Windows UAC机制可能阻止未签名的COM扩展加载，或扩展权限不足导致无法运行。

解决措施：

• 以管理员身份重启Explorer：任务管理器中结束explorer.exe进程，新建任务输入explorer.exe并勾选“以管理员身份运行”，测试扩展是否正常加载
• 对DLL进行自签名测试：用signtool生成自签名证书并给DLL签名，避免被系统的代码完整性机制拦截

5. 接口实现细节错误 #

• 检查IShellExtInit::Initialize的实现：必须正确处理传入的IDataObject，且返回值必须为S_OK，任何错误返回都会导致Explorer终止后续操作
• 确认IContextMenu::QueryContextMenu的实现：正确添加菜单项后，返回MAKE_HRESULT(SEVERITY_SUCCESS, FACILITY_NULL, 菜单项数量)，否则Explorer会忽略添加的菜单

内容的提问来源于stack exchange，提问作者ScienceDiscoverer