调用CreateFile()在Linux网络客户端打开命名管道时长时间挂起如何解决

现有方案失效原因 #

CancelSynchronousIo 只能取消处于用户态等待的同步IO请求，而连接远程SMB命名管道时的阻塞绝大多数发生在内核态的SMB协议栈等待环节，内核层未响应取消信号前，调用不会返回，因此线程超时取消方案不生效。 #

可行解决方案 #

• 使用异步IO调用替代同步CreateFile
  调用CreateFile时传入FILE_FLAG_OVERLAPPED标志，此时函数会立刻返回不会阻塞，你可以通过GetOverlappedResultEx指定超时时间等待IO完成，超时后调用CancelIoEx直接终止未完成的异步IO请求，该请求可以穿透到SMB内核层触发取消逻辑，避免长时间挂起。
• 前置做IPC$连接校验，减少无效调用
  139/445端口开放仅代表SMB服务端口可达，不代表命名管道可用。你可以在调用CreateFile前先调用NetUseAdd建立目标设备的\\<ip>\IPC$连接，指定短超时，若IPC$连接建立失败直接终止后续逻辑，无需再调用CreateFile触发长超时。
• 调整Windows SMB客户端全局超时（兜底方案）
  如果不想修改业务代码，可以通过修改注册表修改SMB客户端默认超时：
  路径：HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\LanmanWorkstation\Parameters
  新增DWORD类型键Sesstimeout，值设置为你能接受的超时秒数（建议设置为5~15秒），修改后重启LanmanWorkstation服务即可生效，所有SMB请求的最长等待时间都会被限制在该值以内。
• 使用CreateFile2简化超时配置
  若你的程序仅需要支持Windows 8及以上版本系统，可以直接使用CreateFile2接口，该接口原生支持传入CREATEFILE2_EXTENDED_PARAMETERS结构体直接指定IO超时，无需手动处理Overlapped异步逻辑。

内容的提问来源于stack exchange，提问作者user3161924