Go中是否有对应C FILE的类型？编译DLL遇os.File导出问题

问题根源 #

1. cgo导出类型限制：cgo要求导出函数的参数/返回值必须是C语言兼容的基础类型（如C.int、C.char*等），Go的os.File是内部封装类型，无法直接作为导出函数的参数，这就是编译报错Go type not supported in export: os.File的原因。
2. Windows文件描述符差异：Windows系统中，Python的fileno()返回的是MSVCRT（C运行时）的文件描述符，而Go的os.NewFile需要的是Windows原生的文件句柄（HANDLE），直接传递会导致read file descriptor: The handle is invalid错误。

解决方案 #

1. 修改Go代码，适配cgo导出及Windows文件句柄转换 #

修改后的代码做了以下调整：

• 将导出函数参数改为C.int（对应文件描述符）
• 在Windows下通过C代码将CRT文件描述符转换为原生HANDLE
• 初始化flag（因为DLL的main函数不会自动执行）
• 完善错误处理和资源释放

package main

/*
#include <windows.h>
#include <stdio.h>

HANDLE fd_to_handle(int fd) {
    return (HANDLE)_get_osfhandle(fd);
}
*/
import "C"
import (
	"bufio"
	"flag"
	"fmt"
	"io"
	"log"
	"os"
	"strconv"
)

var (
	min    = flag.Int("min", 6, "minimum length of UTF-8 strings printed, in runes")
	max    = flag.Int("max", 256, "maximum length of UTF-8 strings printed, in runes")
	ascii  = flag.Bool("ascii", false, "restrict strings to ASCII")
	offset = flag.Bool("offset", false, "show file name and offset of start of each string")
)

func init() {
	// 初始化flag，DLL的main函数不会自动执行
	flag.Parse()
}

//export doStrings
func doStrings(fd C.int) {
	// Windows下转换CRT文件描述符为原生HANDLE
	handle := C.fd_to_handle(fd)
	if handle == C.INVALID_HANDLE_VALUE {
		log.Println("invalid file handle")
		return
	}

	// 将HANDLE转换为Go的os.File
	file := os.NewFile(uintptr(handle), "unknown")
	defer file.Close()

	in := bufio.NewReader(file)
	str := make([]rune, 0, *max)
	filePos := int64(0)

	print := func() {
		if len(str) >= *min {
			s := string(str)
			fmt.Println(s)
		}
		str = str[:0]
	}

	for {
		r, wid, err := in.ReadRune()
		if err != nil {
			if err != io.EOF {
				log.Print(err)
			}
			return
		}
		filePos += int64(wid)

		if !strconv.IsPrint(r) || (*ascii && r >= 0xFF) {
			print()
			continue
		}

		if len(str) >= *max {
			print()
		}
		str = append(str, r)
	}
}

func main() {}

2. 编译命令 #

执行以下命令编译为64位DLL（需与Python架构匹配）：

go build -o strings.dll -buildmode=c-shared

3. 修改Python代码，适配调用 #

确保传递正确的文件描述符，并指定函数参数类型：

from ctypes import *

# 加载DLL
mydll = cdll.LoadLibrary("./strings.dll")

# 配置导出函数的参数类型
do_strings = mydll.doStrings
do_strings.argtypes = [c_int]
do_strings.restype = None

# 打开文件并调用
with open("./go.mod", "rb") as h:
    do_strings(h.fileno())

关键说明 #

• flag初始化：DLL的main函数不会被执行，所以必须在init函数中调用flag.Parse()来初始化命令行参数。
• Windows句柄转换：通过内嵌C代码_get_osfhandle将CRT文件描述符转换为Windows原生HANDLE，这是解决"无效句柄"错误的核心。
• 资源释放：使用defer file.Close()确保文件资源被正确释放，且不会影响Python侧的文件句柄。

内容的提问来源于stack exchange，提问作者Lakshaya U.