如何为自研操作系统开发支持ELF应用的SDK/API及动态链接机制

是否需要引入类Windows DLL的动态库机制？ #

需要，这是实现你需求的最优方案。动态共享库机制完全匹配你想要的「类似Windows的应用运行逻辑」，也能天然满足「应用无需引入操作系统头文件即可调用系统接口」的要求。
如果不使用动态库，你只能选择硬编码系统调用号的裸调用方案，不仅维护成本极高，也无法支持类、成员函数这类面向对象的内置接口暴露，和主流操作系统的实现逻辑完全不符。 #

具体实现步骤（适配ELF格式） #

1. 先固化系统接口的ABI（应用二进制接口） #

这是实现无SDK头文件调用的核心前提：

• 所有开放给外部应用的函数、类成员函数，固定调用约定（建议直接复用System V AMD64/ARM等对应架构的通用ELF调用约定，减少额外适配工作）、参数个数、参数类型、返回值类型，版本迭代时绝不修改已有接口的ABI，仅新增接口
• 类的虚表结构、成员变量偏移量、非虚成员函数地址偏移全部固定，对外暴露的符号名统一规范，比如SysGui::create_window、sys_alloc_memory
• 所有开放接口的符号全部加入动态符号表，不做strip裁剪

2. 实现系统共享库与ELF动态加载器 #

• 将所有要开放的系统内置逻辑打包为标准ELF格式的共享库（.so文件，对应Windows的.dll），系统启动时预加载到内存的共享地址空间，所有应用可共用这一份库的代码段，节省内存
• 在你的OS的ELF加载模块中新增动态链接逻辑：加载外部应用的ELF文件时，自动解析应用中的未定义符号，和预加载的系统共享库的动态符号表做匹配，将应用中对系统接口的引用直接重定位到内存中共享库的对应地址
• 不需要将系统代码静态编译进应用本身，应用体积可以做到极小

3. 最小化SDK实现 #

你不需要给开发者提供任何系统源码头文件，仅需要提供两类资源即可：

• 编译好的系统共享库文件，以及对应的接口文档，标注每个接口的符号名、参数规则、返回值规则、调用约定
• 开发者只需要在自己的代码中按需声明对应函数的extern签名即可调用，举个例子：

  // 开发者代码中不需要包含任何OS头文件，仅需手动声明要用到的接口即可
  extern int sys_print(const char* content);
  extern void* sys_alloc(size_t size);
  
  int main() {
    sys_print("Hello OS");
    void* buf = sys_alloc(1024);
    return 0;
  }
  

• 如果想进一步降低开发者的使用成本，可以额外提供一个预编译的存根.o文件，里面已经提前声明了所有开放接口的extern签名，开发者直接将该存根文件和自己的代码一起编译即可，连手动写extern声明的步骤都可以省略

可选的轻量替代方案（不推荐） #

如果你暂时不想实现完整的动态加载机制，也可以用固定系统调用表的方式实现无SDK调用：

• 给每个系统接口分配唯一的固定调用号，约定好寄存器传参规则，应用通过syscall指令/软中断触发内核回调
• 该方案也不需要头文件即可调用，但仅能支持纯C风格的函数接口，无法原生支持类、成员函数等面向对象接口，扩展性极差，和主流操作系统的应用运行逻辑不符，仅适合临时调试使用

内容的提问来源于stack exchange，提问作者Vapour Dev