Lua 5.4.7 VM变长参数函数return指令执行机制问询

我正在研究Lua 5.4.7虚拟机的实现，它相对简单，但无法理解变长参数函数中return的工作机制。固定参数函数的逻辑很清晰：将闭包和参数放入栈，调用函数即可，其调用栈流程如下：

// before call
| caller call frame      |
[...][closure][arg1][arg2]

// during call
     | callee call frame      |
[...][closure][arg1][arg2][...]

// after call
| caller call frame   |
[...][return1][return2]

可见return指令只是将返回值复制到调用帧基址处。但变长参数函数的调用不同，它在指令列表开头使用特殊操作码VARARGPREP。我原本理解的流程如下：

// before call
| caller call frame                             |
[...][closure][arg1][arg2][vararg1][...][varargN]

// during call, before VARARGPREP
     | callee call frame                             |
[...][closure][arg1][arg2][vararg1][...][varargN][...]

// during call, after VARARGPREP
// VARARGPREP copies closure and fixed params to top of the stack,
// and shifts base of call frame
// var args can be accesed via (base - varargs amount + index)
                                                 | callee call frame      |
[...][closure][arg1][arg2][vararg1][...][varargN][closure][arg1][arg2][...]

// after call
| caller call frame                                               |
[...][closure][arg1][arg2][vararg1][...][varargN][return1][return2]

按照这个理解最终会导致栈处于无效状态，显然实际并非如此，想请教变长参数函数中return的实际工作机制是什么？

变长参数函数的return实际工作机制 #

首先纠正你对VARARGPREP的误解：它不会复制闭包和固定参数到栈顶，而是调整调用帧的基址（base），同时为变长参数创建便捷的访问视图，避免栈空间冗余复制。

正确的调用栈流程 #

1. 调用前（before call）
   和你理解的一致，调用者帧中依次存放：调用者栈内容、闭包、固定参数、变长参数序列：

   | caller call frame                             |
   [...][closure][arg1][arg2][vararg1][...][varargN]
   

2. 进入调用后、执行VARARGPREP前（during call, before VARARGPREP）
   Lua VM创建被调用者的调用帧，此时base指向闭包的位置，被调用者可直接访问固定参数（base+1是arg1，base+2是arg2），但变长参数位于base+固定参数数量+1开始的位置，直接访问偏移繁琐：

   | callee call frame                             |
   [...][closure][arg1][arg2][vararg1][...][varargN][...]
   

3. 执行VARARGPREP后（during call, after VARARGPREP）
   VARARGPREP的核心操作是调整被调用者帧的base指针，将其移动到原base + 固定参数数量的位置，同时在调用帧的额外信息中记录变长参数的数量（nvararg）。此时：

   • 固定参数的访问变为base - 固定参数数量 + 1（比如arg1对应base-2+1=base-1）
   • 变长参数直接从base+1开始访问（vararg1是base+1，varargN是base+N）
     栈结构没有复制冗余内容，仅调整了指针：

   | callee call frame                  |
   [...][closure][arg1][arg2][vararg1][...][varargN][...]
                          ^ new base
   

4. 函数执行完成后（after call）
   执行RETURN指令时，Lua VM会根据调用者帧的信息，将返回值复制到原调用者帧中闭包和参数所在的位置——也就是调用前closure所在的索引位置开始覆盖。同时VM清理被调用者的帧，并将栈顶调整到返回值的末尾。

   最终栈结构恢复为：

   | caller call frame               |
   [...][return1][return2]
   

   核心逻辑是：不管是固定参数还是变长参数函数，RETURN指令都会用返回值覆盖调用时传入的闭包与所有参数（包括固定和变长参数），不会留下冗余栈内容，因此栈始终有效。

核心逻辑总结 #

• VARARGPREP的作用是调整调用帧基址，简化变长参数的访问，而非复制栈内容。
• 变长参数函数的RETURN指令与固定参数函数核心逻辑一致：用返回值覆盖调用时传入的闭包与参数区域，清理被调用者帧，保证栈的有效性。

内容的提问来源于stack exchange，提问作者vanilla