无法修改传递给Lua函数的C++ Entity对象问题求助

背景与已实现功能 #

• 基于SDL2开发2D游戏引擎，从继承式实体架构转为组合式（Entity类+Component集合），引入Lua5.4通过脚本定义实体
• 已完成功能：
  • 用Lua C API绑定引擎方法（如playSound）与Entity类，支持通过XML加载实体脚本
  • 创建Entity时自动生成带Lua状态的ScriptComponent，Lua状态仅在Entity销毁时关闭
  • 为Entity类创建带__index和__gc元方法的元表，Lua侧创建的Entity对象可正常调用方法
  • 从Lua表加载Component数据、引擎函数调用均正常

问题现象 #

碰撞触发Lua的onCollide回调时，playSound可正常执行，但操作传入的this/second Entity对象（Lua侧显示为userdata类型）会触发段错误：

onCollide = function(this, second)
    print(type(this)) -- 输出userdata
    print(type(second)) -- 输出userdata
    -- Entity.scale(this, 10, 10) -- 触发段错误
    -- this:scale(10, 10) -- 触发段错误
    playSound("jump") -- 正常执行
end

错误代码分析 #

问题出在传递C++ Entity指针到Lua的逻辑中：

// 错误的指针处理逻辑
void* self = (Entity*)lua_newuserdata(state, sizeof(Entity));
self = owner; // 此处错误：覆盖了userdata的指针变量，未将owner地址存入userdata内存

lua_newuserdata会在Lua栈上分配一块sizeof(Entity)大小的内存并返回其地址，但上述代码直接将指针变量self赋值为owner，相当于丢弃了Lua分配的userdata内存地址，并未把实际的Entity指针存入这块内存。当Lua调用Entity方法时，会从无效的userdata内存中读取数据，最终触发段错误。

解决方案 #

修改传递Entity到Lua的代码，将实际的Entity指针存入userdata的内存空间，而非覆盖指针变量：

if (lua_isfunction(state, -1)) {
    // 为this创建userdata，存入实际的Entity指针
    Entity** selfPtr = (Entity**)lua_newuserdata(state, sizeof(Entity*));
    *selfPtr = owner; // 将owner地址写入userdata内存

    luaL_getmetatable(state, "EntityMetaTable");
    lua_setmetatable(state, -2);

    // 为second创建userdata，同样写入Entity指针
    Entity** secondPtr = (Entity**)lua_newuserdata(state, sizeof(Entity*));
    *secondPtr = entity;

    luaL_getmetatable(state, "EntityMetaTable");
    lua_setmetatable(state, -2);

    if (luaOk(state, lua_pcall(state, 2, 0, 0))) {
        std::cout << "onCollide() Called sucessfully!!!" << std::endl;
    }
    script->clean();
    return;
}

同时，所有Lua绑定的Entity方法（如scale）需要从userdata中取出实际的Entity指针后再调用C++方法：

static int lua_entity_scale(lua_State* L) {
    // 从userdata中取出Entity指针
    Entity** selfPtr = (Entity**)luaL_checkudata(L, 1, "EntityMetaTable");
    Entity* self = *selfPtr;

    float x = luaL_checknumber(L, 2);
    float y = luaL_checknumber(L, 3);

    self->scale(x, y); // 调用C++侧Entity的方法
    return 0;
}

另外，__gc元方法需对应修改，避免错误销毁C++侧管理的Entity对象：

static int lua_entity_gc(lua_State* L) {
    // Entity生命周期由C++引擎管理，仅清空指针引用
    Entity** selfPtr = (Entity**)luaL_checkudata(L, 1, "EntityMetaTable");
    *selfPtr = nullptr;
    return 0;
}

关键说明 #

• 核心错误是混淆了指针变量与指针指向的内存：lua_newuserdata返回的是Lua管理的内存地址，需将Entity指针写入这块内存，而非直接赋值给指针变量
• 使用Entity**存入userdata，是为了传递已存在的Entity对象地址，而非在Lua侧创建新的Entity实例
• 所有Lua绑定的Entity方法，必须先从userdata中取出实际指针，再调用对应C++方法

内容的提问来源于stack exchange，提问作者kaktusas2598