macOS下如何将独立Qt程序渲染至VST插件窗口？

Nice call going the standalone Qt app route instead of trying to embed it directly into the VST plugin—those issues you listed (event loop conflicts, Qt version clashes, library lookup headaches) are no joke, especially in plugin environments where you have zero control over the host. Let's dive into the macOS side, since that's where the real friction lies.

核心挑战：macOS NSView vs Windows HWND #

Unlike Windows' straightforward HWND hierarchy, macOS's NSView system enforces strict ownership and rendering rules. Qt's Cocoa backend needs explicit hooks into the plugin's existing NSView to avoid rendering conflicts and ensure events flow correctly.

1. 获取VST插件的NSView句柄 #

首先，你需要从VST插件的宿主回调中拿到NSView指针。在VST3的C++ API里，IPlugView::attached方法传入的void*类型参数，在macOS上就是NSView*的地址：

#include <Cocoa/Cocoa.h>

void MyVSTPlugView::attached(void* parent, Vst::ViewRect* size) {
    // 安全转换父窗口指针为NSView
    NSView* pluginParentView = reinterpret_cast<NSView*>(parent);
    // 保存这个视图引用，后续传递给Qt程序
}

2. 让Qt程序渲染到指定NSView #

独立Qt程序默认会创建自己的NSWindow和NSView，我们需要修改初始化逻辑，把内容定向到VST插件的视图上：

• 不要用命令行参数传递NSView指针（有安全风险），推荐用Mach消息或XPC这类IPC方式把指针地址传给Qt程序。
• 在Qt程序的main函数中，绑定到目标NSView：

#include <QWindow>
#include <QGuiApplication>
#include <QWidget>
#include <QVBoxLayout>

int main(int argc, char* argv[]) {
    QGuiApplication app(argc, argv);

    // 从IPC通道获取NSView的地址
    quintptr viewAddress = ...; // 解析IPC消息得到地址
    NSView* targetPluginView = reinterpret_cast<NSView*>(viewAddress);

    // 创建绑定到现有NSView的Qt窗口
    QWindow* qtHostWindow = QWindow::fromWinId(WId(targetPluginView));
    qtHostWindow->setFlags(Qt::Window | Qt::FramelessWindowHint);
    qtHostWindow->setGeometry(0, 0, 
                              targetPluginView.frame.size.width, 
                              targetPluginView.frame.size.height);

    // 加载Qt界面（Widget或QML）并绑定到窗口
    QWidget* mainWidget = new QWidget();
    QVBoxLayout* layout = new QVBoxLayout(mainWidget);
    layout->addWidget(new QLabel("Qt UI running inside VST!"));
    mainWidget->show();

    // 将Widget附加到Qt窗口的内容区域
    mainWidget->setParent(qtHostWindow->contentWidget());

    return app.exec();
}

3. 修复事件传递与尺寸同步 #

macOS的事件系统不会自动把事件转发给Qt视图，需要手动处理：

• 在VST插件的NSView子类中，重写mouseDown:、keyDown:等事件方法，把事件转发给Qt窗口对应的NSView；或者直接把Qt的NSView设为插件NSView的子视图，让系统自动处理事件路由。
• 当VST插件窗口大小变化时，通过IPC通知Qt程序调用qtHostWindow->setGeometry()更新尺寸，避免UI裁剪或拉伸。

4. 避免Qt库冲突 #

既然用的是独立Qt程序，用macdeployqt把所有依赖的Qt库打包到程序包中，彻底隔离宿主可能存在的Qt版本：

macdeployqt YourQtStandaloneApp.app -dmg

生成的.app包会包含所有必需的Qt依赖，不需要外部查找库文件。

5. 管理程序生命周期 #

• 在VST插件的attached方法中启动Qt程序，并记录进程ID。
• 在插件的removed方法中，通过PID终止Qt进程，避免插件关闭后残留僵尸程序。
• 增加IPC检查，确保插件多次打开时不会启动多个Qt实例。

Windows实现参考（对比用） #

正如你所说，Windows端要简单很多，核心代码如下：

// 在VST插件的attached方法中
HWND pluginHwnd = reinterpret_cast<HWND>(parent);
// 将HWND作为命令行参数传递给Qt程序
ShellExecute(NULL, L"open", L"YourQtApp.exe", 
             std::to_wstring((uintptr_t)pluginHwnd).c_str(), 
             NULL, SW_HIDE);

// 在Qt程序的main函数中
HWND targetHwnd = reinterpret_cast<HWND>(std::stoull(argv[1]));
QWindow* qtWindow = QWindow::fromWinId((WId)targetHwnd);
// 按照macOS的方式绑定QtUI即可

内容的提问来源于stack exchange，提问作者Robin Lobel