调用GetLayeredWindowAttributes获取窗口透明度时报错的原因排查

问题描述 #

调用GetLayeredWindowAttributes获取其他进程窗口的Alpha值时，GetLastError有时返回"Access is denied（访问被拒绝）"，有时返回"The parameter is incorrect（参数不正确）"，但两种场景下返回的Alpha值均为204。目标窗口未以管理员权限运行，即使以管理员权限运行调用进程，问题仍存在。函数封装在DLL中，用于跨进程检测窗口透明度。

代码片段 #

std::string GetLastErrorAsString(DWORD err) {
    if (err == 0)
        return std::string(); //No error message has been recorded

    LPSTR messageBuffer = nullptr;

    size_t size = FormatMessageA(FORMAT_MESSAGE_ALLOCATE_BUFFER | FORMAT_MESSAGE_FROM_SYSTEM | FORMAT_MESSAGE_IGNORE_INSERTS,
        NULL, err, MAKELANGID(LANG_NEUTRAL, SUBLANG_DEFAULT), (LPSTR)&messageBuffer, 0, NULL);

    std::string message(messageBuffer, size);
        LocalFree(messageBuffer);
    
    return message;
}
 
DWORD GetWindowAlpha(HWND hWnd) 
{
    COLORREF color;
    BYTE alpha;
    DWORD flags;
    GetLayeredWindowAttributes(hWnd, &color, &alpha, &flags);
    GetLastErrorAsString(GetLastError());
    return DWORD(alpha);
}

原因分析 #

1. 目标窗口非分层窗口 #

GetLayeredWindowAttributes仅支持分层窗口（即带有WS_EX_LAYERED扩展样式的窗口）。若目标窗口不是分层窗口，调用该函数会返回FALSE并设置错误码ERROR_INVALID_PARAMETER（参数不正确），此时返回的alpha值是未初始化的栈内存垃圾值（恰好为204）。

2. 跨进程窗口访问权限不足 #

即使目标是分层窗口，跨进程访问时可能因权限问题失败：

• 完整性级别不匹配：若目标进程的完整性级别高于调用进程（比如目标是普通UAC进程，调用进程为低完整性级别），会触发"访问被拒绝"错误，管理员权限不一定能解决跨完整性级别的访问限制。
• 窗口权限未获取：调用GetLayeredWindowAttributes需要WINDOW_STYLE权限，默认窗口句柄可能未包含该权限，导致访问被拒绝。

3. 错误处理逻辑错误 #

代码中调用GetLastError()的时机错误：GetLayeredWindowAttributes调用成功时不会重置错误码，若之前有其他API调用设置过错误码，会导致误判。且未检查函数返回值就直接读取alpha，成功场景下的错误码是无效的。

解决方案 #

1. 先验证窗口是否为分层窗口 #

调用GetWindowLongPtr检查窗口扩展样式，仅对分层窗口调用GetLayeredWindowAttributes：

bool IsLayeredWindow(HWND hWnd)
{
    return (GetWindowLongPtr(hWnd, GWL_EXSTYLE) & WS_EX_LAYERED) != 0;
}

2. 修正错误处理逻辑 #

先设置SetLastError(0)，再检查函数返回值，仅在返回FALSE时读取错误码：

DWORD GetWindowAlpha(HWND hWnd) 
{
    COLORREF color = 0;
    BYTE alpha = 255; // 默认不透明
    DWORD flags = 0;

    if (!IsLayeredWindow(hWnd))
    {
        return alpha;
    }

    SetLastError(0);
    BOOL result = GetLayeredWindowAttributes(hWnd, &color, &alpha, &flags);
    if (!result)
    {
        DWORD err = GetLastError();
        std::string errMsg = GetLastErrorAsString(err);
        // 这里可以添加错误日志逻辑
    }
    return DWORD(alpha);
}

3. 处理跨进程权限问题 #

• 获取足够的窗口访问权限：调用GetWindowThreadProcessId获取目标进程ID，再调用OpenProcess获取进程句柄，结合AdjustTokenPrivileges提升权限；或调用SetWindowPos等API前确保拥有WINDOW_STYLE权限。
• 匹配完整性级别：若目标进程完整性级别更高，需将调用进程的完整性级别提升至与目标一致，或使用CreateProcessAsUser以相同用户身份启动调用进程。

内容的提问来源于stack exchange，提问作者Cesar