使用Cvxpylayers构建PyTorch优化层时触发‘Problem must be DPP’异常

问题根源 #

cvxpylayer仅支持凸优化问题，且要求问题符合DPP（约束参数化编程）规范。你的原代码中，目标函数是最小化一个凹函数：

cp.Minimize((w_model @ w) - cp.sum_squares(cov_matrix @ w))

其中cp.sum_squares(cov_matrix @ w)是凸函数，线性项w_model @ w减去凸函数得到的是凹函数。最小化凹函数不属于凸优化问题，因此无法通过DPP校验。

修正步骤 #

根据业务逻辑，将目标函数调整为合法的凸优化形式：

• 如果需求是最大化(w_model @ w) - cp.sum_squares(cov_matrix @ w)，直接将目标函数改为最大化凹函数（这是凸优化问题的合法形式）；
• 或等价转换为最小化凸函数：cp.sum_squares(cov_matrix @ w) - w_model @ w。

另外，为了强化DPP兼容性，可将cp.sum_squares(cov_matrix @ w)显式转换为二次型形式（数学等价）：cp.quad_form(w, cov_matrix @ cov_matrix)（因cov_matrix是PSD矩阵，转置等于自身）。

修正后的代码 #

class OptimizerLayer(torch.nn.Module):
    """
    Optimizer layer.
    """
    def __init__(self, n):
        """
        :param n: number of outputs of the model
        """
        super().__init__()
        self.n = n  # dimensionality of the problem
        self.build_layer()
        self.layer = None

    def build_layer(self):
        w = cp.Variable(self.n)
        w_model = cp.Parameter(self.n)
        cov_matrix = cp.Parameter((self.n, self.n), PSD=True)
        
        # 方案1：最大化原目标函数（凹函数的最大化属于凸优化问题）
        objective = cp.Maximize((w_model @ w) - cp.sum_squares(cov_matrix @ w))
        
        # 方案2：等价转换为最小化凸函数（二选一即可）
        # objective = cp.Minimize(cp.sum_squares(cov_matrix @ w) - (w_model @ w))
        
        # 可选：用quad_form显式表达二次项，强化DPP兼容性
        # objective = cp.Maximize((w_model @ w) - cp.quad_form(w, cov_matrix @ cov_matrix))
        
        constraints = [cp.sum(w) == 1, w >= 0, w <= .3]
        problem = cp.Problem(objective, constraints)
        self.layer = CvxpyLayer(problem, parameters=[w_model, cov_matrix], variables=[w])

    def forward(self, w_model, cov_matrix):
        w_optimal, = self.layer(w_model, cov_matrix, solver_args={"acceleration_lookback": 0})
        return w_optimal

验证说明 #

调整后的目标函数属于合法的凸优化问题，且所有参数的使用符合DPP规范，能够被cvxpylayer正确处理。

内容的提问来源于stack exchange，提问作者Petar Ulev