矩阵形式均方误差关于参数K的导数正确性验证请求
矩阵形式均方误差关于参数K的导数正确性验证请求
嘿,咱们一步步来核对你推导的导数是否正确哈~
首先先明确各个变量的维度对应关系,确保推导过程中维度是自洽的:
- $M$和$P$是5×N矩阵,所以每一列$M_i$、$P_{i-1}$都是5×1的列向量
- $\theta$是5×5矩阵,因此$\theta*P_{i-1}$的结果是5×1列向量
- $K$是5×96矩阵,$Y$是96×N矩阵,$Y_i$是$Y$的第i列(96×1),所以$K*Y_i$也是5×1列向量
接下来看MSE的单个项:$L_i = (M_i - \thetaP_{i-1} - KY_i)^T (M_i - \thetaP_{i-1} - KY_i)$(这里的平方本质是向量的内积,结果是标量)。根据矩阵求导的基本规则:对于$d/dX (a - Xb)^T(a - Xb)$,其结果为$-2(a - Xb)b^T$,其中$a$对应这里的$(M_i - \theta*P_{i-1})$,$X$对应$K$,$b$对应$Y_i$。
所以单个项对$K$的导数为:
$dL_i/dK = -2(M_i - \thetaP_{i-1} - KY_i)Y_i^T$
而MSE是所有$L_i$的平均,即$MSE = \frac{1}{N}\sum^N_{i=1}L_i$,因此对$K$的导数就是单个项导数的平均:
$\frac{dMSE}{dK} = \frac{1}{N}\sum^N_{i=1}dL_i/dK = \frac{2}{N}\sum^N_{i=1}(-M_i + \thetaP_{i-1} + KY_i)Y_i^T$
这和你推导的结果完全一致!另外我们可以做个维度验证:$(-M_i + \thetaP_{i-1} + KY_i)$是5×1列向量,$Y_i^T$是1×96行向量,两者相乘得到5×96矩阵,和参数$K$的维度完全匹配,这也进一步佐证了推导的正确性。
所以你的计算是完全正确的,不用有顾虑哦~
备注:内容来源于stack exchange,提问作者Rio
相关产品推荐
相关产品推荐

