《Gaussian processes for Machine Learning》练习2.4:高斯过程回归预测方差随训练数据增加的非递增性证明问询
《Gaussian processes for Machine Learning》练习2.4:高斯过程回归预测方差随训练数据增加的非递增性证明问询
各位好,我现在在做《Gaussian processes for Machine Learning》里的练习2.4,卡在了这个证明题上,想请大家帮忙指点一下思路。
问题内容
设$var_n(f(x_))$是高斯过程回归模型在$x_$处的预测方差,对应的训练数据集大小为$n$。如果只使用前$n-1$个训练点,对应的预测方差记为$var_{n−1}(f(x_))$。需要证明$var_n(f(x_)) \leq var_{n−1}(f(x_))$,也就是随着训练数据的增加,$x_$处的预测方差不会变大。
我已经尝试的思路
题目给的提示是用分块矩阵来分解预测方差的表达式:$var_n(f(x_)) = k(x_, x_) - k_^\intercal (K + \sigma_n^2 I)^{-1} k_$,这里$k$是高斯过程回归里用的核函数,不过后续相关内容我没复制完整,目前我还没找到把这个表达式和$var_{n−1}(f(x_))$关联起来的方法,不知道该怎么继续推进这个证明。
备注:内容来源于stack exchange,提问作者Mashe Burnedead
相关产品推荐
相关产品推荐

