无需交叉验证的基于MPI的sklearn函数并行化方案咨询
无需交叉验证的MPI并行化sklearn LASSO训练实现方案
- 手动实现特征维度并行的LASSO坐标下降算法
sklearn原生Lasso类采用的坐标下降算法本身支持按特征维度拆分计算,你可以基于mpi4py自行实现并行逻辑:主节点保存完整的时间序列数据集,不拆分样本维度保证时序完整性,每轮迭代时将当前权重向量分发到所有工作节点,每个节点负责计算部分特征的坐标下降更新值,迭代完成后全节点同步最新权重和损失值,直到模型收敛。该方案完全不需要交叉验证分块,完全适配你的使用场景。 - 超参数调优场景的无交叉验证并行方案
如果你需要做LASSO正则系数α的调优但不使用交叉验证,可直接按超参数维度做并行拆分:每个MPI节点负责一个α取值的全量数据集训练,全程使用完整时间序列做训练和效果校验,不需要拆分数据集,主节点最后汇总所有节点的训练结果选取最优超参数即可。 - 低改造成本替代方案
如果不想自行修改底层算法,可直接使用支持MPI并行的稀疏线性模型训练库,这类库的LASSO实现默认支持多节点数据并行,且接口兼容sklearn的调用规范,无需调整现有数据处理逻辑即可直接对接你的时间序列数据集。
内容的提问来源于stack exchange,提问作者mjoudy
相关产品推荐
相关产品推荐

