自编码器模型的PMML实现及相关技术问题咨询

1. 如何将自编码器模型实现为PMML文件？ #

自编码器本质是前馈神经网络，可基于PMML的神经网络规范实现，步骤如下：

• 定义数据字段：通过<DataDictionary>声明输入（同时也是自编码器的重构输出）字段，明确字段类型（如continuous）。
• 构建神经网络结构：
  • 用<NeuralNetwork>标签指定模型类型为feedforward，函数类型为regression（针对连续值重构，分类场景用classification）。
  • 依次定义层级：输入层（<NeuralLayer type="input">）、编码隐藏层（<NeuralLayer type="hidden">，配置神经元数量与激活函数，如ReLU）、解码隐藏层（同隐藏层配置）、输出层（<NeuralLayer type="output">，通常用线性激活）。
  • 每个神经元通过<Neuron>定义，权重与偏置通过<Con>标签关联对应输入节点。
• 导出方式：若用Python训练模型，可借助sklearn2pmml、keras2pmml等工具转换；自定义结构可手动编写符合PMML 4.2+规范的XML文件。

2. 假设存在如图所示的模型，如何构建该模型并导出为PMML文件？ #

需先解析模型结构细节，再按以下流程操作：

• 拆解模型结构：明确输入节点数、隐藏层数量/神经元数、激活函数、连接规则（如是否含跳跃连接）。
• 映射到PMML组件：
  • 输入层对应<NeuralLayer type="input">，每个输入字段对应一个<Neuron>。
  • 隐藏层用<NeuralLayer type="hidden">，每个<Neuron>填入训练得到的权重、偏置值，指定激活函数。
  • 输出层按需求定义<NeuralLayer type="output">的神经元数量与激活逻辑。
• 导出与验证：优先用框架适配的转换工具导出；手动编写XML后，用PMML验证工具检查语法合规性，确保参数与结构匹配。

3. PMML是否能够编码此类模型结构？ #

PMML 4.2及以上版本完全支持编码基础自编码器结构：

• 支持输入层、多隐藏层、输出层的层级定义，可配置各类激活函数（ReLU、Sigmoid、线性激活等）。
• 可存储权重、偏置参数，准确复现自编码器的计算逻辑。
• 若模型含跳跃连接（如残差自编码器），PMML 4.4+版本通过<NeuralNetwork>的connections属性支持跨层连接，无需严格逐层递进。
• 注：变分自编码器（VAE）这类含概率采样的结构，PMML支持有限，但基础自编码器完全覆盖。

4. 在PMML中生成该模型的N个输出节点需要哪些必要组件？ #

已知<OutputField ... feature="predictedValue">仅适配单输出场景，多输出需配置以下组件：

• 数据字典声明：在<DataDictionary>中定义N个输出字段，字段类型与模型输出匹配（连续值用continuous，分类用categorical）。
• 输出层配置：输出层<NeuralLayer type="output">需包含N个<Neuron>，每个神经元对应一个输出节点，设置正确的激活函数。
• 输出字段映射：
  使用feature="transformedValue"替代predictedValue，为每个输出节点单独定义<OutputField>，通过targetField关联数据字典中的输出字段，或用neuralNetworkOutput指定神经元索引（从0开始）。示例片段：

  <Output>
    <OutputField name="output_1" feature="transformedValue" targetField="input_1"/>
    <OutputField name="output_2" feature="transformedValue" targetField="input_2"/>
    <!-- 依次定义N个输出字段 -->
  </Output>
  

• 模型类型匹配：多输出回归需将<NeuralNetwork>的function设为regression；多分类设为classification，并确保类别映射正确。

内容的提问来源于stack exchange，提问作者kevin5jan