能否构建训练时含XYZ+距离输入、运行时仅用距离的神经网络？

一、训练与推理输入的适配 #

完全可以按照你的思路操作，但需要做小调整来适配训练和推理的差异：

• 训练阶段：继续用4组（X,Y,Z,距离）数据作为输入，让模型学习当XYZ固定时，距离参数与输出XY之间的映射规律。
• 推理阶段：因为XYZ是固定值，有两种高效的处理方式：
  • 方式1：将固定的XYZ值融合到模型的前层参数中（比如把输入层对应XYZ的权重和偏置与固定值计算合并），这样推理时只需要输入距离参数，模型直接输出XY，无需额外拼接操作，非常适合嵌入式环境。
  • 方式2：推理时每次把固定的XYZ值和输入的距离参数拼接成符合模型输入维度的张量再传入，这种方式无需修改模型，但会多一点拼接的计算开销。

二、嵌入式部署的模型缩减方案 #

针对你用TensorFlow搭建的全连接网络，可从以下几个方向优化：

• 模型剪枝：使用TensorFlow Model Optimization工具的prune_low_magnitude功能，裁剪掉权重值接近0的冗余神经元，减少模型参数数量和计算量，剪枝后还可以再做一次微调保证精度。
• 精度量化：用tf.lite.TFLiteConverter将模型转换为TensorFlow Lite格式，同时开启量化（动态范围量化、全整数量化均可），把32位浮点参数转为8位整数，能大幅压缩模型体积，还能提升嵌入式设备的推理速度。
• 简化网络结构：减少全连接层的层数或每层的神经元数量，比如把原本3层256神经元的结构改成2层64神经元，只要验证精度满足业务需求即可。
• 替换轻量级模型：如果全连接网络仍不够精简，可以尝试用单层或双层极小的全连接网络，甚至微型的卷积结构（如果映射关系适合），只要能拟合距离到XY的映射即可。

内容的提问来源于stack exchange，提问作者Roman Razvan