TensorRT 3引擎转换失败：UFF解析器不支持tf.nn.moments相关操作

我之前也碰到过TensorRT 3对TensorFlow某些操作支持不足的问题，尤其是tf.nn.moments里的平方差计算这块，给你几个可行的解决思路：

思路1：手动拆分moments为基础运算 #

TensorRT 3的UFF解析器对tf.nn.moments的内部实现支持不完善，你可以把这个操作拆成TensorRT能识别的基础层来实现，具体步骤：

• 先单独计算输入的均值：mean = tf.reduce_mean(input, axes=[0, 1, 2], keepdims=False)
• 计算输入与均值的差值：diff = input - mean
• 对差值做平方运算：diff_squared = tf.square(diff)
• 最后计算方差：variance = tf.reduce_mean(diff_squared, axes=[0, 1, 2], keepdims=False)

拆分后每个步骤都是TensorRT 3支持的基础操作（reduce_mean、减法、平方），UFF解析器就能正确识别了。记得修改原TensorFlow模型代码后重新冻结模型，再进行TensorRT引擎转换。

思路2：编写TensorRT自定义插件 #

如果不想改动原模型结构，可以给TensorRT 3编写自定义插件来处理tf.nn.moments的逻辑：

• 继承TensorRT的IPluginV2接口，实现均值和方差的计算逻辑
• 在UFF解析时注册这个自定义插件，让解析器遇到tf.nn.moments时调用你的插件
• 编译插件并链接到你的转换脚本中

这个方法需要你熟悉TensorRT插件的开发流程，适合对TensorRT底层有一定了解的场景。

思路3：升级TensorRT版本（若项目允许） #

TensorRT 3是比较早期的版本，后续的TensorRT 5及以上版本对TensorFlow的操作支持有大幅提升，tf.nn.moments已经被官方兼容。如果你的项目环境允许升级，这会是最省心的方案——直接升级后重新执行转换流程即可。

注意：升级时要确保CUDA、cuDNN版本与新的TensorRT版本兼容，避免出现环境依赖冲突。

内容的提问来源于stack exchange，提问作者Blue