Android端TFLite GPU Delegate 2.4+初始化报MUL张量形状错误

API 探路者

2026-9-6

问题根因

TensorFlow Lite GPU Delegate从2.4.0版本开始收紧了逐元素算子的张量形状校验规则：

2.3.0版本未强制校验算子输入维度，2D形状张量可正常在GPU上执行
2.4.0及后续版本要求MUL等逐元素算子的GPU侧输入必须为3D张量（HxWxC格式）或4D张量（1xHxWxC格式），报错中提到的98x82D张量不符合校验规则，直接导致Delegate初始化失败。

模型修改绕过方案

无需降级依赖，通过以下模型修改即可解决问题：

维度补全：在模型导出/转换阶段，给触发报错的MUL节点的2D输入张量补充值为1的占位维度，将98x8形状reshape为1x98x8x1（符合4D 1xHxWxC规范），MUL运算完成后如果需要原维度，再reshape回98x8即可。该修改不会改变运算逻辑和推理精度，仅补全GPU Delegate要求的维度格式。
算子标记：在模型转换阶段给该异常MUL节点添加禁用GPU的标记，TFLite会自动将该节点调度到CPU执行，其余算子仍运行在GPU上，整体性能损耗可忽略。

代码侧兼容方案

如果暂时无法修改模型，可增加异常兜底逻辑，避免初始化直接崩溃：

val tfliteOptions = Interpreter.Options()
    .setNumThreads(THREADS_COUNT)
    .setAllowFp16PrecisionForFp32(true)
    .addDelegate(GpuDelegate())

val interpreter = runCatching {
    Interpreter(loadModelFile(context), tfliteOptions)
}.getOrElse {
    // GPU Delegate初始化失败时自动回退到CPU执行
    Interpreter(
        loadModelFile(context),
        Interpreter.Options().setNumThreads(THREADS_COUNT)
    )
}