Android端使用MoveNet模型时TFLite GPU委托加载失败导致应用崩溃

• 你使用的2.3.0版本TensorFlow Lite GPU delegate对算子的支持度极低，报错中列出的ARG_MAX、GATHER_ND等算子均未在该版本中实现GPU适配，部分已支持的算子也存在float16类型适配缺陷，无法匹配MoveNet float16模型的张量类型要求。
• 2.3.0版本的GPU delegate默认未开启不支持算子的CPU回退机制，只要存在不支持的算子就会直接抛出异常崩溃。

1. 升级TFLite相关依赖到稳定新版本 #

至少升级到2.8.0以上版本，推荐使用2.15.0及更高的正式版本，同步升级配套依赖避免版本冲突：

implementation 'org.tensorflow:tensorflow-lite:2.15.0'
implementation 'org.tensorflow:tensorflow-lite-gpu:2.15.0'
implementation 'org.tensorflow:tensorflow-lite-support:0.4.4'

新版本GPU delegate已覆盖MoveNet模型用到的所有算子，同时优化了float16类型张量的适配逻辑。

2. 调整GPU delegate配置开启回退机制 #

修改解释器初始化代码，开启精度损失允许和不支持算子自动回退CPU的逻辑，避免直接崩溃：

val options = Interpreter.Options().apply{
    val gpuOptions = GpuDelegate.Options().apply {
        // 允许精度损失适配float16模型
        setAllowPrecisionLoss(true)
        // 优先选择均衡性能配置
        setInferencePreference(GpuDelegate.Options.INFERENCE_PREFERENCE_SUSTAINED_SPEED)
    }
    try {
        // 直接尝试添加GPU delegate，自动检测设备支持性
        this.addDelegate(GpuDelegate(gpuOptions))
    } catch (e: Exception) {
        // GPU初始化失败时回退到CPU运行
        this.setNumThreads(8)
    }
}
interpreter = Interpreter(loadTFFile(), options)

3. 可选优化方案 #

如果升级后仍存在兼容性问题，可以换用int8量化版本的MoveNet模型，量化版本对GPU delegate的适配性更好，运行速度更快，实际使用中精度损失可忽略。
如果必须保留2.3.0版本的依赖，只能放弃GPU delegate，直接使用CPU运行模型。

内容的提问来源于stack exchange，提问作者CSRd