2GB版树莓派4运行YOLOv4 Tiny遇RESIZE_BILINEAR v3注册失败报错
报错核心成因
该报错的核心矛盾是模型使用的算子版本与本地安装的tflite-runtime版本错位:V3版本的RESIZE_BILINEAR内建算子是TensorFlow 2.8及以上版本正式合入的功能,低版本的tflite运行时没有注册对应版本的算子逻辑,因此加载模型时直接抛出注册失败错误。
可落地的解决步骤
- 先核对环境版本匹配情况
执行pip list | grep -E "tflite|tensorflow"检查当前环境的包版本,正常低于2.7.0的tflite-runtime均无法支持V3版本的RESIZE_BILINEAR算子。注意2G内存的树莓派设备不要在同一环境同时安装全量TensorFlow和tflite-runtime,二者冗余的推理逻辑会挤占大量内存,可卸载全量TensorFlow包,仅保留tflite-runtime完成推理 - 匹配版本安装对应tflite运行时
不要直接通过默认pip源安装ARM架构的tflite-runtime,官方源的ARM版本包更新滞后,需要安装与你当初导出TFLite模型时所用TensorFlow版本完全对应的tflite-runtime安装包,保证算子注册列表与模型使用的算子版本完全一致 - 调整TFLite模型导出参数降低算子版本要求
如果不想替换当前已安装的tflite运行时,可以在重新导出模型时,给TFLite转换器添加兼容参数,将RESIZE_BILINEAR算子的输出版本限制为V2,让模型兼容低版本的运行时环境;同时打开选择TF算子集的开关,避免出现其他内置算子版本不匹配的问题 - 适配2G内存树莓派的运行环境优化
执行检测脚本前临时将swap交换分区扩大到2G以上,避免内存不足导致的算子加载不全、运行时随机崩溃;不要开启TFLite的GPU委托加速,树莓派的GPU驱动对TFLite算子的适配覆盖不全,反而会触发算子加载异常的问题,使用纯CPU推理即可 - 兜底兼容方案
如果上述调整仍存在版本匹配问题,可以将原TFLite模型转换为ONNX格式,使用ARM版本的ONNX Runtime完成推理,该运行时对树莓派老旧系统的算子覆盖更全,不会出现单个内建算子版本不匹配的加载错误
内容的提问来源于stack exchange,提问作者muhammad jahanzaib Khan
相关产品推荐
相关产品推荐

