Docker容器运行pycoral报错加载libedgetpu.so.1失败

执行interpreter = pycoral.make_interpreter(model)抛出ValueError: Failed to load delegate from libedgetpu.so.1，且系统中不存在/dev/apex_0节点，是三层问题叠加导致：

• 宿主机Ubuntu 18.04未安装Coral Edge TPU驱动，udev规则未生效，无法生成对应硬件设备节点
• 启动NGC TensorFlow容器时未透传Coral硬件设备、挂载宿主机侧的Edge TPU驱动依赖
• 原生21.09-tf2-py3镜像未预置Edge TPU运行时库、pycoral适配依赖，无法直接调用TPU硬件

1. 宿主机侧安装驱动，生成/dev/apex_0设备节点 #

Coral硬件驱动必须运行在宿主机内核层，所有驱动安装操作不要在容器内执行：

# 添加Coral官方软件源
echo "deb https://packages.cloud.google.com/apt coral-edgetpu-stable main" | sudo tee /etc/apt/sources.list.d/coral-edgetpu.list
curl https://packages.cloud.google.com/apt/doc/apt-key.gpg | sudo apt-key add -
sudo apt update
# 安装驱动：USB版Coral安装libedgetpu1-std即可，PCIe版需要额外安装gasket-dkms内核模块
sudo apt install -y libedgetpu1-std gasket-dkms
# 配置udev规则，配置普通用户访问Coral设备的权限
sudo sh -c 'echo "SUBSYSTEM==\"apex\", MODE=\"0660\", GROUP=\"apex\"" >> /etc/udev/rules.d/65-apex.rules'
sudo groupadd -f apex
sudo usermod -aG apex $USER
# 重载规则触发设备节点生成
sudo udevadm control --reload-rules
sudo udevadm trigger

操作完成后在宿主机执行ls /dev/apex_0，能返回对应设备路径即说明宿主机驱动层正常。

注意：PCIe版本Coral安装完gasket-dkms后需要重启宿主机加载内核模块；USB版本Coral重新插拔一次硬件即可触发节点生成。

2. 启动容器时透传Coral设备与依赖 #

之前启动容器时缺少设备透传参数，启动NGC镜像时追加以下参数，将Coral硬件、宿主机驱动库映射进容器：

docker run --gpus all -it \
  --device /dev/apex_0:/dev/apex_0 \
  -v /usr/lib/x86_64-linux-gnu/libedgetpu.so.1:/usr/lib/x86_64-linux-gnu/libedgetpu.so.1 \
  nvcr.io/nvidia/tensorflow:21.09-tf2-py3

如果使用USB接口的Coral设备，需要额外追加--privileged -v /dev/bus/usb:/dev/bus/usb参数透传USB总线权限。

3. 容器内补全Python依赖 #

进入容器后执行以下命令，补全镜像内缺失的TFLite运行时和pycoral库，注意版本必须和镜像内置Python3.8、宿主机libedgetpu版本匹配：

apt update
apt install -y python3-pip
# 安装匹配版本的依赖，不要装过高版本避免API不兼容
pip3 install numpy==1.19.5 tflite-runtime==2.5.0.post1 pycoral==2.0.0

依赖安装完成后，在容器内执行以下测试代码，无报错即说明TPU调用链路正常：

from pycoral.utils.edgetpu import make_interpreter
# 替换为实际的tflite模型路径
interpreter = make_interpreter("model_edgetpu.tflite")
interpreter.allocate_tensors()
print("Edge TPU interpreter initialized successfully")

• 不要在容器内单独安装libedgetpu1 deb包，容器内库版本和宿主机驱动版本不匹配会导致delegate加载时出现段错误
• 如果启动容器时提示找不到/dev/apex_0，回到宿主机检查：USB版重新插拔硬件，PCIe版执行lsmod | grep gasket确认内核模块正常加载
• 21.09-tf2-py3镜像内置Python版本为3.8，不要下载适配其他Python版本的pycoral、tflite-runtime包，否则会出现导入错误
• 如果执行代码时提示权限不足，检查当前容器内用户是否属于apex用户组，或者启动容器时加--user root临时提权测试

内容的提问来源于stack exchange，提问作者vered