基于VGG16的Faster RCNN转OpenVINO IR时_call_impl入参异常排查
问题背景
- 调试场景:基于PyTorch实现、以VGG16为骨干、Faster RCNN为框架的检测模型,正在开展向OpenVINO IR格式转换的开发工作
- 触发异常的代码行:
fc7 = self.classifier(pool, abc="abc123"),其中pool为类型为OpenVinoTensor的预期输入,abc="abc123"为调试阶段新增的测试参数 - 被调用的
self.classifier为Sequential结构,内部层定义如下:Sequential( (0): Linear(in_features=25088, out_features=4096, bias=True) (1): ReLU(inplace=True) (2): Linear(in_features=4096, out_features=4096, bias=True) (3): ReLU(inplace=True) )
异常观测现象
- 代码执行后进入PyTorch原生的
torch.nn.Module._call_impl方法,该方法的定义为def _call_impl(self, *input, **kwargs) - 入参与预期不符:
- 位置参数
input实际取值为(ReLU_57,),是包含计算图节点引用的元组,并非预期传入的OpenVinoTensor类型的pool对象 - 关键字参数
kwargs取值正常,准确接收到了调试传入的abc="abc123"
- 位置参数
异常产生原因
该异常是OpenVINO转换适配层对PyTorch Sequential容器的调用逻辑做非兼容改造导致的,具体链路如下:
- 第一,OpenVINO在将PyTorch模型转换为可本地执行的IR计算图时,会对原生
torch.nn.Module的_call_impl方法做适配替换,不再完全遵循原生PyTorch逐个子层循环调用的执行逻辑。 - 第二,适配层对入参做了拆分处理:将调用时传入的自定义关键字参数(也就是调试用的
abc="abc123")单独提取为全局计算图执行的附加参数,因此这部分参数可以正常透传,观测到的取值完全符合预期。 - 第三,适配层没有对调用时传入的位置参数(也就是
poolOpenVinoTensor对象)做透传绑定,反而直接将IR计算图预先编排好的第一层输入节点引用(也就是classifier层前置的ReLU激活节点ReLU_57)作为位置参数传入了_call_impl,最终导致观测到的input值与预期完全不符。 - 补充说明:原生PyTorch的Sequential容器本身不支持在调用时传入额外的关键字参数,一旦传入会直接抛出参数不匹配的异常;本次测试之所以能走到
_call_impl阶段,本质是OpenVINO的适配层拦截了原生的参数校验逻辑,既让自定义调试参数被透传,也同时暴露了位置参数未正确绑定的适配缺陷。
内容的提问来源于stack exchange,提问作者Ben
相关产品推荐
相关产品推荐

