You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多
文档控制台
免费开始使用

如何在Jupyter Notebook中查看Optimum.ONNX Runtime模型的结构摘要?

查看基于Optimum.ONNX Runtime的模型结构摘要方法

OpenAI Whisper是原生PyTorch模型,默认的__repr__方法会输出层级结构;而基于Optimum.ONNX Runtime加载的breezedeus/pix2text-mfr属于ORT封装模型,默认打印仅返回内存地址,可通过以下几种方式查看结构信息:

  • 查看模型配置信息
    直接打印模型的配置对象,能获取模型的核心参数、架构类型、输入输出规格等关键信息:

    print(model.config)
    
  • 加载原始PyTorch模型查看层级结构
    加载该模型对应的原生PyTorch版本,即可像Whisper一样输出完整的模型层级结构:

    from transformers import AutoModelForImageToText
    pt_model = AutoModelForImageToText.from_pretrained("breezedeus/pix2text-mfr")
    print(pt_model)
    
  • 查看ONNX模型计算图结构
    读取ONNX模型文件,输出其计算图的节点、输入输出等结构细节:

    import onnx
    onnx_model = onnx.load(model.model_path)
    print(onnx.helper.printable_graph(onnx_model.graph))
    

内容的提问来源于stack exchange,提问作者Mickey Han

火山引擎 最新活动