Mask-RCNN花卉检测模型部署至Web应用的实现方案问询

Mask-RCNN花卉检测模型Web端部署方案 #

可选替代方案：TensorFlow.js端侧部署（无需自建API） #

该方案完全可行，所有推理逻辑在用户浏览器侧运行，不需要搭建后端服务，实现步骤如下：

• 模型导出转换：如果你的模型是TensorFlow/Keras训练的，先导出为SavedModel格式，使用tfjs-converter工具将其转换为TensorFlow.js支持的GraphModel格式；如果是PyTorch训练的模型，可以先导出为ONNX格式，再通过转换工具转成适配TensorFlow.js的格式。
• 模型优化：Mask-RCNN模型体积通常较大，建议做INT8量化压缩，将模型体积控制在10MB以内，避免用户端加载时间过长；同时可适当降低模型输入分辨率，优化低端浏览器的推理速度。
• 前端集成：在前端项目中引入@tensorflow/tfjs依赖，加载转换完成的模型，用户上传图片后按照训练阶段的逻辑完成预处理（resize、归一化等），调用模型推理后直接在前端渲染检测框、掩膜和分类结果即可。

该方案适合用户规模小、对数据隐私要求高的场景，缺点是受限于用户设备算力，大模型推理延迟较高。

自建API部署实现步骤 #

如果TensorFlow.js的推理性能无法满足你的需求，可以按照以下步骤从零搭建部署API：

• 模型导出：将Colab训练完成的模型导出为通用格式，优先选择ONNX或者SavedModel格式，适配大部分后端推理框架。
• 后端框架选型：优先选择FastAPI搭建接口，相比Flask性能更高，原生支持异步，更适配AI推理场景。
• 推理接口开发：
  • 实现图片上传接口，支持接收前端传输的图片文件
  • 复用训练阶段的预处理逻辑对上传图片做格式转换
  • 加载导出的模型完成推理，后处理得到花卉的类别、置信度、检测框、掩膜数据
  • 结构化推理结果为JSON格式返回给前端
• 本地验证：使用curl命令或者Postman工具调用本地接口，确认返回结果和推理精度符合预期。
• 线上部署：可将服务部署到云服务器，或者选择Serverless函数计算服务，无需维护服务器资源，初期小流量场景下成本更低。
• 性能优化：流量上涨后可使用ONNX Runtime、TensorRT等工具优化推理速度，接口新增限流、缓存逻辑降低服务压力。

内容的提问来源于stack exchange，提问作者Saran