咨询Cloud Vision处理摄像头实时文本检测单帧6-7s延迟的优化方案

基于Cloud Vision API处理摄像头实时采集流的文本检测任务时，实测单帧端到端处理延迟达6-7s，无法满足实时场景的运行要求，需针对性优化全流程效率、压缩处理时延。

• 先完成全链路时延拆解定位瓶颈：对单帧处理的全流程逐段埋点统计耗时，分别记录摄像头采帧编码完成时刻、帧上传发起时刻、帧上传完成时刻、Cloud Vision服务端返回结果时刻、本地结果解析完成时刻，定位具体是哪个环节占用了过高时延。多数场景下6-7s的高延迟中，网络传输冗余、服务端排队等待、无效帧重复请求往往占80%以上的时延占比，避免无方向的盲目调优。
• 从源头减少无效请求与传输开销：实时摄像头流的相邻帧重复度极高，无需对每一帧都发起云端检测。可通过本地轻量逻辑做预筛选：用帧差法判断前后帧的画面变化幅度，无明显动态变化的静态帧直接跳过检测；固定按业务要求的最高检测频率抽帧（比如文本检测场景每200ms抽1帧即可覆盖绝大多数内容变化）；抽帧后将图片压缩到满足文本识别要求的最低分辨率、采用中等质量JPEG编码，把单帧上传的文件大小压缩到几百KB级别，大幅缩短上传耗时。
• 优化云端调用的网络与服务开销：复用TCP长连接发送请求，避免每帧请求都重新完成TLS握手的额外开销；选择与采集端网络节点距离最近的Cloud Vision服务区域接入，避免跨境网络路由绕路带来的额外延迟；关闭所有非必要的检测能力开关，仅保留核心的文本检测识别功能，降低服务端的推理处理耗时；对短间隔连续产生的待检测帧，采用批量提交接口一次性上传，减少多次单请求的交互开销。
• 将非核心推理环节下沉到本地边缘侧：部署轻量的本地文本检测前置模型，先在本地完成全帧画面的文本区域定位，仅把裁剪后的包含文本的ROI区域上传到Cloud Vision做高精度的文字识别，无需上传整帧画面，从根源上减少单帧的传输数据量，同时提前过滤无文本内容的无效帧，减少不必要的云端请求。
• 改造流程为流水线异步架构：将原本串行执行的“采帧-上传-等待云端返回-解析结果”流程拆解为独立的异步模块，采帧模块持续按规则抽帧并将待检测帧写入队列，上传模块持续从队列取帧发起云端请求，云端返回的检测结果写入结果队列，业务消费模块拿到结果后实时渲染展示，把各环节的串行等待时间重叠起来，减少端到端的整体等待时延。

内容的提问来源于stack exchange，提问作者Minh Nguyễn