You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

Node.js大文件上传优化:替代缓存所有Chunk写入流的方案咨询

当前实现的不合理之处
  • 内存占用过高:所有文件chunk都先存在数组里,文件越大内存消耗越多,大文件场景下容易触发内存溢出。
  • 处理效率低下:必须等整个文件接收完成才写入磁盘,无法利用流的逐段处理特性,整体上传+写入的耗时更长。
更优实现:利用流的pipe方法

Node.js中req本身就是可读流,直接用pipe方法将其导向可写流是最简洁高效的方案,它会自动完成以下工作:

  • 边接收数据边写入磁盘,无需缓存所有chunk
  • 自动处理背压(当磁盘写入速度跟不上数据接收速度时,暂停可读流的推送,避免内存堆积)
  • 自动监听end和error事件,简化代码逻辑

优化后的代码:

const fs = require('fs');
const express = require('express');
const app = express();

app.post('/upload', (req, res) => {
  const writableStream = fs.createWriteStream('image.jpg');

  // 直接通过pipe完成数据传输
  req.pipe(writableStream)
    .on('finish', () => {
      res.status(200).json({ status: "Done" });
    })
    .on('error', (err) => {
      console.error('上传/写入错误:', err);
      res.status(500).json({ status: "Failed", error: err.message });
    });

  // 处理用户中途中断请求的情况
  req.on('aborted', () => {
    writableStream.destroy(); // 清理未完成的文件
    res.status(400).json({ status: "Aborted" });
  });
});
补充说明

如果你的上传是基于multipart/form-data的HTML表单上传(通常带表单字段),上面的代码会把整个请求体(包括表单字段)写入文件,这种场景建议用multer这类专门的文件上传库,它能自动解析表单结构、提取文件流,还支持文件大小限制、类型过滤等实用功能。

内容的提问来源于stack exchange,提问作者Joshua Ubani-Wokoma

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.07.18 08:22:17