如何解决Rust中thread::Builder引发的栈溢出问题

问题 #

Windows系统下的Rust应用抛出栈溢出异常，通过stacker crate打印剩余栈空间定位到以下代码段：

debug!("TcpChannel.new: available stack 2 {:?}",  stacker::remaining_stack());

thread::Builder::new()
  .name(String::from("tcp-channel"))
  .spawn(move || thread.run())
  .unwrap();

debug!("TcpChannel.new: available stack 3 {:?}",  stacker::remaining_stack());

应用初始栈空间为1MB，第一条调试信息显示剩余栈约740KB，但在打印第二条信息前就触发栈溢出。尝试为新线程设置极小栈空间（1024字节）也无法解决问题。

补充上下文代码：

struct TcpThread {
    stream: TcpStream,
    buffer_pool: Arc<BufferPool>,
    stop_signal: Arc<AtomicBool>,
    last_message_instant: Instant,

    channel_rx: Receiver<Vec<u8>>,
    channel_tx: Sender<Vec<u8>>,

    receive_buffer: [u8; RECEIVE_BUFFER_SIZE],
    receive_buffer_count: usize,
    consumed_count: usize,
}

impl TcpChannel {
    pub fn new(
        receiver: Receiver<Vec<u8>>,
        sender: Sender<Vec<u8>>,
        stream: TcpStream,
        buffer_pool: &Arc<BufferPool>,
        stop_signal: &Arc<AtomicBool>,
    ) -> Self {
        info!("TcpChannel: Created");

        let thread = TcpThread::new(receiver, sender, stream, buffer_pool, stop_signal);

        thread::Builder::new()
            .name(String::from("tcp-channel"))
            .spawn(move || thread.run())
            .unwrap();

        Self {
            stop_signal: stop_signal.clone(),
        }
    }
}

成因分析 #

栈溢出发生在调用TcpChannel::new的当前线程，而非新创建的tcp-channel线程：

1. TcpThread结构体中包含固定大小的栈上数组receive_buffer: [u8; RECEIVE_BUFFER_SIZE]，若RECEIVE_BUFFER_SIZE接近或超过740KB，这个数组会直接占用当前线程的大量栈空间。
2. 执行spawn(move || thread.run())时，thread对象（包含大数组）会被移动到闭包中，该操作在当前线程栈上完成，直接耗尽剩余的740KB栈空间，触发溢出。
3. 为新线程设置stack_size无效，因为问题根源不在新线程的栈分配，而是当前线程的栈被大对象占满。

最佳解决方法 #

核心思路是将TcpThread中的大内存对象从栈转移到堆，避免占用当前线程栈空间：

方法1：将固定大小数组装箱 #

把receive_buffer改为堆上的装箱数组，仅在栈上保留轻量指针：

struct TcpThread {
    // 其他字段不变
    receive_buffer: Box<[u8; RECEIVE_BUFFER_SIZE]>,
    // 其他字段不变
}

// 在TcpThread::new中初始化
receive_buffer: Box::new([0u8; RECEIVE_BUFFER_SIZE]),

方法2：改用动态数组Vec<u8> #

若不需要编译期固定大小的约束，直接用堆分配的Vec<u8>替代：

struct TcpThread {
    // 其他字段不变
    receive_buffer: Vec<u8>,
    // 其他字段不变
}

// 在TcpThread::new中初始化
receive_buffer: vec![0u8; RECEIVE_BUFFER_SIZE],

方法3：将整个TcpThread对象装箱 #

若TcpThread还有其他大栈上字段，可直接把整个对象装箱，移动闭包时仅传递指针：

// 修改TcpChannel::new中的spawn代码
let thread = Box::new(TcpThread::new(receiver, sender, stream, buffer_pool, stop_signal));

thread::Builder::new()
    .name(String::from("tcp-channel"))
    .spawn(move || thread.run())
    .unwrap();

以上方法均可大幅降低当前线程栈的占用，避免溢出。优先推荐方法1或2，针对性解决大数组的栈分配问题。

内容的提问来源于stack exchange，提问作者bikeman868