为什么Rust Command的stdin.write_all在大输入场景下永不终止？

死锁原因 #

这是典型的跨进程管道缓冲区满导致的双向死锁，根因如下：

• 操作系统为进程间的管道提供的缓冲区容量是固定的（Linux默认通常为64KB），缓冲区满时写入操作会直接阻塞，直到对方读取走数据腾出空间。
• 你当前的代码逻辑是先全量写入子进程stdin，再处理子进程stdout，但子进程的逻辑是边读stdin边写stdout：
  1. 当子进程产生的输出量足够大，stdout管道缓冲区被塞满后，子进程的print调用会阻塞，无法继续执行后续的input()读取stdin的逻辑。
  2. 此时Rust侧还在往stdin管道写数据，很快stdin的缓冲区也被塞满，write_all调用阻塞，两边互相等待对方操作，就形成了死锁。
• 你修改Python代码减少单条输出长度后，子进程的总输出量小于stdout管道缓冲区容量，子进程可以顺利执行完全部逻辑读完stdin，因此Rust侧的写入不会被阻塞，程序可以正常运行。

修复方案 #

核心逻辑是避免任意一侧的管道缓冲区被塞满，可选实现如下：

方案1：不需要读取子进程输出的场景 #

直接将子进程stdout设置为丢弃即可，修改代码如下：

let mut cmd = Command::new("python3");
let mut child = cmd
    .stdin(Stdio::piped())
    .stdout(Stdio::null()) // 子进程输出直接丢弃，不会触发缓冲区满问题
    .arg("solution.py")
    .spawn()
    .expect("Failed to execute solution");
// 后续写入stdin的逻辑保持不变即可

方案2：需要读取子进程输出的场景 #

开独立线程分离stdin写入和stdout读取操作，避免双向阻塞，完整代码示例：

use std::process::{Command, Stdio};
use std::io::{Write, Read};
use std::thread;

fn main() {
    // 替换为实际的input变量
    let input = "你的大体积输入内容";
    let mut cmd = Command::new("python3");
    // 加-u参数关闭Python的stdout行缓冲，避免输出滞留在Python用户态缓冲区
    let mut child = cmd
        .arg("-u")
        .arg("solution.py")
        .stdin(Stdio::piped())
        .stdout(Stdio::piped())
        .spawn()
        .expect("Failed to execute solution");

    // 把stdin移动到子线程异步写入
    let mut stdin = child.stdin.take().unwrap();
    let input_clone = input.clone();
    let write_thread = thread::spawn(move || {
        stdin.write_all(input_clone.as_bytes()).unwrap();
        stdin.flush().unwrap();
        // 主动销毁stdin，通知子进程输入已经全部写完
        drop(stdin);
        println!("Finish writing to stdin");
    });

    // 主线程同步读取子进程的全部输出
    let mut stdout = child.stdout.take().unwrap();
    let mut output = String::new();
    stdout.read_to_string(&mut output).unwrap();
    // 这里可以处理子进程输出内容
    println!("子进程输出：{}", output);

    // 等待写入线程和子进程正常退出
    write_thread.join().unwrap();
    child.wait().unwrap();
}

方案3：异步架构场景 #

如果你的项目本身基于异步栈开发，可以使用tokio等异步运行时的process模块异步处理读写，避免额外的线程开销。

内容的提问来源于stack exchange，提问作者Pahlevi Fikri Auliya