CUBLAS_WORKSPACE_CONFIG默认值是多少？PyTorch CUDA LSTM训练性能下降如何恢复

问题解答 #

1. CUBLAS_WORKSPACE_CONFIG默认值 #

CUBLAS_WORKSPACE_CONFIG的默认状态为未设置，cuBLAS库在该变量未被手动定义时会使用内置的默认工作空间配置策略，没有固定的默认赋值。

2. 恢复原有配置的方法 #

• 如果你是在当前终端会话临时设置的变量，直接执行以下命令清除即可：

  unset CUBLAS_WORKSPACE_CONFIG
  

  执行后重启PyTorch训练任务就会恢复默认行为。
• 如果你是写入了shell配置文件（比如~/.bashrc、~/.zshrc、/etc/profile这类文件）实现的永久生效，只需要打开对应文件，删除你添加的export CUBLAS_WORKSPACE_CONFIG=:4096:2这一行，然后执行source 对应配置文件路径或者重启终端即可生效。

3. 补充说明 #

你遇到的性能下降是正常现象：:4096:2的配置会限制cuBLAS的工作空间大小，强制使用确定性算法，牺牲了部分运算性能来保证结果可复现，如果你不需要严格的训练结果确定性，清除该配置即可恢复原有性能。

内容的提问来源于stack exchange，提问作者Jacqueline