如何使用Numpy函数实现Leaky ReLU以避免多维数组循环？

Leaky ReLU的核心逻辑很简单：对于输入中的每个元素，若大于0则保留原值，否则返回α * 元素值（α通常是0.01这类小正数）。Numpy的向量化操作天生就适合处理这种多维数组的元素级计算，效率比手动循环高太多了。

下面给你两种最常用的实现方式，都能完美处理4维输入数组：

方法一：用np.maximum()直接取最大值 #

np.maximum()会逐元素比较两个数组的大小，返回对应位置的最大值。正好契合Leaky ReLU的公式f(x) = max(αx, x)：

import numpy as np

def leaky_relu(x, alpha=0.01):
    return np.maximum(alpha * x, x)

# 测试4维输入（比如深度学习里常见的(批量数, 通道数, 高度, 宽度)形状）
x_4d = np.random.randn(2, 3, 4, 5)  # 生成随机4维数组
output = leaky_relu(x_4d)

方法二：用np.where()按条件选择值 #

如果你想更直观地体现“大于0保留，否则乘α”的逻辑，可以用np.where()，它会根据指定条件选择对应的值：

def leaky_relu(x, alpha=0.01):
    return np.where(x > 0, x, alpha * x)

# 同样适用于4维数组
output = leaky_relu(x_4d)

为什么不用循环？ #

这两种方法都是完全向量化的操作，Numpy会在底层用C语言高效处理所有元素，不需要你手动写多层循环。不仅代码简洁，处理大数组时的速度会比Python循环快几十甚至上百倍——这在深度学习场景里尤其重要，毕竟4维数组通常都是批量的特征图，数据量不小。

内容的提问来源于stack exchange，提问作者Liu Hantao