为何Numpy向量化ReLU函数返回结果不符合预期？

你遇到的问题核心是np.vectorize的输出类型推断逻辑导致浮点数被截断。

先看你的代码：

import numpy as np

def relu(x):
    return x if x > 0 else 0

relu = np.vectorize(relu)

print(relu([-3,-1.5,0,1.5,3]))
# result: array([0, 0, 0, 1, 3])

问题原因 #

np.vectorize在默认情况下会根据函数的返回值自动推断输出数组的数据类型（dtype）。你的ReLU函数中，当输入小于等于0时返回的是整数0，而输入正数时返回的是输入本身（比如1.5是浮点数）。vectorize会优先把返回类型推断为整数类型（因为整数是更"窄"的类型），导致所有浮点数结果被强制截断为整数，所以1.5变成了1，-1.5变成了0。

你可以通过打印vectorize后函数的otype属性验证这一点：

print(relu.otype)  # 输出: int64

解决方法 #

有两种靠谱的处理方式：

• 显式指定输出类型：在调用np.vectorize时，通过otypes参数指定输出为浮点数类型：

import numpy as np

def relu(x):
    return x if x > 0 else 0

# 指定输出为float64类型
relu = np.vectorize(relu, otypes=[np.float64])

print(relu([-3,-1.5,0,1.5,3]))
# result: array([-0. , -0. ,  0. ,  1.5,  3. ])

• 使用numpy原生操作替代vectorize：np.vectorize本质是Python循环的包装，效率并不高。更推荐直接用numpy的向量化函数实现ReLU，既避免类型问题，又提升性能：

import numpy as np

def relu(x):
    return np.maximum(x, 0)

print(relu(np.array([-3,-1.5,0,1.5,3])))
# result: array([0. , 0. , 0. , 1.5, 3. ])

内容的提问来源于stack exchange，提问作者Yuex