TensorFlow的BinaryCrossentropy类与binary_crossentropy函数区别及model.compile异常
一、
BinaryCrossentropy类与binary_crossentropy函数的核心区别 二者底层的二分类交叉熵计算逻辑完全一致,差异只在封装层级和适用场景:
binary_crossentropy是纯运算函数,输入为真实标签、预测值两个张量,直接返回当前批次的损失计算结果,没有额外的状态存储,适合在自定义训练循环中直接调用做单次损失计算。BinaryCrossentropy是高层封装类,继承自Keras的Loss基类,内部会持久化你配置的归约规则(reduction)、是否处理逻辑值(from_logits)、标签平滑系数等参数,还支持跨批次累计损失统计,自动适配分布式训练、多输出权重分配等复杂场景,不需要自己额外写逻辑处理。
日常使用中如果是用默认参数,两种写法效果完全一致:如果在model.compile()中传入binary_crossentropy函数或者字符串'binary_crossentropy',Keras内部会自动将其包装为BinaryCrossentropy类的默认实例,训练时的计算结果没有任何差别。如果需要自定义参数(比如开启from_logits、设置标签平滑),直接实例化BinaryCrossentropy类传参会更便捷,不需要自己对函数做额外包装。
二、
model.compile()传入非法损失标识不报错的原因 这是Keras的懒加载机制导致的:
model.compile()本身只做参数的暂存,不会对传入的损失、优化器、评估指标做合法性校验,不管你传的内容是否合法,都会先存在模型的内部属性里。- 真正的参数校验和初始化,是在第一次调用
model.fit()/model.evaluate()/model.predict(),或者第一次给模型传入实际输入张量的时候才会触发。你写model.compile(loss='gibberish')时不会触发校验逻辑,自然不会报错,等你实际运行训练/评估流程时,Keras解析损失字符串找不到对应实现,才会抛出Unknown loss function: gibberish类的错误。
内容的提问来源于stack exchange,提问作者Daniel Sherman
相关产品推荐
相关产品推荐

