如何在R语言Keras中正确实现自定义负权重正则化？

错误原因分析 #

你的代码报错核心在于：Keras在模型构建阶段，权重是符号张量而非实际数值矩阵，不能用R基础函数which()、sum(sum())来操作张量。which()会把符号张量当作离散值处理，从而触发"Discrete value supplied to continuous scale"错误。

正确实现方法 #

自定义正则化函数必须使用Keras提供的张量运算函数（以k_开头）来构建计算图，训练时才会实际计算数值。以下是针对负权重的L1+L2正则化实现：

l1l2_reg <- function(weight_matrix) {
  # 1. 生成负权重的布尔掩码：权重<0时为TRUE，否则为FALSE
  neg_mask <- k_less(weight_matrix, 0)
  # 2. 将布尔掩码转为与权重同类型的数值张量（TRUE→1，FALSE→0）
  neg_mask <- k_cast(neg_mask, dtype = k_floatx())
  # 3. 提取仅负权重的部分（掩码与原权重相乘）
  neg_weights <- weight_matrix * neg_mask
  
  # 4. 计算正则化项（可根据需求调整系数）
  l2_term <- 0.0001 * k_sum(k_square(neg_weights))  # 负权重的L2正则化
  l1_term <- 0.01 * k_sum(k_abs(neg_weights))       # 负权重的L1正则化（修正原代码中多余的abs(平方)逻辑）
  
  # 返回总正则化损失
  return(l2_term + l1_term)
}

关键说明 #

1. 张量操作替代基础R函数：所有对权重的计算都要用k_sum()、k_square()、k_less()等Keras张量函数，不能用sum()、which()这类针对普通R向量/矩阵的函数。
2. 掩码的正确使用：通过掩码筛选负权重，避免直接索引张量（Keras张量不支持R风格的索引操作）。
3. 正则化逻辑修正：你原代码中abs(weight_matrix[neg]^2)是多余的——平方后已经是非负数，无需再取绝对值。如果是要实现标准L1正则化，应该对负权重的绝对值求和，而非绝对值的平方。

使用方式 #

和你原来的用法一致，直接在层中指定正则化函数：

reconstruct <- bottleneck %>% 
  layer_dense(units = input_size, activation = "linear",
              kernel_regularizer = l1l2_reg,
              name = "reconstruct")

内容的提问来源于stack exchange，提问作者ryano