Keras模型转DL4J时Embedding层保存加载异常问题咨询

我明白你在Java环境下用DL4J迁移Keras模型时遇到的Embedding层序列维度问题有多棘手——不管是在Keras还是DL4J里加载后，原本固定的300序列长度都变成了None，直接影响模型的正常使用。下面针对你的四个问题逐一给出实用的解决方案：

1) 是否能在Keras中正确保存并加载模型的结构与权重？ #

当然可以，但不能直接用model.save()保存整个模型——Keras默认保存时会丢失Input层的固定序列长度信息，导致加载后维度变为None。正确的做法是拆分保存架构和权重：

• 保存架构：用model.to_json()将结构序列化为JSON（这里会完整保留Input层的input_shape=(300,)信息）
• 保存权重：用model.save_weights('model_weights.h5')单独存储权重参数
• 加载时重建模型：

from keras.models import model_from_json

# 加载架构
with open('model_architecture.json', 'r') as f:
    loaded_model_json = f.read()
loaded_model = model_from_json(loaded_model_json)
# 加载权重
loaded_model.load_weights('model_weights.h5')

这样加载后的模型Embedding层输出维度会保持(None, 300, 300)，不会出现维度丢失的问题。

2) 是否可通过DL4J或其他Java库创建此类模型？ #

完全可以用DL4J直接构建与你Keras架构完全一致的模型，并且可以明确指定输入序列的固定长度，从根源避免维度异常。示例代码如下：

import org.deeplearning4j.nn.conf.NeuralNetConfiguration;
import org.deeplearning4j.nn.conf.layers.*;
import org.deeplearning4j.nn.multilayer.MultiLayerNetwork;
import org.nd4j.linalg.activations.Activation;
import org.nd4j.linalg.learning.config.Adam;
import org.nd4j.linalg.lossfunctions.LossFunctions;

// 对应你的Keras模型参数
int vocabSize = 730614; // 219184200 / 300 = 730614（词汇量）
int embDim = 300;
int seqLength = 300;
int lstm1Units = 256;
int lstm2Units = 128;
int numClasses = 2;

MultiLayerNetwork model = new MultiLayerNetwork(new NeuralNetConfiguration.Builder()
    .updater(new Adam())
    .list()
    // Embedding层：明确指定输入序列长度seqLength
    .layer(0, new EmbeddingLayer.Builder()
        .nIn(vocabSize)
        .nOut(embDim)
        .inputShape(new int[]{seqLength})
        .build())
    // 第一个LSTM：return_sequences=True对应DL4J的returnSequences(true)
    .layer(1, new LSTM.Builder()
        .nIn(embDim)
        .nOut(lstm1Units)
        .returnSequences(true)
        .activation(Activation.TANH)
        .build())
    .layer(2, new Dropout.Builder(0.15).build())
    // 第二个LSTM：不返回序列
    .layer(3, new LSTM.Builder()
        .nIn(lstm1Units)
        .nOut(lstm2Units)
        .returnSequences(false)
        .activation(Activation.TANH)
        .build())
    .layer(4, new Dropout.Builder(0.15).build())
    // 输出Dense层
    .layer(5, new Dense.Builder()
        .nIn(lstm2Units)
        .nOut(numClasses)
        .activation(Activation.SOFTMAX)
        .lossFunction(LossFunctions.LossFunction.MCXENT)
        .build())
    .build());
model.init();

3) 是否可实现词转Embedding的函数，将预转换的Embedding输入神经网络？ #

绝对可以。你可以在Java中手动实现词到向量的转换逻辑，绕开Embedding层的维度问题，直接将预转换的向量序列输入模型。示例代码片段：

import org.nd4j.linalg.api.ndarray.INDArray;
import org.nd4j.linalg.factory.Nd4j;
import java.util.Map;

// wordToIndex：词到索引的映射（Java Map<String, Integer>）
// embeddingMatrix：预训练的词向量矩阵（INDArray，形状[vocabSize, embDim]）
public INDArray wordsToEmbeddingSequence(String[] words, int seqLength, Map<String, Integer> wordToIndex, INDArray embeddingMatrix) {
    // 构建形状为[1, seqLength, embDim]的输入序列（批量大小为1）
    INDArray sequence = Nd4j.zeros(1, seqLength, embDim);
    
    for (int i = 0; i < seqLength; i++) {
        // 若当前词在映射中存在，则填充对应的词向量；否则补0（对应Keras的padding逻辑）
        if (i < words.length && wordToIndex.containsKey(words[i])) {
            int wordIdx = wordToIndex.get(words[i]);
            INDArray wordEmbedding = embeddingMatrix.getRow(wordIdx);
            sequence.put(new int[]{0, i}, wordEmbedding);
        }
    }
    return sequence;
}

转换后的sequence可以直接传入DL4J模型的output()方法进行预测。

4) 是否能在Java中通过DL4J加载Embedding层的权重？ #

可以的，DL4J支持直接加载Keras的.h5权重文件，你可以选择加载整个模型的权重，或者单独提取Embedding层的权重：

方法一：加载整个模型权重到DL4J架构 #

前提是你已经用DL4J构建了与Keras完全一致的模型架构：

import org.deeplearning4j.nn.modelimport.keras.KerasModelImport;
import org.deeplearning4j.nn.multilayer.MultiLayerNetwork;

// 加载Keras权重到已有DL4J模型（第二个参数false表示不加载Keras架构，只匹配权重）
MultiLayerNetwork model = KerasModelImport.importKerasWeightsModel("path/to/model_weights.h5", false);

方法二：单独加载Embedding层权重 #

如果只需要导入Embedding层的预训练权重，可以从.h5文件中提取对应参数并设置到DL4J层中：

import org.nd4j.linalg.api.ndarray.INDArray;
import org.deeplearning4j.nn.modelimport.keras.utils.KerasModelUtils;
import java.util.Map;

// 从Keras权重文件中提取所有层的权重
Map<String, INDArray> weightsMap = KerasModelUtils.loadWeightsFromHdf5("path/to/model_weights.h5");
// Keras中Embedding层的权重键通常是"embedding_1/embeddings:0"（根据你的层名调整）
INDArray embWeights = weightsMap.get("embedding_1/embeddings:0");
// 将权重设置到DL4J的Embedding层
((EmbeddingLayer) model.getLayer(0)).setParam("W", embWeights);

内容的提问来源于stack exchange，提问作者AM13