Android应用Cipher解密大文件遇OOM：update返空块doFinal返全量数据

我太懂这个坑了！很多开发者用GCM模式解密大文件时都会碰到这个问题——Cipher.update()全程返回空，只有doFinal()一次性吐出所有明文，直接把内存撑爆。这其实和GCM这个AEAD（认证加密）模式的特性以及Android Cipher的实现逻辑有关，咱们一步步拆解解决：

问题根源 #

AES/GCM不仅要解密数据，还要验证末尾的**认证标签（Tag）**来确保数据没被篡改。默认情况下：

• 如果你用CipherInputStream，它会把整个输入流（包括密文+Tag）全部读到内存里，直到流结束才会调用doFinal()验证Tag并返回所有明文，大文件直接触发OOM。
• 即使手动调用Cipher.update()，某些Android版本的实现会缓存所有密文，直到拿到Tag完成验证后才输出明文，同样导致内存溢出。

解决方案：手动分段解密+分离Tag处理 #

核心思路是避免一次性加载整个文件到内存，分段处理密文，最后单独验证Tag，同时边解密边写入输出文件。

情况1：密文和Tag在同一输入流中（Tag附在密文末尾） #

假设服务器返回的流结构是[密文][Tag]（Tag长度通常是16字节，对应GCMParameterSpec的128位），我们可以这样处理：

// 1. 初始化Cipher
final Cipher cipher = Cipher.getInstance("AES/GCM/NoPadding");
SecretKeySpec key = new SecretKeySpec(keyData, "AES");
GCMParameterSpec nonceSpec = new GCMParameterSpec(128, nonceData);
cipher.init(Cipher.DECRYPT_MODE, key, nonceSpec);

// 2. 准备输入输出流（替换成你的下载流和目标文件流）
InputStream inputStream = getServerDownloadStream();
OutputStream outputStream = new FileOutputStream(new File("/sdcard/decrypted_file"));

// 3. 定义缓冲区（推荐8KB-16KB，平衡性能和内存）
byte[] buffer = new byte[8192];
int readBytes;

// 4. 分段读取密文，调用update处理
while ((readBytes = inputStream.read(buffer)) != -1) {
    byte[] decryptedChunk = cipher.update(buffer, 0, readBytes);
    // 注意：GCM解密时update可能返回空，但大部分实现会返回分段明文
    if (decryptedChunk != null && decryptedChunk.length > 0) {
        outputStream.write(decryptedChunk);
    }
}

// 5. 处理Tag验证，写入最后一段明文
try {
    byte[] finalChunk = cipher.doFinal();
    if (finalChunk != null && finalChunk.length > 0) {
        outputStream.write(finalChunk);
    }
    // 验证成功，文件有效
} catch (BadPaddingException e) {
    // Tag验证失败，数据被篡改或密钥错误，删除无效文件
    outputStream.close();
    new File("/sdcard/decrypted_file").delete();
    throw new RuntimeException("解密失败：数据完整性验证不通过", e);
}

// 6. 关闭资源
outputStream.flush();
outputStream.close();
inputStream.close();

情况2：密文和Tag分离传输（更推荐） #

如果服务器能把Tag单独传递（比如通过HTTP响应头、或者文件头明确标注密文长度），处理起来更高效，也能避免缓存整个流：

// 1. 先读取Nonce（假设是12字节，GCM推荐长度）
byte[] nonceData = new byte[12];
inputStream.read(nonceData);

// 2. 读取密文长度（比如用4字节int存储）
byte[] lenBytes = new byte[4];
inputStream.read(lenBytes);
int cipherTextLength = ByteBuffer.wrap(lenBytes).getInt();

// 3. 初始化Cipher
Cipher cipher = Cipher.getInstance("AES/GCM/NoPadding");
SecretKeySpec key = new SecretKeySpec(keyData, "AES");
GCMParameterSpec nonceSpec = new GCMParameterSpec(128, nonceData);
cipher.init(Cipher.DECRYPT_MODE, key, nonceSpec);

// 4. 分段读取密文并解密写入
byte[] buffer = new byte[8192];
int remaining = cipherTextLength;
while (remaining > 0) {
    int readSize = Math.min(buffer.length, remaining);
    int actualRead = inputStream.read(buffer, 0, readSize);
    byte[] decrypted = cipher.update(buffer, 0, actualRead);
    outputStream.write(decrypted);
    remaining -= actualRead;
}

// 5. 单独读取Tag并验证
byte[] tag = new byte[16];
inputStream.read(tag);
try {
    byte[] finalChunk = cipher.doFinal(tag);
    if (finalChunk != null && finalChunk.length > 0) {
        outputStream.write(finalChunk);
    }
} catch (BadPaddingException e) {
    // 验证失败，清理文件
    outputStream.close();
    new File("/sdcard/decrypted_file").delete();
    throw new RuntimeException("数据篡改或密钥错误", e);
}

// 关闭资源
outputStream.flush();
outputStream.close();
inputStream.close();

关键注意事项 #

• 不要用CipherInputStream处理GCM解密：它的内部实现会强制缓存整个流，完全不适合大文件。
• Tag验证必须做：即使你急着输出明文，也要在最后捕获BadPaddingException，避免输出被篡改的无效数据。
• 缓冲区大小要合理：太小会增加IO次数，太大浪费内存，8KB-16KB是比较均衡的选择。

内容的提问来源于stack exchange，提问作者daramasala