Kotlin Serialization：密封类多态反序列化拦截器问题排查

核心场景与问题 #

需要将JSON反序列化为严格的密封类层级结构，实现强向前兼容：

• 用type字段作为kotlinx.serialization编译插件的隐式类型鉴别器，不同消息类型对应不同子类
• 特殊场景：当status字段为DELETED时，无论type是什么，都要反序列化为DeletedChatMessageDto
• 尝试多种方案后遇到问题：
  • 直接使用JsonContentPolymorphicSerializer+PolymorphicSerializer：删除消息正常，但其他类型报错Polymorphic serializer was not found for class discriminator 'text'
  • 配置默认反序列化器：所有非删除消息都被反序列化为UnknownChatMessageDto
  • 显式注册子类：抛出type属性与鉴别器冲突的异常
  • typealias包装：作为其他类属性时生效，但Retrofit返回List<BaseChatMessageDto>时不生效，删除消息反序列化失败

问题根源 #

1. PolymorphicSerializer不支持闭包多态：密封类的闭包多态是编译期生成序列化器，而PolymorphicSerializer是用于开放多态的，无法识别编译期生成的子类与鉴别器的映射关系。
2. 显式注册子类触发开放多态冲突：密封类默认用type作为隐式鉴别器，显式注册子类会切换到开放多态模式，此时type被视为普通字段，与内置鉴别器冲突（反射不可用时无法区分编译期逻辑）。
3. typealias泛型场景注解失效：Retrofit处理List<BaseChatMessageDto>时，会直接解析底层的原始类型，忽略typealias上的@Serializable注解，导致拦截序列化器不被调用。

正确解决方案 #

1. 保留密封类的闭包多态基础结构

不要修改原密封类的核心定义，直接指定拦截序列化器，让编译插件正常生成闭包多态的序列化器：

@Serializable(with = DeletedMessageInterceptorSerializer::class)
sealed class BaseChatMessageDto {
    abstract val id: Int
    abstract val localId: Int
    abstract val fromId: Int
    abstract val replyTo: Int?
    abstract val remoteStatus: RemoteStatus?
    abstract val createdAt: Int
    abstract val type: ChatMessageType
}

2. 实现正确的拦截序列化器

替换原PolymorphicSerializer为编译期生成的BaseChatMessageDto.serializer()（闭包多态序列化器）：

object DeletedMessageInterceptorSerializer : JsonContentPolymorphicSerializer<BaseChatMessageDto>(BaseChatMessageDto::class) {
    override fun selectDeserializer(element: JsonElement): DeserializationStrategy<BaseChatMessageDto> {
        val status = try {
            element.jsonObject["status"]?.jsonPrimitive?.let {
                Json.decodeFromString(RemoteStatus.serializer(), it.content)
            } ?: RemoteStatus.UNKNOWN
        } catch (e: Exception) {
            e.printStackTrace()
            RemoteStatus.UNKNOWN
        }
        return when (status) {
            RemoteStatus.DELETED -> DeletedChatMessageDto.serializer()
            else -> BaseChatMessageDto.serializer() // 使用编译期生成的密封类序列化器
        }
    }
}

3. 兼容DeletedChatMessageDto的type字段

删除消息的type可能是任意值，复用枚举的兼容序列化器处理：

@Serializable
data class DeletedChatMessageDto(
    override val id: Int,
    @SerialName("local_id")
    override val localId: Int,
    override val fromId: Int,
    override val replyTo: Int?,
    override val remoteStatus: RemoteStatus?,
    override val createdAt: Int,
    @Serializable(ChatMessageTypeFallback::class)
    override val type: ChatMessageType = ChatMessageType.UNKNOWN
) : BaseChatMessageDto()

4. 保留向前兼容的UnknownChatMessageDto

当遇到未知type时，编译期序列化器会自动反序列化为该类：

@Serializable
@SerialName("unknown")
data class UnknownChatMessageDto(
    override val id: Int,
    @SerialName("local_id")
    override val localId: Int,
    override val fromId: Int,
    override val replyTo: Int?,
    override val remoteStatus: RemoteStatus?,
    override val createdAt: Int,
    override val type: ChatMessageType = ChatMessageType.UNKNOWN
) : BaseChatMessageDto()

5. Retrofit配置

使用默认Json配置即可，无需额外注册子类：

val json = Json {
    ignoreUnknownKeys = true // 增强向前兼容，忽略新增字段
    coerceInputValues = true // 处理缺失的可选字段
}

val retrofit = Retrofit.Builder()
    .baseUrl(BASE_URL)
    .addConverterFactory(Json.asConverterFactory("application/json".toMediaType()))
    .build()

关键说明 #

• 编译期生成的BaseChatMessageDto.serializer()能自动识别所有密封子类的@SerialName映射，无需显式注册
• 拦截序列化器只在status=DELETED时切换到删除消息序列化器，其余场景完全复用闭包多态的类型安全逻辑
• 无需使用typealias，直接在密封类上指定拦截序列化器即可在所有场景生效（包括Retrofit列表）

内容的提问来源于stack exchange，提问作者Calamity