Netty自定义ByteToMessageDecoder运行数十秒后触发无限循环问题咨询

• 核心错误：自定义解码器未在读取长度字段前标记ByteBuf的读指针位置，直接调用resetReaderIndex()导致读指针位置错乱，最终触发无限循环。

ByteBuf的resetReaderIndex()方法只能回到最近一次markReaderIndex()标记的位置，你的代码中完全没有调用标记方法，当出现半包场景（即读取完2字节长度字段后，剩余可读字节小于包长度）时，调用resetReaderIndex()会将读指针回退到未知的历史位置，而非本次decode方法刚进入时的位置。

前期解码器可以正常运行的原因是：网络状态平稳、数据包均完整到达的情况下，不会触发半包的判断分支，也就不会走到resetReaderIndex()逻辑。一旦出现TCP半包，读指针错乱后，每次decode循环都会重复读取同一个位置的长度字段，且不会消费ByteBuf中的字节，导致可读字节数一直不变，进入死循环。

修正后的解码器代码如下：

public class TestDecoder extends ByteToMessageDecoder
{
    @Override
    protected void decode(ChannelHandlerContext ctx, ByteBuf in, List<Object> out) throws Exception
    {
        // 先标记当前读指针位置
        in.markReaderIndex();
        
        if (in.readableBytes() < Short.BYTES)
            return;

        int packetLength = in.readShort();
        if (in.readableBytes() < packetLength)
        {
            // 回退到刚进入方法时的标记位置，等待后续数据到达
            in.resetReaderIndex();
            return;
        }

        System.out.println(packetLength + " " + in.readableBytes());
        out.add(in.readBytes(packetLength));
    }
}

额外优化建议：你可以直接使用Netty自带的LengthFieldBasedFrameDecoder，无需自定义长度解码器，避免出现类似低级错误，该解码器已经内置了完整的长度拆包、指针管理逻辑，完全适配你当前的报文格式（前置2字节长度字段）。

内容的提问来源于stack exchange，提问作者Anderson T