TreeSet未按自定义Comparator预期排序问题求助

看起来你的核心问题是Comparator没有满足排序的传递性，导致TreeSet（基于红黑树实现，依赖Comparator的严格一致性）在添加顺序不同时出现排序异常。TreeSet的排序逻辑完全依赖compare方法，一旦这个方法违反了传递性（比如A>B，B>C，但A<C），红黑树的结构就会混乱，最终导致排序结果不符合预期。

先明确你的排序规则 #

咱们先把需求落地：

• 优先按继承关系排序：假设你希望父类/接口排在子类/实现类的前面（如果需求是子类在前，后面代码调整符号即可）
• 无继承关系时，按类名的自然字母顺序排序，保证固定顺序

正确的Comparator实现 #

下面是满足传递性、符合需求的完整实现：

class OrderedComparator implements Comparator<Class<?>> {
    @Override
    public int compare(Class<?> clazz1, Class<?> clazz2) {
        // 同一个类，直接返回0
        if (clazz1 == clazz2) {
            return 0;
        }
        
        // 判断clazz1是否是clazz2的父类/接口（clazz2能被clazz1赋值）
        boolean clazz1IsParentOfClazz2 = clazz1.isAssignableFrom(clazz2);
        // 判断clazz2是否是clazz1的父类/接口
        boolean clazz2IsParentOfClazz1 = clazz2.isAssignableFrom(clazz1);
        
        if (clazz1IsParentOfClazz2) {
            // clazz1是父类，排在前面，返回-1
            return -1;
        } else if (clazz2IsParentOfClazz1) {
            // clazz2是父类，clazz1排在后面，返回1
            return 1;
        } else {
            // 无继承关系，按类名字母顺序排序
            return clazz1.getName().compareTo(clazz2.getName());
        }
    }
}

为什么这个实现能解决问题？ #

• 满足传递性：如果A是B的父类，B是C的父类，那么compare(A,B)=-1，compare(B,C)=-1，compare(A,C)也会返回-1（因为A是C的父类），完全符合排序的传递要求。
• 无继承关系时的稳定排序：类名的字符串比较是固定的，不会受添加顺序影响，保证了无继承关系类的排序一致性。
• 双向判断继承关系：避免了只判断单向导致的逻辑漏洞，比如不会出现A是B的父类，但B和C比较时没正确关联到A的情况。

测试示例 #

比如我们有这些类：

interface Animal {}
class Dog implements Animal {}
class Cat implements Animal {}
class GoldenRetriever extends Dog {}

用这个Comparator创建TreeSet并添加这些类：

TreeSet<Class<?>> set = new TreeSet<>(new OrderedComparator());
set.add(GoldenRetriever.class);
set.add(Cat.class);
set.add(Dog.class);
set.add(Animal.class);

// 输出顺序：Animal, Dog, GoldenRetriever, Cat
for (Class<?> clazz : set) {
    System.out.println(clazz.getSimpleName());
}

不管你调整添加顺序，输出结果都是固定的，符合预期。

如果你需要子类排在父类前面 #

只需要把继承关系判断的返回值反转即可：

if (clazz1IsParentOfClazz2) {
    // clazz1是父类，排在后面，返回1
    return 1;
} else if (clazz2IsParentOfClazz1) {
    // clazz2是父类，clazz1排在前面，返回-1
    return -1;
}

这样输出顺序会变成：GoldenRetriever, Dog, Cat, Animal。

内容的提问来源于stack exchange，提问作者gigaSproule