百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT知识 > 正文

Java对象列表去重:Stream distinct()与equals/hashCode完美搭配

liuian 2025-09-29 07:21 36 浏览

在日常开发中,我们经常遇到需要对对象列表去重的场景——比如从数据库查询出重复数据、批量导入时过滤重复记录,或者合并多个数据源时剔除重复对象。Java 8的Stream API提供了distinct()方法,一句代码就能实现去重,但很多小伙伴在处理自定义对象时却频频踩坑:明明属性相同的对象,用distinct()就是去不掉!今天就带大家彻底搞懂自定义对象去重的底层逻辑,结合equals()hashCode()的最佳实践,让你写出既简洁又高效的去重代码!

一、为什么distinct()对自定义对象"失效"?

先看一个经典反例:定义一个Person类,包含idname属性,当我们用Stream.distinct()List<Person>去重时,明明id相同的对象却被当成不同元素保留了下来——这是为什么?

// 错误示例:未重写equals和hashCode
class Person {
    private String id;
    private String name;

    // 省略构造器和getter/setter
}

public class Test {
    public static void main(String[] args) {
        List<Person> list = Arrays.asList(
            new Person("1", "张三"),
            new Person("1", "张三"), // id相同,理应去重
            new Person("2", "李四")
        );

        // 去重后依然有3个元素!
        long count = list.stream().distinct().count();
        System.out.println(count); // 输出结果:3 
    }
}

关键原因:distinct()的底层依赖

distinct()方法的去重逻辑并非比较对象内容,而是依赖equals()hashCode()方法。默认情况下,这两个方法继承自Object类:

  • equals():比较对象内存地址(类似==
  • hashCode():返回对象内存地址的哈希值

因此,即使两个Person对象的idname完全相同,只要是不同的对象实例,distinct()就会认为它们是不同元素,导致去重失败。

二、核心解决方案:重写equals()和hashCode()

要让distinct()正确识别自定义对象的重复,必须同时重写equals()hashCode(),并遵循以下契约:

  1. 一致性:对象属性不变时,多次调用hashCode()返回值相同
  2. 等价性:若a.equals(b) == true,则a.hashCode() == b.hashCode()
  3. 非等价性:若a.equals(b) == falsehashCode()尽量不同(提升哈希表性能)

步骤1:定义实体类并重写方法

Person类为例,假设我们需要根据id去重(id是唯一标识),代码如下:

import java.util.Objects;

class Person {
    private String id; // 唯一标识,用于去重
    private String name;

    // 构造器、getter/setter省略

    // 重写equals:根据id判断是否相等
    @Override
    public boolean equals(Object o) {
        if (this == o) return true; // 同一对象直接返回true
        if (o == null || getClass() != o.getClass()) return false; // 类型不同返回false
        Person person = (Person) o;
        return Objects.equals(id, person.id); // 比较id是否相同
    }

    // 重写hashCode:基于id生成哈希值
    @Override
    public int hashCode() {
        return Objects.hash(id); // 使用Objects.hash简化哈希计算
    }
}

步骤2:使用Stream.distinct()去重

重写后,distinct()就能正确识别重复对象:

public class Test {
    public static void main(String[] args) {
        List<Person> list = Arrays.asList(
            new Person("1", "张三"),
            new Person("1", "张三"), // 重复对象,会被去重
            new Person("2", "李四")
        );

        // 去重后只剩2个元素
        List<Person> uniqueList = list.stream()
                .distinct()
                .collect(Collectors.toList());

        System.out.println(uniqueList.size()); // 输出结果:2 
    }
}


代码运行效果:通过重写equals和hashCode,distinct()成功去除重复对象

三、3种进阶去重方法:灵活应对复杂场景

除了distinct(),实际开发中还会遇到无法修改实体类(如第三方库对象)或需要按部分属性去重的场景,这时可以用以下3种方法:

方法1:基于单个属性去重(Collectors.toMap)

适用于根据某个唯一属性(如id)去重,且需保留首个出现元素的场景:

List<Person> list = Arrays.asList(
    new Person("1", "张三"),
    new Person("1", "张三"),
    new Person("2", "李四")
);

// 以id为key,冲突时保留已有元素
List<Person> uniqueList = list.stream()
    .collect(Collectors.toMap(
        Person::getId,  // key:id(去重依据)
        p -> p,         // value:对象本身
        (existing, replacement) -> existing // 冲突处理:保留前者
    ))
    .values() // 提取value集合
    .stream()
    .collect(Collectors.toList());

方法2:基于多属性去重(TreeSet自定义比较器)

当需要根据多个属性(如id+name)去重时,可使用TreeSet搭配比较器:

List<Person> list = Arrays.asList(
    new Person("1", "张三"),
    new Person("1", "张三"), // id+name相同,去重
    new Person("1", "张小三") // id相同但name不同,保留
);

// 按id+name组合属性去重
List<Person> uniqueList = list.stream()
    .collect(Collectors.toCollection(
        () -> new TreeSet<>(
            Comparator.comparing(p -> p.getId() + p.getName()) // 组合属性
        )
    ))
    .stream()
    .collect(Collectors.toList());

方法3:动态条件去重(filter+ConcurrentHashMap)

动态指定去重规则(如保留最后出现的元素)时,用filter配合线程安全的集合:

List<Person> list = Arrays.asList(
    new Person("1", "张三"),
    new Person("1", "张三"), // 重复,保留后者
    new Person("2", "李四")
);

// 线程安全的Set记录已出现的id
Set<String> seenIds = ConcurrentHashMap.newKeySet();

// 保留最后出现的重复元素
List<Person> uniqueList = list.stream()
    .filter(p -> seenIds.add(p.getId())) // add返回false表示重复
    .collect(Collectors.toList());

四、避坑指南:常见问题与解决方案

问题场景

错误原因

解决方案

只重写equals不重写hashCode

导致hashCode不同,distinct()认为对象不同

必须同时重写两个方法,确保逻辑一致

去重后元素顺序改变

HashSet/HashMap不保证顺序

使用LinkedHashSettoMap指定LinkedHashMap

并行流去重出现重复

多线程操作共享集合导致线程不安全

使用
ConcurrentHashMap.newKeySet()
替代普通Set

复杂对象哈希冲突

hashCode实现不合理(如固定返回1)

Objects.hash(field1, field2)组合多字段哈希


HashSet去重流程图:先通过hashCode定位,再用equals比较,两者缺一不可

五、实战案例:电商订单数据去重

场景:批量导入订单数据时,需根据orderId去重,避免重复入库。
实现:定义Order类并重写equalshashCode,使用Stream.distinct()去重。

class Order {
    private String orderId; // 订单唯一标识
    private String product;
    private BigDecimal amount;

    // 重写equals和hashCode(基于orderId)
    @Override
    public boolean equals(Object o) { /* 实现略 */ }
    @Override
    public int hashCode() { /* 实现略 */ }
}

// 批量导入去重
List<Order> orders = importFromExcel(); // 从Excel读取订单
List<Order> uniqueOrders = orders.stream()
    .distinct()
    .collect(Collectors.toList());
db.batchInsert(uniqueOrders); // 入库去重后的订单

案例来源:CSDN博客《java使用Stream流对自定义对象数组去重的实现》

六、最佳实践

  1. 优先使用distinct():简单场景下,重写equalshashCode后直接调用,代码最简洁。
  2. 灵活选择工具方法:无法修改实体类用toMap/TreeSet,动态规则用filter+Set
  3. 重视性能优化:大数据集去重时,预排序减少哈希冲突,并行流用ConcurrentHashMap

掌握这些技巧,不仅能解决日常开发中的去重问题,更能深入理解Java集合框架的底层逻辑。快去试试用Stream API优化你的去重代码吧!如果觉得有用,记得点赞收藏哦~

相关推荐

搭建一个20人的办公网络(适用于20多人的小型办公网络环境)

楼主有5台机上网,则需要一个8口路由器,组网方法如下:设备:1、8口路由器一台,其中8口为LAN(局域网)端口,一个WAN(广域网)端口,价格100--400元2、网线N米,这个你自己会看了:)...

笔记本电脑各种参数介绍(笔记本电脑各项参数新手普及知识)

1、CPU:这个主要取决于频率和二级缓存,频率越高、二级缓存越大,速度越快,现在的CPU有三级缓存、四级缓存等,都影响相应速度。2、内存:内存的存取速度取决于接口、颗粒数量多少与储存大小,一般来说,内...

汉字上面带拼音输入法下载(字上面带拼音的输入法是哪个)

使用手机上的拼音输入法打成汉字的方法如下:1.打开手机上的拼音输入法,在输入框中输入汉字的拼音,例如“nihao”。2.根据输入法提示的候选词,选择正确的汉字。例如,如果输入“nihao”,输...

xpsp3安装版系统下载(windowsxpsp3安装教程)

xpsp3纯净版在采用微软封装部署技术的基础上,结合作者的实际工作经验,融合了许多实用的功能。它通过一键分区、一键装系统、自动装驱动、一键设定分辨率,一键填IP,一键Ghost备份(恢复)等一系列...

没有备份的手机数据怎么恢复

手机没有备份恢复数据方法如下1、使用数据线将手机与电脑连接好,在“我的电脑”中可以看到手机的盘符。  2、将手机开启USB调试模式。在手机设置中找到开发者选项,然后点击“开启USB调试模式”。  3、...

电脑怎么激活windows11专业版

win11专业版激活方法有多种,以下提供两种常用的激活方式:方法一:使用激活密钥激活。在win11桌面上右键点击“此电脑”,选择“属性”选项。进入属性页面后,点击“更改产品密钥或升级windows”。...

华为手机助手下载官网(华为手机助手app下载专区)

华为手机助手策略调整,已不支持从应用市场下载手机助手,目前华为手机助手是需要在电脑上下载或更新手机助手到最新版本,https://consumer.huawei.com/cn/support/his...

光纤线断了怎么接(宽带光纤线断了怎么接)

宽带光纤线断了可以重接,具体操作方法如下:1、光纤连接的时候要根据束管内,同色相连,同芯相连,按顺序进行连接,由大到小。一般有三种连接方法,分别是熔接、活动连接和机械连接。2、连接的时候要开剥光缆,抛...

深度操作系统安装教程(深度操作系统安装教程图解)
  • 深度操作系统安装教程(深度操作系统安装教程图解)
  • 深度操作系统安装教程(深度操作系统安装教程图解)
  • 深度操作系统安装教程(深度操作系统安装教程图解)
  • 深度操作系统安装教程(深度操作系统安装教程图解)
win7旗舰版和专业版区别(win7旗舰版跟专业版)

1、功能区别:Win7旗舰版比专业版多了三个功能,分别是Bitlocker、BitlockerToGo和多语言界面; 2、用途区别:旗舰版的功能是所有版本中最全最强大的,占用的系统资源,...

万能连接钥匙(万能wifi连接钥匙下载)

1、首先打开wifi万能钥匙软件,若手机没有开启WLAN,就根据软件提示打开WLAN开关;2、打开WLAN开关后,会显示附近的WiFi,如果知道密码,可点击相应WiFi后点击‘输入密码’连接;3、若不...

雨林木风音乐叫什么(雨林木风是啥)

雨林木风的创始人是陈年鑫先生。陈年鑫先生于1999年创立了雨林木风公司,其初衷是为满足中国市场对高品质、高性能电脑的需求。在陈年鑫先生的领导下,雨林木风以技术创新、产品质量和客户服务为核心价值,不断推...

aics6序列号永久序列号(aics6破解序列号)

关于AICS6这个版本,虽然是比较久远的版本,但是在功能上也是十分全面和强大的,作为一名平面设计师的话,AICS6的现有的功能已经能够应付几乎所有的设计工作了……到底AICC2019的功能是不是...

win7正在启动windows 卡住(win7正在启动windows卡住了 进入安全模式)
  • win7正在启动windows 卡住(win7正在启动windows卡住了 进入安全模式)
  • win7正在启动windows 卡住(win7正在启动windows卡住了 进入安全模式)
  • win7正在启动windows 卡住(win7正在启动windows卡住了 进入安全模式)
  • win7正在启动windows 卡住(win7正在启动windows卡住了 进入安全模式)
手机可以装电脑系统吗(手机可以装电脑系统吗怎么装)

答题公式1:手机可以通过数据线或无线连接的方式给电脑装系统。手机安装系统需要一定的技巧和软件支持,一般需要通过数据线或无线连接的方式与电脑连接,并下载相应的软件和系统文件进行安装。对于大部分手机用户来...