Java对象列表去重:Stream distinct()与equals/hashCode完美搭配
liuian 2025-09-29 07:21 59 浏览
在日常开发中,我们经常遇到需要对对象列表去重的场景——比如从数据库查询出重复数据、批量导入时过滤重复记录,或者合并多个数据源时剔除重复对象。Java 8的Stream API提供了distinct()方法,一句代码就能实现去重,但很多小伙伴在处理自定义对象时却频频踩坑:明明属性相同的对象,用distinct()就是去不掉!今天就带大家彻底搞懂自定义对象去重的底层逻辑,结合equals()和hashCode()的最佳实践,让你写出既简洁又高效的去重代码!
一、为什么distinct()对自定义对象"失效"?
先看一个经典反例:定义一个Person类,包含id和name属性,当我们用Stream.distinct()对List<Person>去重时,明明id相同的对象却被当成不同元素保留了下来——这是为什么?
// 错误示例:未重写equals和hashCode
class Person {
private String id;
private String name;
// 省略构造器和getter/setter
}
public class Test {
public static void main(String[] args) {
List<Person> list = Arrays.asList(
new Person("1", "张三"),
new Person("1", "张三"), // id相同,理应去重
new Person("2", "李四")
);
// 去重后依然有3个元素!
long count = list.stream().distinct().count();
System.out.println(count); // 输出结果:3
}
}关键原因:distinct()的底层依赖
distinct()方法的去重逻辑并非比较对象内容,而是依赖equals()和hashCode()方法。默认情况下,这两个方法继承自Object类:
- equals():比较对象内存地址(类似==)
- hashCode():返回对象内存地址的哈希值
因此,即使两个Person对象的id和name完全相同,只要是不同的对象实例,distinct()就会认为它们是不同元素,导致去重失败。
二、核心解决方案:重写equals()和hashCode()
要让distinct()正确识别自定义对象的重复,必须同时重写equals()和hashCode(),并遵循以下契约:
- 一致性:对象属性不变时,多次调用hashCode()返回值相同
- 等价性:若a.equals(b) == true,则a.hashCode() == b.hashCode()
- 非等价性:若a.equals(b) == false,hashCode()尽量不同(提升哈希表性能)
步骤1:定义实体类并重写方法
以Person类为例,假设我们需要根据id去重(id是唯一标识),代码如下:
import java.util.Objects;
class Person {
private String id; // 唯一标识,用于去重
private String name;
// 构造器、getter/setter省略
// 重写equals:根据id判断是否相等
@Override
public boolean equals(Object o) {
if (this == o) return true; // 同一对象直接返回true
if (o == null || getClass() != o.getClass()) return false; // 类型不同返回false
Person person = (Person) o;
return Objects.equals(id, person.id); // 比较id是否相同
}
// 重写hashCode:基于id生成哈希值
@Override
public int hashCode() {
return Objects.hash(id); // 使用Objects.hash简化哈希计算
}
}步骤2:使用Stream.distinct()去重
重写后,distinct()就能正确识别重复对象:
public class Test {
public static void main(String[] args) {
List<Person> list = Arrays.asList(
new Person("1", "张三"),
new Person("1", "张三"), // 重复对象,会被去重
new Person("2", "李四")
);
// 去重后只剩2个元素
List<Person> uniqueList = list.stream()
.distinct()
.collect(Collectors.toList());
System.out.println(uniqueList.size()); // 输出结果:2
}
}
代码运行效果:通过重写equals和hashCode,distinct()成功去除重复对象
三、3种进阶去重方法:灵活应对复杂场景
除了distinct(),实际开发中还会遇到无法修改实体类(如第三方库对象)或需要按部分属性去重的场景,这时可以用以下3种方法:
方法1:基于单个属性去重(Collectors.toMap)
适用于根据某个唯一属性(如id)去重,且需保留首个出现元素的场景:
List<Person> list = Arrays.asList(
new Person("1", "张三"),
new Person("1", "张三"),
new Person("2", "李四")
);
// 以id为key,冲突时保留已有元素
List<Person> uniqueList = list.stream()
.collect(Collectors.toMap(
Person::getId, // key:id(去重依据)
p -> p, // value:对象本身
(existing, replacement) -> existing // 冲突处理:保留前者
))
.values() // 提取value集合
.stream()
.collect(Collectors.toList());方法2:基于多属性去重(TreeSet自定义比较器)
当需要根据多个属性(如id+name)去重时,可使用TreeSet搭配比较器:
List<Person> list = Arrays.asList(
new Person("1", "张三"),
new Person("1", "张三"), // id+name相同,去重
new Person("1", "张小三") // id相同但name不同,保留
);
// 按id+name组合属性去重
List<Person> uniqueList = list.stream()
.collect(Collectors.toCollection(
() -> new TreeSet<>(
Comparator.comparing(p -> p.getId() + p.getName()) // 组合属性
)
))
.stream()
.collect(Collectors.toList());方法3:动态条件去重(filter+ConcurrentHashMap)
需动态指定去重规则(如保留最后出现的元素)时,用filter配合线程安全的集合:
List<Person> list = Arrays.asList(
new Person("1", "张三"),
new Person("1", "张三"), // 重复,保留后者
new Person("2", "李四")
);
// 线程安全的Set记录已出现的id
Set<String> seenIds = ConcurrentHashMap.newKeySet();
// 保留最后出现的重复元素
List<Person> uniqueList = list.stream()
.filter(p -> seenIds.add(p.getId())) // add返回false表示重复
.collect(Collectors.toList());四、避坑指南:常见问题与解决方案
问题场景 | 错误原因 | 解决方案 |
只重写equals不重写hashCode | 导致hashCode不同,distinct()认为对象不同 | 必须同时重写两个方法,确保逻辑一致 |
去重后元素顺序改变 | HashSet/HashMap不保证顺序 | 使用LinkedHashSet或toMap指定LinkedHashMap |
并行流去重出现重复 | 多线程操作共享集合导致线程不安全 | 使用 |
复杂对象哈希冲突 | hashCode实现不合理(如固定返回1) | 用Objects.hash(field1, field2)组合多字段哈希 |
HashSet去重流程图:先通过hashCode定位,再用equals比较,两者缺一不可
五、实战案例:电商订单数据去重
场景:批量导入订单数据时,需根据orderId去重,避免重复入库。
实现:定义Order类并重写equals和hashCode,使用Stream.distinct()去重。
class Order {
private String orderId; // 订单唯一标识
private String product;
private BigDecimal amount;
// 重写equals和hashCode(基于orderId)
@Override
public boolean equals(Object o) { /* 实现略 */ }
@Override
public int hashCode() { /* 实现略 */ }
}
// 批量导入去重
List<Order> orders = importFromExcel(); // 从Excel读取订单
List<Order> uniqueOrders = orders.stream()
.distinct()
.collect(Collectors.toList());
db.batchInsert(uniqueOrders); // 入库去重后的订单案例来源:CSDN博客《java使用Stream流对自定义对象数组去重的实现》
六、最佳实践
- 优先使用distinct():简单场景下,重写equals和hashCode后直接调用,代码最简洁。
- 灵活选择工具方法:无法修改实体类用toMap/TreeSet,动态规则用filter+Set。
- 重视性能优化:大数据集去重时,预排序减少哈希冲突,并行流用ConcurrentHashMap。
掌握这些技巧,不仅能解决日常开发中的去重问题,更能深入理解Java集合框架的底层逻辑。快去试试用Stream API优化你的去重代码吧!如果觉得有用,记得点赞收藏哦~
相关推荐
- 路由器组网具体连接方法(路由器组网教程)
-
举例:你正在用一个TP-LINK的无线路由器上网,信号不是太好,你想在下边再连一个无线路由器的话,就得在第二个路由器上设置了,先不管第一个路由器,设置步骤:把第二个无线路由器连接到电脑上(只是路...
- 雨林木风win7纯净版gho(雨林木风win7官网)
-
雨林木风WIN7光盘重装系统的步骤是将光盘放入光驱内,设置光驱为第一启动盘,打开电脑后进入光盘引导,最后将系统文件镜像到系统盘上1.你下载的雨林木风GHOSTXPSP3纯净版Y8.0是一个克隆光...
- 电脑一直正在重新启动怎么解决
-
1、电脑误删除或者是破坏了系统文件。那么需要重新安装系统。2、可能是安装的软件或者是插件跟系统兼容性冲突导致的。可以强制关机3次,然后重新启动电脑会出现恢复界面——选择安全模式——然后电脑会重新启...
-
- 如何下载ps软件免费版(ps如何下载免费版本)
-
1.在搜索引擎中输入adobe并点击搜索。2.点击adobe官网。3.点击支持并点击下载与安装。4.点击开始免费试用并点击下载。5.打开文件夹并点击打开进行安装即可。6.根据以上步骤即可下载安装ps。AdobePhotoshopCS6号...
-
2026-01-14 05:37 liuian
- 怎么判断该换硅脂了(cpu硅脂干了影响真的很大吗)
-
方法步骤如下第一,从系统软件的运行上来看,如果在运行某些大型软件,容易导致显卡发热的程序时,出现画面掉帧,或卡顿,甚至是画面卡死等情况,这大多是因为显卡散热出现问题,导致显卡自动降频,以降低功耗来减少...
- 壁纸图片2025最新款(电脑桌面壁纸图片2025最新款)
-
要更换2023最新款壁纸图片,可以按照以下步骤操作:首先,找到您想要更换的壁纸图片并下载到您的设备上。其次,进入您的设备设置,找到“壁纸”或“桌面壁纸”选项,并点击进入。然后,选择“更换壁纸”并在相册...
- 清理垃圾的神器(清理垃圾的神器是什么)
-
1、《腾讯手机管家》这款可以帮助用户进行强力的清理,加速告别空间卡顿,缓慢延迟的问题的软件当中,用户可以随时随地登录软件进行自动清理和自动清理,自动清理包括图片,视频,语音文件在内的各种换成文件,为手...
- 苹果笔记本怎样重装系统(苹果笔记本怎样重装系统还原)
-
苹果笔记本电脑系统可以通过以下步骤进行重装:1.备份数据:在开始重装前,需要备份你的重要数据。你可以将数据存储到外部硬盘、云存储或其他可靠的设备中。2.下载安装器:从AppStore中下载macOS...
- 手机wifi打不开怎么办
-
手机wifi打不开的原因,可能集中在该手机出现了手机文件丢失、手机版本不稳定、手机文件出错以及手机wifi模块摔坏等故障造成的。手机wifi打不开修复教程1.wcnss_qcom_cfg文件丢失导...
- bios恢复出厂设置后无法开机
-
可通过进入BIOS界面设置bios恢复出厂设置的方法解决,步骤如下:1、通过按Delete或数字键盘中的Del键进入BIOS。2、按箭头键输入并将光标移动到“加载设置默认值”项,然后按enter确认。...
- 电脑硬盘打不开怎么办(电脑硬盘打不开怎么办)
-
电脑硬盘坏了是不能开机的。硬盘坏道的修复方法:1、逻辑坏道的修复对于逻辑坏道,Windows自带的“磁盘扫描程序(Scandisk)”就是最简便常用的解决手段。如果硬盘出现了坏道,我们可在Window...
- linux系统备份与还原工具(linux系统备份与还原工具在哪)
-
用GHOST对LINUX系统做备份1:要求将安装了LINUX系统的硬盘(原盘)整盘刻至另一硬盘(目标盘)。2:所需工具:DOS系统引导盘,GHOST2003(版本低的对文件格式不能很好的支持),原盘(...
- pdf怎么转换成xml格式(如何将pdf格式转换成xml格式)
-
将PDF转换为XML需要使用专业的PDF转换工具。以下是一些常用的PDF转XML工具:1.AdobeAcrobatDC:AdobeAcrobatDC是一款功能强大的PDF编辑软件,其中包括P...
- windows7iso文件(iso文件 win7)
-
利用winrar可以直接打开iso文件,如果双击不能直接打开需要设置winrar,步骤如下:1、启动winrar,点击选项菜单设置命令;2、点击综合选项卡,点击全部选择,点击确定即可。具体操作方法步骤...
- 路由器ip地址是什么意思(路由器的ip地址是)
-
路由器IP地址是指连接到互联网的路由器在局域网内的唯一标识符,一般为192.168.1.1或192.168.0.1等地址。通过路由器IP地址,用户可以通过浏览器等工具登录到路由器管理界面,进行网络设置...
- 一周热门
-
-
飞牛OS入门安装遇到问题,如何解决?
-
如何在 iPhone 和 Android 上恢复已删除的抖音消息
-
Boost高性能并发无锁队列指南:boost::lockfree::queue
-
大模型手册: 保姆级用CherryStudio知识库
-
用什么工具在Win中查看8G大的log文件?
-
如何在 Windows 10 或 11 上通过命令行安装 Node.js 和 NPM
-
威联通NAS安装阿里云盘WebDAV服务并添加到Infuse
-
Trae IDE 如何与 GitHub 无缝对接?
-
idea插件之maven search(工欲善其事,必先利其器)
-
如何修改图片拍摄日期?快速修改图片拍摄日期的6种方法
-
- 最近发表
- 标签列表
-
- python判断字典是否为空 (50)
- crontab每周一执行 (48)
- aes和des区别 (43)
- bash脚本和shell脚本的区别 (35)
- canvas库 (33)
- dataframe筛选满足条件的行 (35)
- gitlab日志 (33)
- lua xpcall (36)
- blob转json (33)
- python判断是否在列表中 (34)
- python html转pdf (36)
- 安装指定版本npm (37)
- idea搜索jar包内容 (33)
- css鼠标悬停出现隐藏的文字 (34)
- linux nacos启动命令 (33)
- gitlab 日志 (36)
- adb pull (37)
- python判断元素在不在列表里 (34)
- python 字典删除元素 (34)
- vscode切换git分支 (35)
- python bytes转16进制 (35)
- grep前后几行 (34)
- hashmap转list (35)
- c++ 字符串查找 (35)
- mysql刷新权限 (34)
