Java+Redis 通过Lua 完成库存扣减,创建消息队列,异步处理消息
liuian 2024-12-25 14:00 27 浏览
需要完成功能
借助redis Stream 数据结构实现消息队列,异步完成订单创建,其中涉及到了缓存(击穿,穿透,雪崩),锁(Redisson),并发处理,异步处理,Lua脚本
1、读取库存数据 【Lua】
2、判断库存 【Lua】
3、扣减库存 【Lua】
4、创建队列和组 【Java】
5、发送队列消息 【Lua】
6、消息读取并处理 【Java】
在完成功能之前 ,需要了解一下redis 中有关stream 数据结构相关的命令
XACK:确认消息已经处理,redis 会在PEL(pending entries List )中移除一个或多个消息。一般情况下 一个消息被 XREADGROUP 或 XCLAIM之后会被写入PEL。
XADD: 把消息(Entry ,key-value)追加到队列,默认如果队列不存在会创建,除非使用 NOMKSTREAM ,之后 可以通过XREAD ,XREANGE 等命令读取或通过XDEL,XTRIM移除消息
XCLAIM,XAUTOCLAIM 改变PEL 中的消息的所有者
XDEL:在队列中移除一个或多个消息(entry)
XGROUP CREATE :在指定的队列中创建一个消费者组,队列key有且仅能有一个,否则重复会提示:-BUSYGROUP 不存在会提示:ERR no such key ,可以通过选项 MKSTREAM 在不存在时创建
XGROUP CREATECONSUMER:在一个给定的队列和消费者组中创建一个消费者,不能重复。此外在任何使用到消费者的命令中,如果不存在则自动创建。如:XREADGROUP
XGROUP DELCONSUMER:在一个给定的队列和消费者组中移除一个消费者 在执行此命令之前 相关的PEL 要先执行 XCLAIM 或 XACK进行处理,否则将变得 unclaimable.
XGROUP DESTROY:在给定的队列中删除一个消费者组,相关的consumers 和 PEL 都会被 删除,所以执行之前要慎重
XGROUP SETID :重新设置指定的消费者组的最后一个处理的消息的ID,通常这个ID初始值 是XGROUP CREATE时指定的,每次执行XREDGROUP 也会修改(更新)这个ID,例如:想让组内的消费者重新处理队列中的所有的entrys时,可以 XGROUP SETID streamkey groupkey 0,在redis 7.0增加了参数 ENTRIESREAD n ,n 为已读数量 ,此时,xinfo groups streamKey 可以看到组信息如下:
127.0.0.1:6388> xread count 20 streams s1 0
1) 1) "s1"
2) 1) 1) "1678852071712-0"
2) 1) "key1"
2) "vlaue1"
2) 1) "1678852073882-0"
2) 1) "key1"
2) "vlaue1"
3) 1) "1678852080406-0"
2) 1) "key2"
2) "vlaue2"
4) 1) "1678852588261-0"
2) 1) "key-1"
2) "vlaue2"
5) 1) "1678852591957-0"
2) 1) "key-2"
2) "vlaue2"
6) 1) "1678852595467-0"
2) 1) "key-3"
2) "vlaue2"
7) 1) "1678852599576-0"
2) 1) "key-4"
2) "vlaue2"
8) 1) "1678852616566-0"
2) 1) "key-4"
2) "vlaue2"
9) 1) "1678852946989-0"
2) 1) "key-5"
2) "vlaue2"
127.0.0.1:6388> xinfo groups s1
1) 1) "name"
2) "g1"
3) "consumers"
4) (integer) 1
5) "pending"
6) (integer) 5
7) "last-delivered-id"
8) "1678852080406-0"
9) "entries-read"
10) (integer) 9
11) "lag"
12) (integer) 0
127.0.0.1:6388> xreadgroup group g1 lihui count 1 streams s1 >
1) 1) "s1"
2) 1) 1) "1678852588261-0"
2) 1) "key-1"
2) "vlaue2"
127.0.0.1:6388> xinfo groups s1
1) 1) "name"
2) "g1"
3) "consumers"
4) (integer) 1
5) "pending"
6) (integer) 5
7) "last-delivered-id"
8) "1678852588261-0"
9) "entries-read"
10) (integer) 10
11) "lag"
12) (integer) -1
127.0.0.1:6388> xlen s1
(integer) 9
127.0.0.1:6388> xgroup setid s1 g1 1678852073882-0 ENTRIESREAD 2
OK
127.0.0.1:6388> xinfo groups s1
1) 1) "name"
2) "g1"
3) "consumers"
4) (integer) 1
5) "pending"
6) (integer) 5
7) "last-delivered-id"
8) "1678852073882-0"
9) "entries-read"
10) (integer) 2
11) "lag"
12) (integer) 7
XINFO [SRTREAM,GROUPS,CONSUMERS] :获取队列,组,消费者的信息
XLEN:返回 stream中entrys的数量
XPENDING :查询通过消费者组读取但未被确认的entrys
XRANGE :返回队列中的某个区间内的entrys
XREVRANGE: 顺序说XRANGE相反的读取队列中的entry
XREAD:从队列 内读取一个或多个entry ,支持block
XREADGROUP:在XREAD的基础上在队列与消费者之间增加了组的概念
XSETID:是一个redis 内部命令,用于记录master 与replicate之间的数据 同步的最后一个ID 的记录
好了,下面是是代码
Lua 脚本 完成 相关功能
--[[
判断优惠券是否充足 优惠券 id ARGV[2] ,key KEYS[1]
判断当前用户是否已经下单 用户id ARGV[1]
如果库存充足,且用户没有下单 则 1、扣库存 2、保存用户下单信息 订单key KEYS[2] 订单ID ARGV[3]
stream 队列 key KEYS[3]
consumer group key KEYS[4]
利用redis 中set 数据 类型的不重复性,进行重复下单信息的记录
--]]
local sec_kc=redis.call('get',KEYS[1])
--if(not sec_kc) then
-- redis.call('set',KEYS[1],2000)
-- sec_kc=2000
--end
if(not sec_kc or sec_kc=='{}') then
--库存 不足
return 3
end
if( tonumber(sec_kc)<=0) then
--库存 不足
return 1
end
--完成一人一单重复检测
if(redis.call('SISMEMBER',KEYS[2],ARGV[1])==1) then
--订单重复
return 2
end
--扣减库存
redis.call('incrby',KEYS[1],-1)
-- 记录订单与用户之间关系 set 数据
redis.call('sadd',KEYS[2],ARGV[1])
--获取stream队列中entry数量
--[=[
local streamcount=redis.call('xlen',KEYS[3])
--此功能转到java 中完成 CreateStreamAndGroup
if(streamcount==0) then--没有stream 需要创建
-- XGROUP CREATE stream.order group1 0 mkstream
redis.call('XGROUP','CREATE',KEYS[3],KEYS[4],'0','mkstream')
end
--]=]
--判断队列是否存在
local streamExists=redis.call('exists',KEYS[3])
if(streamExists==0) then
return 4--队列不存在
end
-- 创建消息entry
--XADD S1 * KEY12 VALUE12
redis.call('XADD',KEYS[3],'*','userId',ARGV[1],'voucherId',ARGV[2],'id',ARGV[3])--key 的取值与对象 VoucherOrder 中变量属性对应,分别是,userId,voucherId,id(订单id)
--满足下单条件
return 0
因为在redis 的stream 命令中 没有判断 consumer group 是否存在,所以需要变通的方法,解决这个问题,因为如果组不存的情况下,进行xadd 会报错。
创建队列和消费者组
/**
* 查询队列信息,如果不存在会出现异常,在异常中创建队列
* @param streamKey
* @param groupKey
*/
private void CreateStreamAndGroup(String streamKey,String groupKey)
{
try {
//默认队列和组不存 创建队列
stringRedisTemplate.opsForStream().createGroup(streamKey, ReadOffset.from("0"), groupKey);
System.out.println(streamKey + "队列" + streamKey + "和组" + groupKey + "创建成功。");
}
catch ( Exception ex)
{
String errx = ex.getMessage().toString();
if(errx.indexOf("BUSYGROUP Consumer Group name already exists")>0)//队列与组都已经存在
{
//System.out.println(streamKey + "队列" + streamKey + "和组" + groupKey + "都已经存在");
}
else
{
log.debug(ex.getMessage());
}
}
}
判断队列是否存在
/**
* 判断consumer group 是否存在,如果队列不存在直接返回 false,
* 如果队列存在,不论组是否存,都直接创建。
*/
private boolean ConsumerGroupExists(String streamKey,String groupKey)
{
boolean isok=false;
try {
//默认队列和组不存 创建队列
Collection<String> streamCollect=new ArrayList<>();
streamCollect.add(streamKey);
Long c_stream = stringRedisTemplate.countExistingKeys(streamCollect);
if(c_stream==0)
{
isok= false;//队列不存在
return isok;
}
//队列存在 ,那么直接创建消费者组,
stringRedisTemplate.opsForStream().createGroup(streamKey, ReadOffset.from("0"), groupKey);
System.out.println(streamKey + "队列" + streamKey + "存在,组" + groupKey + "创建成功。");
isok=true;//组创建成功
}
catch ( Exception ex)
{
String errx = ex.getMessage().toString();
if(errx.indexOf("BUSYGROUP Consumer Group name already exists")>0)//队列与组都已经存在
{
isok=true;//组创建成功
//System.out.println(streamKey + "队列" + streamKey + "和组" + groupKey + "都已经存在");
}
else
{
isok=false;//未知异常
log.debug(ex.getMessage());
}
}finally {
return isok;
}
}
订单创建入口函数(放在controller 或 seervice impl) 中
public Result secKillVoucher(Long voucherId) {
long userID = UserHolder.getUser().getId();
String vouchStockKey = RedisConstants.SECKILL_VOUCHERSTOCK_CACHE_KEY + voucherId;
String userid_s = String.valueOf(userID);
String vouchOrderKey = RedisConstants.SECKILL_ORDER_CACHE_KEY + voucherId;
String streamKey = RedisConstants.REDIS_STREAM_QUEUE_ORDER ;
String groupKey = RedisConstants.REDIS_STREAM_GROUP_ORDER;
List<String> keys = new ArrayList<>();
keys.add(vouchStockKey);//库存key KEYS[1]
keys.add(vouchOrderKey);//订单key KEYS[2]
keys.add(streamKey);//队列key KEYS[3]
keys.add(groupKey);//消费组key KEYS[4]
//check sec_voucher_stock
// 1 查询优惠券
int count = seckillVoucherService.getRedisStock(voucherId);
if (count <= 0) {
return Result.fail("优惠券库存不存在 count:" + count);
}
long orderid = redisIdWorker.nextId(RedisConstants.ID_ORDER);
CreateStreamAndGroup(streamKey,groupKey);
//订单ID ARGV[3]
//优惠券 id ARGV[2]
//用户id ARGV[1]
//执行lua 完成优惠券库存,一人一单,检查 并创建用户与优惠券ID之间的关联
//脚本完成 创建消息队列 (执行此脚本之前确保队列 已经创建
Long sekResult = stringRedisTemplate.execute(SECKILL_SCRIPT,
keys
, userid_s,String.valueOf(voucherId),String.valueOf(orderid)
);
int ri = sekResult.intValue();
System.out.println("lua 脚本执行返回值 :"+ri);
if(ri!=0)
{
String errtip="优惠券库存不足";
switch (ri)
{
case 2:
errtip="订单重复一人一单";
break;
case 3:
errtip="库存数据不存在";
break;
case 4:
errtip="消息队列不存在";
break;
case 1:
errtip="优惠券库存不足";
break;
default:
errtip="未知错误";
}
return Result.fail(errtip);
}
/**
注意:下面的代理对象要有
*/
proxy=(IVoucherOrderService)AopContext.currentProxy();
return Result.ok(orderid);
}
创建线程获取消息队列并处理
private static final ExecutorService SECKILL_ORDER_EXECUTOR=Executors.newSingleThreadExecutor();
@PostConstruct
private void init(){
//本地阻塞队列的方式
// SECKILL_ORDER_EXECUTOR.submit(new VoucherOrderHandler());
//读取redis消息队列并处理
SECKILL_ORDER_EXECUTOR.submit(new VoucherOrderHandlerRedisQueue());
}
//从redis 消息队列中获取消息
private class VoucherOrderHandlerRedisQueue implements Runnable{
@Override
public void run() {
while(true){
//get orderinfo from blockingqueen
try {
String streamKey = RedisConstants.REDIS_STREAM_QUEUE_ORDER ;
String groupKey = RedisConstants.REDIS_STREAM_GROUP_ORDER;
String cs=RedisConstants.REDIS_STREAM_CONSUMER_ORDER;
//判断组是否存在
if (!ConsumerGroupExists(streamKey,groupKey)) {
// log.error("异步线程读取redis stream 失败:队列 未创建:"+streamKey);
Thread.sleep(3000);
continue;
}
//从消息队列中获取消息
List<MapRecord<String, Object, Object>> queueList = stringRedisTemplate.opsForStream()
.read(Consumer.from( groupKey,cs),
StreamReadOptions.empty().count(1).block(Duration.ofSeconds(2))
, StreamOffset.create(streamKey,ReadOffset.lastConsumed())
);
if(queueList==null || queueList.isEmpty() )
{
//未获取到消息
continue;//continue do next
}
//处理消息
MapRecord<String, Object, Object> record = queueList.get(0);
Map<Object, Object> vq = record.getValue();
VoucherOrder voucherOrder= BeanUtil.fillBeanWithMap(vq,new VoucherOrder(),false);
//成功获取 创建订单到数据库
handlerVoucherOrder(voucherOrder);
//确认消息 在PEL中移除
stringRedisTemplate.opsForStream().acknowledge(streamKey,groupKey,record.getId());
} catch (Exception e) {
HandlePendingList();
log.error(e.getMessage().toString());
//throw new RuntimeException(e);
}
}
}
异常处理 在redis stream pending List 中获取 队列
private void HandlePendingList() {
String streamKey = RedisConstants.REDIS_STREAM_QUEUE_ORDER ;//stream
String groupKey = RedisConstants.REDIS_STREAM_GROUP_ORDER;// consumer group
String cs=RedisConstants.REDIS_STREAM_CONSUMER_ORDER;//consumer
while (true)
try {
{
//read from pel
List<MapRecord<String, Object, Object>> queueList = stringRedisTemplate.opsForStream()
.read(Consumer.from ( groupKey,cs),
StreamReadOptions.empty().count(1)
, StreamOffset.create(streamKey, ReadOffset.from("0"))
);
if(queueList==null ||queueList.isEmpty())
{
//未获取到消息
break;//continue do next normal
}
//处理消息
MapRecord<String, Object, Object> record = queueList.get(0);
Map<Object, Object> vq = record.getValue();
VoucherOrder voucherOrder= BeanUtil.fillBeanWithMap(vq,new VoucherOrder(),false);
//成功获取
handlerVoucherOrder(voucherOrder);
//确认消息
stringRedisTemplate.opsForStream().acknowledge(streamKey,groupKey,record.getId());
}
} catch (Exception e) {
log.debug("消息队列--peding List 处理异常");
try {
Thread.sleep(50);
} catch (InterruptedException ex) {
throw new RuntimeException(ex);
}
}
}
}
订单处理
private IVoucherOrderService proxy;
private void handlerVoucherOrder(VoucherOrder voucherOrder) {
if(voucherOrder==null || voucherOrder.getUserId()==null)
{
log.debug("对象为空 或 属性用户ID 为空。");
}
// user ID
long userID= voucherOrder.getUserId();
RLock lock=redisson.getLock(RedisConstants.LOCK_VOUCHERORDER_KEY+ StrUtil.toString(userID));
boolean islock = lock.tryLock();//active watch dog
if(!islock)
{
log.error("锁创建失败");
}
try {
//IVoucherOrderService proxy=(IVoucherOrderService)AopContext.currentProxy();//获取spring 对当前对象的代理
proxy.createVoucherOrderByObj(voucherOrder);
} catch (IllegalStateException e) {
throw new RuntimeException(e);
}finally {
//lock.unLock(); //my define simple redis lock
lock.unlock();//redisson release lock
}
}
实现类中的方法
@Transactional//因为方法中 订单的操作 和 库存扣减,所以增加事务支持 为防止数据 不同步
public void createVoucherOrderByObj(VoucherOrder voucher) {
// user ID
if(voucher==null || voucher.getUserId()==null)
{
log.debug("对象为空 或 属性用户ID 为空。");
return;
}
long userID=voucher.getUserId();
int count=query().eq("user_id",userID).eq("voucher_id", voucher.getVoucherId()).count();
if(count>0)
{
log.error("优惠券仅限每人一个 count:"+count);
return;
}
//5扣减库存
boolean success=seckillVoucherService.update()
.setSql("stock=stock-1")
.eq("voucher_id", voucher.getVoucherId()).gt("stock",0)
.update();
if(!success)
{
log.error("扣减券库存失败Obj: voucher.getVoucherId():"+ voucher.getVoucherId());
return;
}
System.out.println("voucher saved");
boolean ds = save(voucher);
}
相关推荐
- Docker 47 个常见故障的原因和解决方法
-
【作者】曹如熙,具有超过十年的互联网运维及五年以上团队管理经验,多年容器云的运维,尤其在Docker和kubernetes领域非常精通。Docker是一种相对使用较简单的容器,我们可以通过以下几种方式...
- 电脑30个快问快答,解决常见电脑问题
-
1.强行关机/停电对电脑有影响吗?答:可能损坏硬盘(机械硬盘风险高)、未保存数据丢失,偶尔一次影响小,但频繁操作会缩短硬件寿命。2.C盘满影响速度吗?答:会!系统运行需C盘空间缓存临时数据,空间不...
- 使用Tcpdump包抓取分析数据包的详细用法
-
TcpDump可以将网络中传送的数据包的“头”完全截获下来提供分析。它支持针对网络层、协议、主机、网络或端口的过滤,并提供and、or、not等逻辑语句来帮助你去掉无用的信息。tcpdump就是一种...
- 电脑启动不了(BootDevice Not Found Hard Disk-3F0)解决方案
-
HP品牌机,开机启动不了,黑屏,开机取下主板电池恢复BIOS后,开机显示找不到启动盘。一、按F2键进入BIOS,出现硬盘内存检测界面的话,直接退出。就会出现这个界面,光标键向下,选择BIOSSetu...
- 电脑开机黑屏别慌!快码住!起底维修老师傅不能说的秘密
-
按下开机键却只收获黑屏大礼包?那些神秘的英文提示、刺耳的蜂鸣声,其实是电脑在给你发送求救信号!从按下电源到进入桌面的12秒里,你的电脑经历了史诗级的硬件自检与系统加载,今天我们就破译这段“摩斯电码”。...
- 电脑启动故障为何总要先看BIOS?新手必读的关键知识解析
-
最近在帮朋友们解答电脑无法正常开机的问题时,发现大家经常收到一句高频建议:“先检查BIOS”。对不少普通用户而言,BIOS依然是个神秘的存在。那么,BIOS到底是什么?电脑出现哪些故障会与它相关呢?本...
- Windows 11 KB5053598更新:安全补丁还是系统噩梦?
-
2025年3月11日,微软发布了Windows1124H2的强制性更新KB5053598,作为“周二补丁日”(PatchTuesday)的一部分。然而,这款本应提升系统安全性的更新却引发了广泛的...
- 飞牛OS入门安装遇到问题,如何解决?
-
之前小编尝试了用旧电脑装飞牛OS安装之前特意查了一些硬件要求飞牛OS目前支持主流的x86架构硬件主机需能连网线飞牛OS暂时不支持只有无线网卡的安装貌似很多小伙伴在一开始安装就卡住了那今天咱们汇总分...
- 几种常见的电脑开机黑屏显示白色英文字母解决方法
-
当电脑开机出现黑屏并显示白色英文字母时,通常表示系统启动过程中遇到了错误。以下是几种常见原因及对应的解决方法,按照排查顺序整理:一、检查外接设备与硬件连接可能原因:外接U盘、移动硬盘等未拔出,或内部硬...
- 电脑启动出现问题,为什么都要先检查BIOS?
-
【ZOL中关村在线原创技巧应用】最近在回答问题的时候,总会发现很多朋友都在问“电脑无法正常开机怎么办?”这样类似的问题,而许多DIY大佬的回复总会出现一条高频建议“先检查BIOS”。但对于许多普通用户...
- 教你怎么用JavaScript检测当前浏览器是无头浏览器
-
什么是无头浏览器(headlessbrowser)?无头浏览器是指可以在图形界面情况下运行的浏览器。我可以通过编程来控制无头浏览器自动执行各种任务,比如做测试,给网页截屏等。为什么叫“无头”浏览器?...
- 12个高效的Python爬虫框架,你用过几个?
-
实现爬虫技术的编程环境有很多种,Java、Python、C++等都可以用来爬虫。但很多人选择Python来写爬虫,为什么呢?因为Python确实很适合做爬虫,丰富的第三方库十分强大,简单几行代码便可实...
- 运维的报表之路,用 node.js 轻松发送 grafana 报表
-
在运维过程中,无论是监控还是报表,都会有一些通过邮件发送图表的需求,由于开源的zabbix,grafana和kibana等并不完全具有“想发送哪儿就发送哪儿”的图片生成功能,在grafana...
- C#基于浏览器内核的高级爬虫(c#爬取网页内容)
-
基于C#.NET+PhantomJS+Sellenium的高级网络爬虫程序。可执行Javascript代码、触发各类事件、操纵页面Dom结构、甚至可以移除不喜欢的CSS样式。很多网站都用Ajax动态加...
- 如何优化一个秒杀项目?(秒杀实现思路)
-
问题1:使用jmeter性能压测,定位瓶颈代码步骤流程:线程组--->Http请求--->查看结果树--->聚合报告tips:host的文件--->优先调用映射,减少DNS的时...
- 一周热门
-
-
Python实现人事自动打卡,再也不会被批评
-
Psutil + Flask + Pyecharts + Bootstrap 开发动态可视化系统监控
-
一个解决支持HTML/CSS/JS网页转PDF(高质量)的终极解决方案
-
【验证码逆向专栏】vaptcha 手势验证码逆向分析
-
再见Swagger UI 国人开源了一款超好用的 API 文档生成框架,真香
-
网页转成pdf文件的经验分享 网页转成pdf文件的经验分享怎么弄
-
C++ std::vector 简介
-
python使用fitz模块提取pdf中的图片
-
《人人译客》如何规划你的移动电商网站(2)
-
Jupyterhub安装教程 jupyter怎么安装包
-
- 最近发表
- 标签列表
-
- python判断字典是否为空 (50)
- crontab每周一执行 (48)
- aes和des区别 (43)
- bash脚本和shell脚本的区别 (35)
- canvas库 (33)
- dataframe筛选满足条件的行 (35)
- gitlab日志 (33)
- lua xpcall (36)
- blob转json (33)
- python判断是否在列表中 (34)
- python html转pdf (36)
- 安装指定版本npm (37)
- idea搜索jar包内容 (33)
- css鼠标悬停出现隐藏的文字 (34)
- linux nacos启动命令 (33)
- gitlab 日志 (36)
- adb pull (37)
- table.render (33)
- uniapp textarea (33)
- python判断元素在不在列表里 (34)
- python 字典删除元素 (34)
- react-admin (33)
- vscode切换git分支 (35)
- vscode美化代码 (33)
- python bytes转16进制 (35)