百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT知识 > 正文

Java+Redis 通过Lua 完成库存扣减,创建消息队列,异步处理消息

liuian 2024-12-25 14:00 42 浏览

需要完成功能

借助redis Stream 数据结构实现消息队列,异步完成订单创建,其中涉及到了缓存(击穿,穿透,雪崩),锁(Redisson),并发处理,异步处理,Lua脚本

1、读取库存数据 【Lua】

2、判断库存 【Lua】

3、扣减库存 【Lua】

4、创建队列和组 【Java】

5、发送队列消息 【Lua】

6、消息读取并处理 【Java】

在完成功能之前 ,需要了解一下redis 中有关stream 数据结构相关的命令

XACK:确认消息已经处理,redis 会在PEL(pending entries List )中移除一个或多个消息。一般情况下 一个消息被 XREADGROUP 或 XCLAIM之后会被写入PEL。

XADD: 把消息(Entry ,key-value)追加到队列,默认如果队列不存在会创建,除非使用 NOMKSTREAM ,之后 可以通过XREAD ,XREANGE 等命令读取或通过XDEL,XTRIM移除消息

XCLAIM,XAUTOCLAIM 改变PEL 中的消息的所有者

XDEL:在队列中移除一个或多个消息(entry)

XGROUP CREATE :在指定的队列中创建一个消费者组,队列key有且仅能有一个,否则重复会提示:-BUSYGROUP 不存在会提示:ERR no such key ,可以通过选项 MKSTREAM 在不存在时创建

XGROUP CREATECONSUMER:在一个给定的队列和消费者组中创建一个消费者,不能重复。此外在任何使用到消费者的命令中,如果不存在则自动创建。如:XREADGROUP

XGROUP DELCONSUMER:在一个给定的队列和消费者组中移除一个消费者 在执行此命令之前 相关的PEL 要先执行 XCLAIM 或 XACK进行处理,否则将变得 unclaimable.

XGROUP DESTROY:在给定的队列中删除一个消费者组,相关的consumers 和 PEL 都会被 删除,所以执行之前要慎重

XGROUP SETID :重新设置指定的消费者组的最后一个处理的消息的ID,通常这个ID初始值 是XGROUP CREATE时指定的,每次执行XREDGROUP 也会修改(更新)这个ID,例如:想让组内的消费者重新处理队列中的所有的entrys时,可以 XGROUP SETID streamkey groupkey 0,在redis 7.0增加了参数 ENTRIESREAD n ,n 为已读数量 ,此时,xinfo groups streamKey 可以看到组信息如下:

127.0.0.1:6388> xread count 20 streams s1 0
1) 1) "s1"
   2) 1) 1) "1678852071712-0"
         2) 1) "key1"
            2) "vlaue1"
      2) 1) "1678852073882-0"
         2) 1) "key1"
            2) "vlaue1"
      3) 1) "1678852080406-0"
         2) 1) "key2"
            2) "vlaue2"
      4) 1) "1678852588261-0"
         2) 1) "key-1"
            2) "vlaue2"
      5) 1) "1678852591957-0"
         2) 1) "key-2"
            2) "vlaue2"
      6) 1) "1678852595467-0"
         2) 1) "key-3"
            2) "vlaue2"
      7) 1) "1678852599576-0"
         2) 1) "key-4"
            2) "vlaue2"
      8) 1) "1678852616566-0"
         2) 1) "key-4"
            2) "vlaue2"
      9) 1) "1678852946989-0"
         2) 1) "key-5"
            2) "vlaue2"
127.0.0.1:6388> xinfo groups s1
1)  1) "name"
    2) "g1"
    3) "consumers"
    4) (integer) 1
    5) "pending"
    6) (integer) 5
    7) "last-delivered-id"
    8) "1678852080406-0"
    9) "entries-read"
   10) (integer) 9
   11) "lag"
   12) (integer) 0
127.0.0.1:6388> xreadgroup group g1 lihui  count 1 streams s1 >
1) 1) "s1"
   2) 1) 1) "1678852588261-0"
         2) 1) "key-1"
            2) "vlaue2"
127.0.0.1:6388> xinfo groups s1
1)  1) "name"
    2) "g1"
    3) "consumers"
    4) (integer) 1
    5) "pending"
    6) (integer) 5
    7) "last-delivered-id"
    8) "1678852588261-0"
    9) "entries-read"
   10) (integer) 10
   11) "lag"
   12) (integer) -1
127.0.0.1:6388> xlen s1
(integer) 9
127.0.0.1:6388> xgroup setid s1 g1 1678852073882-0  ENTRIESREAD 2
OK
127.0.0.1:6388> xinfo groups s1
1)  1) "name"
    2) "g1"
    3) "consumers"
    4) (integer) 1
    5) "pending"
    6) (integer) 5
    7) "last-delivered-id"
    8) "1678852073882-0"
    9) "entries-read"
   10) (integer) 2
   11) "lag"
   12) (integer) 7

XINFO [SRTREAM,GROUPS,CONSUMERS] :获取队列,组,消费者的信息

XLEN:返回 stream中entrys的数量

XPENDING :查询通过消费者组读取但未被确认的entrys

XRANGE :返回队列中的某个区间内的entrys

XREVRANGE: 顺序说XRANGE相反的读取队列中的entry

XREAD:从队列 内读取一个或多个entry ,支持block

XREADGROUP:在XREAD的基础上在队列与消费者之间增加了组的概念

XSETID:是一个redis 内部命令,用于记录master 与replicate之间的数据 同步的最后一个ID 的记录

好了,下面是是代码

Lua 脚本 完成 相关功能

--[[
 判断优惠券是否充足  优惠券  id ARGV[2] ,key KEYS[1]
 判断当前用户是否已经下单 用户id ARGV[1]
 如果库存充足,且用户没有下单 则 1、扣库存 2、保存用户下单信息  订单key KEYS[2] 订单ID ARGV[3]
stream 队列 key  KEYS[3]
consumer group key   KEYS[4]
  利用redis 中set 数据 类型的不重复性,进行重复下单信息的记录
--]]

local sec_kc=redis.call('get',KEYS[1])
--if(not sec_kc) then
--    redis.call('set',KEYS[1],2000)
--    sec_kc=2000
--end
if(not sec_kc or  sec_kc=='{}') then
    --库存 不足
    return 3
end
if(  tonumber(sec_kc)<=0) then
    --库存 不足
    return 1
end
--完成一人一单重复检测
if(redis.call('SISMEMBER',KEYS[2],ARGV[1])==1) then
    --订单重复
    return 2
end
--扣减库存
redis.call('incrby',KEYS[1],-1)
-- 记录订单与用户之间关系 set 数据
redis.call('sadd',KEYS[2],ARGV[1])
--获取stream队列中entry数量

--[=[
local streamcount=redis.call('xlen',KEYS[3])
--此功能转到java 中完成 CreateStreamAndGroup
if(streamcount==0) then--没有stream 需要创建
    -- XGROUP CREATE stream.order group1 0 mkstream
    redis.call('XGROUP','CREATE',KEYS[3],KEYS[4],'0','mkstream')

end
--]=]
--判断队列是否存在
local streamExists=redis.call('exists',KEYS[3])
if(streamExists==0) then
     return 4--队列不存在
end
-- 创建消息entry
--XADD S1 * KEY12 VALUE12
redis.call('XADD',KEYS[3],'*','userId',ARGV[1],'voucherId',ARGV[2],'id',ARGV[3])--key 的取值与对象 VoucherOrder 中变量属性对应,分别是,userId,voucherId,id(订单id)
--满足下单条件
return 0

因为在redis 的stream 命令中 没有判断 consumer group 是否存在,所以需要变通的方法,解决这个问题,因为如果组不存的情况下,进行xadd 会报错。

创建队列和消费者组

 /**
     * 查询队列信息,如果不存在会出现异常,在异常中创建队列
     * @param streamKey
     * @param groupKey
     */
    private void CreateStreamAndGroup(String streamKey,String groupKey)
    {
        try {
            //默认队列和组不存 创建队列
            stringRedisTemplate.opsForStream().createGroup(streamKey, ReadOffset.from("0"), groupKey);
            System.out.println(streamKey + "队列" + streamKey + "和组" + groupKey + "创建成功。");
        }

        catch ( Exception ex)
        {
            String errx = ex.getMessage().toString();

            if(errx.indexOf("BUSYGROUP Consumer Group name already exists")>0)//队列与组都已经存在
            {
                //System.out.println(streamKey + "队列" + streamKey + "和组" + groupKey + "都已经存在");
            }
            else
            {
                log.debug(ex.getMessage());
            }
        }


    }

判断队列是否存在

 /**
     * 判断consumer group 是否存在,如果队列不存在直接返回 false,
     * 如果队列存在,不论组是否存,都直接创建。
     */
    private boolean ConsumerGroupExists(String streamKey,String groupKey)
    {
        boolean isok=false;
        try {
            //默认队列和组不存 创建队列
            Collection<String> streamCollect=new ArrayList<>();
            streamCollect.add(streamKey);
            Long c_stream = stringRedisTemplate.countExistingKeys(streamCollect);
            if(c_stream==0)
            {
                isok= false;//队列不存在
                return isok;
            }
            //队列存在 ,那么直接创建消费者组,
            stringRedisTemplate.opsForStream().createGroup(streamKey, ReadOffset.from("0"), groupKey);
            System.out.println(streamKey + "队列" + streamKey + "存在,组" + groupKey + "创建成功。");
            isok=true;//组创建成功
        }

        catch ( Exception ex)
        {
            String errx = ex.getMessage().toString();

            if(errx.indexOf("BUSYGROUP Consumer Group name already exists")>0)//队列与组都已经存在
            {
                isok=true;//组创建成功
                //System.out.println(streamKey + "队列" + streamKey + "和组" + groupKey + "都已经存在");
            }
            else
            {
                isok=false;//未知异常
                log.debug(ex.getMessage());
            }
        }finally {

            return  isok;
        }


    }

订单创建入口函数(放在controller 或 seervice impl) 中

public Result secKillVoucher(Long voucherId) {


        long userID = UserHolder.getUser().getId();

        String vouchStockKey = RedisConstants.SECKILL_VOUCHERSTOCK_CACHE_KEY + voucherId;
        String userid_s = String.valueOf(userID);
        String vouchOrderKey = RedisConstants.SECKILL_ORDER_CACHE_KEY + voucherId;

        String streamKey = RedisConstants.REDIS_STREAM_QUEUE_ORDER ;
        String groupKey = RedisConstants.REDIS_STREAM_GROUP_ORDER;

        List<String> keys = new ArrayList<>();
        keys.add(vouchStockKey);//库存key KEYS[1]
        keys.add(vouchOrderKey);//订单key KEYS[2]
        keys.add(streamKey);//队列key  KEYS[3]
        keys.add(groupKey);//消费组key  KEYS[4]
        //check sec_voucher_stock
        // 1 查询优惠券
        int count = seckillVoucherService.getRedisStock(voucherId);
        if (count <= 0) {
            return Result.fail("优惠券库存不存在 count:" + count);

        }
        long orderid = redisIdWorker.nextId(RedisConstants.ID_ORDER);
        CreateStreamAndGroup(streamKey,groupKey);

        //订单ID ARGV[3]
        //优惠券  id ARGV[2]
        //用户id ARGV[1]
        //执行lua 完成优惠券库存,一人一单,检查 并创建用户与优惠券ID之间的关联
        //脚本完成 创建消息队列 (执行此脚本之前确保队列 已经创建
        Long sekResult = stringRedisTemplate.execute(SECKILL_SCRIPT,
                keys
                , userid_s,String.valueOf(voucherId),String.valueOf(orderid)
        );
        int ri = sekResult.intValue();
        System.out.println("lua 脚本执行返回值 :"+ri);
        if(ri!=0)
        {
            
            String errtip="优惠券库存不足";
           switch (ri)
           {
               case 2:
                   errtip="订单重复一人一单";
                       break;
               case 3:
                   errtip="库存数据不存在";
                   break;
               case 4:
                   errtip="消息队列不存在";
                   break;
               case 1:
                   errtip="优惠券库存不足";
                   break;
               default:
                   errtip="未知错误";

           }



          return   Result.fail(errtip);
        }
    /**
        注意:下面的代理对象要有
     */
        proxy=(IVoucherOrderService)AopContext.currentProxy();

        return Result.ok(orderid);

    }

创建线程获取消息队列并处理

 private static final ExecutorService SECKILL_ORDER_EXECUTOR=Executors.newSingleThreadExecutor();
    @PostConstruct
    private void init(){
        //本地阻塞队列的方式
       // SECKILL_ORDER_EXECUTOR.submit(new VoucherOrderHandler());
        //读取redis消息队列并处理
        SECKILL_ORDER_EXECUTOR.submit(new VoucherOrderHandlerRedisQueue());
    }
   //从redis 消息队列中获取消息
    private class VoucherOrderHandlerRedisQueue implements Runnable{

        @Override
        public void run() {
            while(true){
                //get orderinfo from blockingqueen
                try {
                    String streamKey = RedisConstants.REDIS_STREAM_QUEUE_ORDER ;
                    String groupKey = RedisConstants.REDIS_STREAM_GROUP_ORDER;
                    String cs=RedisConstants.REDIS_STREAM_CONSUMER_ORDER;

                    //判断组是否存在
                    if (!ConsumerGroupExists(streamKey,groupKey)) {
                       // log.error("异步线程读取redis stream 失败:队列 未创建:"+streamKey);
                        Thread.sleep(3000);
                        continue;
                    }
                     //从消息队列中获取消息
                    List<MapRecord<String, Object, Object>> queueList = stringRedisTemplate.opsForStream()
                            .read(Consumer.from( groupKey,cs),
                            StreamReadOptions.empty().count(1).block(Duration.ofSeconds(2))
                            , StreamOffset.create(streamKey,ReadOffset.lastConsumed())
                    );
                    if(queueList==null || queueList.isEmpty() )
                    {
                        //未获取到消息
                        continue;//continue do next
                    }
                    //处理消息
                    MapRecord<String, Object, Object> record = queueList.get(0);
                    Map<Object, Object> vq = record.getValue();
                    VoucherOrder voucherOrder= BeanUtil.fillBeanWithMap(vq,new VoucherOrder(),false);

                    //成功获取 创建订单到数据库
                   handlerVoucherOrder(voucherOrder);
                   //确认消息 在PEL中移除
                    stringRedisTemplate.opsForStream().acknowledge(streamKey,groupKey,record.getId());

                } catch (Exception e) {

                    HandlePendingList();
                    log.error(e.getMessage().toString());
                    //throw new RuntimeException(e);
                }


            }
        }

异常处理 在redis stream pending List 中获取 队列

 private void HandlePendingList() {
            String streamKey = RedisConstants.REDIS_STREAM_QUEUE_ORDER ;//stream
            String groupKey = RedisConstants.REDIS_STREAM_GROUP_ORDER;// consumer group
            String cs=RedisConstants.REDIS_STREAM_CONSUMER_ORDER;//consumer
            while (true)
                try {
                    {
                        //read from  pel
                    List<MapRecord<String, Object, Object>> queueList = stringRedisTemplate.opsForStream()
                            .read(Consumer.from ( groupKey,cs),
                            StreamReadOptions.empty().count(1)
                            , StreamOffset.create(streamKey, ReadOffset.from("0"))
                    );
                    if(queueList==null ||queueList.isEmpty())
                    {
                        //未获取到消息
                        break;//continue do next normal
                    }
                    //处理消息
                    MapRecord<String, Object, Object> record = queueList.get(0);
                    Map<Object, Object> vq = record.getValue();
                    VoucherOrder voucherOrder= BeanUtil.fillBeanWithMap(vq,new VoucherOrder(),false);

                    //成功获取
                    handlerVoucherOrder(voucherOrder);
                    //确认消息
                    stringRedisTemplate.opsForStream().acknowledge(streamKey,groupKey,record.getId());

                    }
                } catch (Exception e) {
                    log.debug("消息队列--peding List 处理异常");
                    try {
                        Thread.sleep(50);
                    } catch (InterruptedException ex) {
                        throw new RuntimeException(ex);
                    }

                }
        }
    }

订单处理

 private  IVoucherOrderService proxy;
    private void handlerVoucherOrder(VoucherOrder voucherOrder) {

        if(voucherOrder==null || voucherOrder.getUserId()==null)
        {
            log.debug("对象为空 或 属性用户ID 为空。");
        }
        // user ID
        long userID= voucherOrder.getUserId();

        RLock lock=redisson.getLock(RedisConstants.LOCK_VOUCHERORDER_KEY+ StrUtil.toString(userID));
        boolean islock = lock.tryLock();//active watch dog

        if(!islock)
        {
           log.error("锁创建失败");
        }

        try {
            //IVoucherOrderService proxy=(IVoucherOrderService)AopContext.currentProxy();//获取spring 对当前对象的代理
             proxy.createVoucherOrderByObj(voucherOrder);

        } catch (IllegalStateException e) {
            throw new RuntimeException(e);
        }finally {
            //lock.unLock(); //my define simple redis lock
            lock.unlock();//redisson release lock
        }

    }

实现类中的方法

 @Transactional//因为方法中 订单的操作 和 库存扣减,所以增加事务支持 为防止数据 不同步
    public void createVoucherOrderByObj(VoucherOrder voucher) {
        // user ID
        if(voucher==null || voucher.getUserId()==null)
        {
            log.debug("对象为空 或 属性用户ID 为空。");
            return;
        }
        long userID=voucher.getUserId();

        int count=query().eq("user_id",userID).eq("voucher_id", voucher.getVoucherId()).count();
        if(count>0)
        {
           log.error("优惠券仅限每人一个 count:"+count);
           return;
        }

        //5扣减库存
        boolean success=seckillVoucherService.update()
                .setSql("stock=stock-1")
                .eq("voucher_id", voucher.getVoucherId()).gt("stock",0)
                .update();
        if(!success)
        {
            log.error("扣减券库存失败Obj: voucher.getVoucherId():"+ voucher.getVoucherId());
            return;
        }
        System.out.println("voucher saved");
        boolean ds = save(voucher);


    }

相关推荐

赶紧收藏!编程python基础知识,本文给你全部整理好了

想一起学习编程Python的同学,趁我粉丝少,可以留言、私信领编程资料~Python基础入门既然学习Python,那么至少得了解下这门编程语言,知道Python代码执行过程吧。Python的历...

创建绩效改进计划 (PIP) 的6个步骤

每个经理都必须与未能达到期望的员工抗衡,也许他们的表现下降了,他们被分配了新的任务并且无法处理它们,或者他们处理了自己的任务,但他们的行为对他人造成了破坏。许多公司转向警告系统,然后在这些情况下终止。...

PI3K/AKT信号通路全解析:核心分子、上游激活与下游效应分子

PI3K/AKT/mTOR(PAM)信号通路是真核细胞中高度保守的信号转导网络,作用于促进细胞存活、生长和细胞周期进程。PAM轴上生长因子向转录因子的信号传导受到与其他多条信号通路的多重交叉相互作用的...

互联网公司要求签PIP,裁员连N+1都没了?

2021年刚画上句号,令无数互联网公司从业者闻风丧胆的绩效公布时间就到了,脉脉上已然炸了锅。阿里3.25、腾讯二星、百度四挡、美团绩效C,虽然名称五花八门,实际上都代表了差绩效。拿到差绩效,非但不能晋...

Python自动化办公应用学习笔记3—— pip工具安装

3.1pip工具安装最常用且最高效的Python第三方库安装方式是采用pip工具安装。pip是Python包管理工具,提供了对Python包的查找、下载、安装、卸载的功能。pip是Python官方提...

单片机都是相通的_单片机是串行还是并行

作为一个七年的从业者,单片机对于我个人而言它是一种可编程的器件,现在长见到的电子产品中几乎都有单片机的身影,它们是以单片机为核心,根据不同的功能需求,搭建不同的电路,从8位的单片机到32位的单片机,甚...

STM32F0单片机快速入门八 聊聊 Coolie DMA

1.苦力DMA世上本没有路,走的人多了,便成了路。世上本没有DMA,需要搬运的数据多了,便有了DMA。大多数同学应该没有在项目中用过这个东西,因为一般情况下也真不需要这个东西。在早期的单片机中...

放弃51单片机,直接学习STM32开发可能会面临的问题

学习51单片机并非仅仅是为了学习51本身,而是通过它学习一种方法,即如何仅仅依靠Datasheet和例程来学习一种新的芯片。51单片机相对较简单,是这个过程中最容易上手的选择,而AVR单片机则更为复杂...

STM32串口通信基本原理_stm32串口原理图

通信接口背景知识设备之间通信的方式一般情况下,设备之间的通信方式可以分成并行通信和串行通信两种。并行与串行通信的区别如下表所示。串行通信的分类1、按照数据传送方向,分为:单工:数据传输只支持数据在一个...

单片机的程序有多大?_单片机的程序有多大内存

之前一直很奇怪一个问题,每次写好单片机程序之后,用烧录软件进行烧录时,能看到烧录文件也就是hex的文件大小:我用的单片机芯片是STM32F103C8T6,程序储存器(flash)只有64K。从...

解析STM32单片机定时器编码器模式及其应用场景

本文将对STM32单片机定时器编码器模式进行详细解析,包括介绍不同的编码器模式、各自的优缺点以及相同点和不同点的应用场景。通过阅读本文,读者将对STM32单片机定时器编码器模式有全面的了解。一、引言...

两STM32单片机串口通讯实验_两个32单片机间串口通信

一、实验思路连接两个STM32单片机的串口引脚,单片机A进行发送,单片机B进行接收。单片机B根据接收到单片机A的指令来点亮或熄灭板载LED灯,通过实验现象来验证是否通讯成功。二、实验器材两套STM32...

基于单片机的智能考勤机设计_基于51单片机的指纹考勤机

一、设计背景随着科技水平的不断发展,在这么一个信息化的时代,智能化信息处理已是提高效率、规范管理和客观审查的最有效途径。近几年来,国内很多公司都在加强对企业人员的管理,考勤作为企业的基础管理,是公司...

STM32单片机详细教学(二):STM32系列单片机的介绍

大家好,今天给大家介绍STM32系列单片机,文章末尾附有本毕业设计的论文和源码的获取方式,可进群免费领取。前言STM32系列芯片是为要求高性能、低成本、低功耗的嵌入式应用设计的ARMCortexM...

STM32单片机的 Hard-Fault 硬件错误问题追踪与分析

有过单片机开发经验的人应该都会遇到过硬件错误(Hard-Fault)的问题,对于这样的问题,有些问题比较容易查找,有些就查找起来很麻烦,甚至可能很久都找不到问题到底是出在哪里。特别是有时候出现一次,后...