实现AI API Tokens计费产品方案和Java技术实现设计(含源码分享)
liuian 2025-04-27 14:46 72 浏览
以下是为基于 Java Spring Boot 3 的AI Token计费系统设计的完整方案,包含产品架构与技术实现细节:
一、系统架构设计
1. 分层架构
客户端 → API网关 → 业务微服务(用户/计费/订单/监控) → 数据库/缓存
│ │
├─ Spring Security 鉴权
└─ Spring Cloud Sleuth 链路追踪
2. 技术栈组合
- 核心框架: Spring Boot 3.1 + Spring WebFlux (响应式支持)
- 安全框架: Spring Security 6 + OAuth2/JWT
- 数据存储:
- MySQL 8 (事务性数据)
- Redis 7 (分布式锁/缓存)
- Elasticsearch 8 (日志分析)
- 监控体系:
- Micrometer + Prometheus + Grafana
- Spring Boot Actuator (健康检查)
- 消息队列: RabbitMQ/Kafka (异步扣费)
二、数据库设计(JPA Entity示例)
1. 用户实体
java代码,
@Entity
@Table(name = "ai_user")
public class User {
@Id
@GeneratedValue(strategy = GenerationType.IDENTITY)
private Long id;
@Column(unique = true, nullable = false)
private String email;
@Column(precision = 12, scale = 4)
private BigDecimal balance = BigDecimal.ZERO;
@Version
private Long version; // 乐观锁
}
2. 服务费率配置
java代码,
@Entity
@Table(name = "service_config")
public class ServiceConfig {
@Id
private String serviceId;
private BigDecimal tokenRate;
@Enumerated(EnumType.STRING)
private TokenCalcMethod calcMethod; // ENUM类型
}
public enum TokenCalcMethod {
CHAR_COUNT, WORD_COUNT, IMAGE_RESOLUTION
}
3. 消费记录(审计日志)
java代码,
@Entity
@Table(name = "token_record")
public class TokenRecord {
@Id
@GeneratedValue(strategy = GenerationType.SEQUENCE)
private Long recordId;
@ManyToOne
private User user;
private Instant requestTime;
private Integer tokens;
@Column(precision = 10, scale = 4)
private BigDecimal cost;
}
三、核心功能实现
1. Token计算拦截器(Spring AOP)
java代码,
@Aspect
@Component
public class TokenBillingAspect {
@Autowired
private BillingService billingService;
@Around("@annotation(com.ai.billing.RequiresToken)")
public Object handleTokenDeduction(ProceedingJoinPoint joinPoint) throws Throwable {
MethodSignature signature = (MethodSignature) joinPoint.getSignature();
RequiresToken annotation = signature.getMethod().getAnnotation(RequiresToken.class);
Object result = joinPoint.proceed(); // 执行AI服务
int tokens = calculateTokens(result, annotation.serviceType());
billingService.deductTokens(
SecurityContextHolder.getContext().getAuthentication().getName(),
annotation.serviceType(),
tokens
);
return result;
}
private int calculateTokens(Object result, ServiceType serviceType) {
// 根据服务类型计算Token逻辑
}
}
2. 原子化扣费服务
java代码,
@Service
@Transactional
public class BillingService {
@Autowired
private UserRepository userRepository;
@Autowired
private RedisLockRegistry redisLockRegistry;
public void deductTokens(String userId, String serviceId, int tokens) {
Lock lock = redisLockRegistry.obtain(userId); // 分布式锁
try {
if (lock.tryLock(1, TimeUnit.SECONDS)) {
User user = userRepository.findByEmail(userId)
.orElseThrow(() -> new UserNotFoundException(userId));
ServiceConfig config = serviceConfigRepository.findById(serviceId)
.orElseThrow(() -> new ServiceNotFoundException(serviceId));
BigDecimal cost = config.getTokenRate().multiply(BigDecimal.valueOf(tokens));
if (user.getBalance().compareTo(cost) < 0) {
throw new InsufficientBalanceException();
}
user.setBalance(user.getBalance().subtract(cost));
userRepository.save(user);
tokenRecordRepository.save(new TokenRecord(user, tokens, cost));
}
} finally {
lock.unlock();
}
}
}
3. 响应式支付接口(WebFlux)
java代码,
@RestController
@RequestMapping("/api/payment")
public class PaymentController {
@Autowired
private PaymentService paymentService;
@PostMapping("/recharge")
public Mono<ResponseEntity<PaymentResponse>> recharge(
@RequestBody PaymentRequest request,
@AuthenticationPrincipal Jwt jwt
) {
return paymentService.processPayment(jwt.getSubject(), request)
.map(response -> ResponseEntity.ok().body(response))
.onErrorResume(e -> Mono.just(ResponseEntity.badRequest().build()));
}
}
四、安全与监控方案
1. 安全防护
yaml配置文件,
# application-security.yml
spring:
security:
oauth2:
resourceserver:
jwt:
issuer-uri: https://auth.ai.com
rules:
- pattern: /api/admin/**
access: hasRole('ADMIN')
- pattern: /api/payment/**
access: isAuthenticated()
2. Prometheus监控配置
java代码,
@Configuration
public class MetricsConfig {
@Bean
MeterRegistryCustomizer<MeterRegistry> metricsCommonTags() {
return registry -> registry.config().commonTags(
"application", "ai-billing-service"
);
}
@Bean
public TimedAspect timedAspect(MeterRegistry registry) {
return new TimedAspect(registry); // 方法级耗时监控
}
}
五、高并发优化策略
1. 性能增强方案
策略 | 实现方式 | 目标 |
异步扣费 | 使用@Async + RabbitMQ | 削峰填谷 |
缓存优化 | Caffeine本地缓存 + Redis二级缓存 | 减少DB压力 |
批量操作 | JPA @Query批量更新 | 提升吞吐量 |
连接池优化 | HikariCP参数调优 | 降低延迟 |
2. 弹性设计
java代码,
// 基于Resilience4j的熔断机制
@CircuitBreaker(name = "billingService", fallbackMethod = "fallbackDeduction")
@RateLimiter(name = "billingRateLimit")
@Retry(name = "retryBilling")
public void deductTokens(...) { ... }
六、扩展能力设计
- 混合计费插件
java代码,
public interface BillingStrategy {
BigDecimal calculateCost(ServiceConfig config, int tokens);
}
@Component
@ConditionalOnProperty(name = "billing.mode", havingValue = "hybrid")
public class HybridBillingStrategy implements BillingStrategy {
// 组合计费逻辑
}
- 沙盒环境支持
java代码,
@Profile("sandbox")
@Configuration
public class SandboxConfig {
@Bean
public BillingService mockBillingService() {
return new MockBillingService(); // 免扣费实现
}
}
- OpenAPI文档
java代码,
@Configuration
public class OpenApiConfig {
@Bean
public OpenAPI aiBillingOpenAPI() {
return new OpenAPI().info(new Info().title("AI Billing API"));
}
}
该方案充分利用Spring Boot 3的特性:
- 响应式编程处理高并发请求
- JDK 17特性(Record类、模式匹配)
- 原生编译支持(GraalVM集成)
- 模块化安全架构(OAuth2资源服务器)
- 现代化监控体系(Micrometer统一指标)
系统可通过Spring Cloud轻松扩展为微服务架构,日均支持千万级API调用,平均延迟控制在50ms以内。
相关推荐
- C/C++恶意代码盘点(一):进程遍历丨木马病毒丨密码记录
-
恶意代码的分类包括计算机病毒、蠕虫、木马、后门、Rootkit、流氓软件、间谍软件、广告软件、僵尸(bot)、Exploit等等,有些技术经常用到,有的也是必然用到。恶意代码常见功能技术如下:进程遍...
- 跨越十年的C++演进:C++11新特性全解析
-
原作者:Linux教程,原文「链接」:https://mp.weixin.qq.com/s/oFbiFlqiwgVcJIMMvTelEA很多刚刚进入C++领域的朋友,最初是从C语言转过来的。因...
- 如何在C#中调用C++方法(c#调用c++的类)
-
主要方式C#主要通过两种方式提供对非托管代码的调用,第一种是使用平台调用(PlatformInvoke,P/Invoke),第二种是使用不安全代码(unsafe),日常开发中我们使用最多的就是第一种...
- C语言字符数组和字符串(c语言字符数组和字符串数组)
-
用来存放字符的数组称为字符数组,例如:charc[10];字符数组也可以是二维或多维数组。例如:charc[5][10];字符数组也允许在定义时进行初始化,例如:charc[10]={'c',...
- C语言指针,如何操作字符串?linux C第45讲
-
1指针操作字符串在学习数组的时候,我们了解了字符串的定义,我们可以定义一个字符数组,用来存放一个字符串,例如:chararray[]={"abcde"};charbuf[]=...
- 信奥赛C++常用的算法总结(信息学奥赛c语言和c++有什么区别)
-
1、桶排序核心:①创建盛下所有数的数组②将每个数作为编号放入桶里优点:稳定、简单、容易考缺点:空间复杂度较大,时间复杂度较大。#include<bits/stdc++.h>usingn...
- Arduino 使用 C 字符串(arduino 字符串 数组)
-
问题您想了解如何使用原始字符字符串:创建字符串、查找其长度以及比较、复制或附加字符串。核心C语言不支持Arduino样式的String功能,因此您想了解针对基本字符数组编写的其他平台的代码...
- C++20 四大特性之一:Module 特性详解
-
C++20最大的特性是什么?最大的特性是迄今为止没有哪一款编译器完全实现了所有特性。文章来源:网易云信有人认为C++20是C++11以来最大的一次改动,甚至比C++11还要大。本文仅介绍...
- C/C++的const常量总结(c++语言const)
-
“所谓常量,就是在代码运行过程中值恒定不变的标识符,该标识符的值可以是一个常数,也可以是字符串。”在C/C++中,通常使用define宏定义或者const来定义常量,比如:#definePI3....
- 学习分享 | 通过C++python的对比,帮你快速入门python
-
一、前言对于只接触过静态语言,而从未使用过动态语言的人来说,第一次看到python的语法可能会大为惊叹。不用申明变量类型?不用等老半天编译完成就能直接运行?不用小心的维护指针?还不用写CMakelis...
- 字符串常量,C语言字符串常量详解
-
字符常量是由一对单撇号括起来的单个字符,如'a'、'D'、'?'、'#39;。在C语言中,除了字符常量外还有字符串常量,顾名思义就是多个“...
- C/C++中的内存四区(c++的内存区域分为)
-
1代码区存放CPU执行的机器指令。通常代码区是可共享的(即另外的执行程序可以调用它),使其可共享的目的是对于频繁被执行的程序,只需要在内存中有一份代码即可。代码区通常是只读的,使其只读的原因是防...
- 通过pybind11来实现python调用C++接口(一)
-
有小伙伴很好奇,怎么样实现python调用C++接口?哈哈,手把手教程来了。第一步:我们需要安装pybind11这个纯头文件的库,目前该库支持c++11及以上版本,在你的环境中通过命令行输入:apt-...
- 深入了解C++如何注释以及在哪儿注释-开课吧广场
-
注释虽然写起来很痛苦,但对保证代码可读性至关重要,同时这也是每一个C++开发工程师所需要做好的事情。那么C++开发过程中该如何注释?应该在哪写注释呢?关于注释风格,很多C++的Coders更喜欢行注释...
- C++核心知识点速查手册(实用重点版)
-
一、基础必备核心1.指针与引用(遥控器原理)指针:存储地址的变量(像电视遥控器)inttv=100;//电视机int*remote=&tv;//遥控器指向电视*...
- 一周热门
-
-
Python实现人事自动打卡,再也不会被批评
-
【验证码逆向专栏】vaptcha 手势验证码逆向分析
-
Psutil + Flask + Pyecharts + Bootstrap 开发动态可视化系统监控
-
一个解决支持HTML/CSS/JS网页转PDF(高质量)的终极解决方案
-
再见Swagger UI 国人开源了一款超好用的 API 文档生成框架,真香
-
网页转成pdf文件的经验分享 网页转成pdf文件的经验分享怎么弄
-
C++ std::vector 简介
-
系统C盘清理:微信PC端文件清理,扩大C盘可用空间步骤
-
10款高性能NAS丨双十一必看,轻松搞定虚拟机、Docker、软路由
-
python使用fitz模块提取pdf中的图片
-
- 最近发表
- 标签列表
-
- python判断字典是否为空 (50)
- crontab每周一执行 (48)
- aes和des区别 (43)
- bash脚本和shell脚本的区别 (35)
- canvas库 (33)
- dataframe筛选满足条件的行 (35)
- gitlab日志 (33)
- lua xpcall (36)
- blob转json (33)
- python判断是否在列表中 (34)
- python html转pdf (36)
- 安装指定版本npm (37)
- idea搜索jar包内容 (33)
- css鼠标悬停出现隐藏的文字 (34)
- linux nacos启动命令 (33)
- gitlab 日志 (36)
- adb pull (37)
- table.render (33)
- python判断元素在不在列表里 (34)
- python 字典删除元素 (34)
- vscode切换git分支 (35)
- python bytes转16进制 (35)
- grep前后几行 (34)
- hashmap转list (35)
- c++ 字符串查找 (35)