云贝数据 | PG快速构建海量数据方法
liuian 2025-07-06 14:04 3 浏览
作者:Asher.hu
原文链接:https://pgfans.cn/a/1726
【云贝学院】PostgreSQL认证课程已上线,学院有不定期公开课 需要的同学可以加老师微信:19941464235
在测试的时候,我们需要快速构建海量数据。 在PG中提供了一些基础的方法,如generate_series函数,但对于模拟真实环境来讲还差很远,比如模拟真实的手机号,模拟真实的生份证号等等。在这整理了了些PG常的模拟数据的方法。包括自定义的一些方法。已基本满是日常的测试,欢迎大家补充。
1. 生成序例
SELECT generate_series(1,10)
generate_series函数
2. 生成字符串
#生成36位的UUID字符串
# 编译安装里需要加上--with-uuid=ossp,并需要创建扩展 create extension 'uuid-ossp';
SELECT uuid_generate_v4()
#生成32位随机字符串
select md5(random()::text)
SELECT substr('abcdefghijklmnopqrstuvwxyz',1,(random()*26)::integer);
#生成重复字符串
-- abc重复多次的字符串
SELECT repeat('abc',(random()*4)::integer);
-- 重复2次的MD5字符串
select repeat(md5(random()::text),2);
#连接符
select concat('a', ' ', 'b');
3. 生成随机数
#生成100以内的随机数字 int
select (random()*100)::int
#生成100以内,总位数为4,小数点后2位的小数 numeric
SELECT (random()*100.)::numeric(4,2);
4. 生成日期
SELECT date(generate_series(now(), now() + '1 week', '1 day'));
select generate_series(to_date('20130403','yyyymmdd'), to_date('20130404','yyyymmdd'), '3 hours');
5. 自定义函数
5.1 随机生成汉字
# 生成随机汉字
create or replace function gen_hanzi(int) returns text as $
declare
res text;
begin
if $1 >=1 then
select string_agg(chr(19968+(random()*20901)::int),'') into res from generate_series(1,$1);
return res;
end if;
return null;
end;
$ language plpgsql strict;
# 输出汉字示例
select gen_hanzi(10) from generate_series(1,10);
gen_hanzi
----------------------
塨甤脲齧吆姪暭杗滶衎
釾爚疞蠸苊溮售矧騕枾
碅鲌濂櫂皅觡榱颗饢盖
番薥椿殍炀挻綏沄弉憙
廳媩鬪匷渃镙廿虬諾馭
禭粌嬀戳嫓儨嬶轙熃鲴
讜謐勭嗨斜棲秈檙兣涰
鸰纘飧顑悽鋍睹唤佖咙
狗映馁鳄髋苲歘鞕蹭沛
峑淯饪妐螹棝肒籙搎儤
(10 rows)
5.2 指定中文字符输出
#产生指定长度的中文字符
CREATE OR REPLACE FUNCTION getChnChar(startLength int, endLength int) RETURNS VARCHAR (3000) AS $BODY$
DECLARE
chars_str VARCHAR(3000) DEFAULT '赵钱孙李周吴郑王冯陈楮卫';
return_str VARCHAR(3000) DEFAULT '';
i int;
end1 int;
BEGIN
end1 :=cast((random()*(endLength - startLength)) as int)+startLength;
FOR i in 1 .. end1 loop
--CONCAT(char1,char2,char3,…)顺序联结多个字符串成为一个字符串
return_str = concat(return_str,substring(chars_str , cast((random()*(length(chars_str) -1) +1) as INT),1));
end loop;
RETURN return_str;
END;
$BODY$
LANGUAGE 'plpgsql' ;
#输出指定汉字示例
select getChnChar(2,3) from generate_series(1,10);
getchnchar
------------
王郑
吴李
陈卫
钱郑
周楮周
钱孙赵
郑钱
楮冯卫
卫郑楮
王钱孙
(10 rows)
5.3 随机生成英文
# 产生指定长度的英文字符
CREATE OR REPLACE function getEnChar (startLength int, endLength int) RETURNS VARCHAR (3000) AS $BODY$
DECLARE
chars_str VARCHAR(3000) DEFAULT 'ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz';
return_str VARCHAR(3000) DEFAULT '';
i int;
end1 int;
BEGIN
end1 :=cast((random()*(endLength - startLength)) as int)+startLength;
FOR i in 1 .. end1 loop
return_str = concat(return_str,substring(chars_str , cast((random()*(length(chars_str) -1) +1) as INT),1));
end loop;
RETURN return_str;
END;
$BODY$
LANGUAGE 'plpgsql' ;
#输出英文字符示例
select getEnChar (1,5) from generate_series(1,10);
getenchar
-----------
Fy
QxSju
qhak
Ox
Gkbgk
ZsP
Iaf
g
vbly
L
(10 rows)
5.4 英文混合字符
# 产生指定长度的混合字符
CREATE OR REPLACE function getMixChar (startLength int, endLength int) RETURNS VARCHAR (3000) AS $BODY$
DECLARE
chars_str VARCHAR(3000) DEFAULT 'ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz1234567890';
return_str VARCHAR(3000) DEFAULT '';
i int;
end1 int;
BEGIN
end1 :=cast((random()*(endLength - startLength)) as int)+startLength;
FOR i in 1 .. end1 loop
return_str = concat(return_str,substring(chars_str , cast((random()*(length(chars_str) -1) +1) as INT),1));
end loop;
RETURN return_str;
END;
$BODY$
LANGUAGE 'plpgsql' ;
#英文混合字符示例
select getMixChar(4,10) from generate_series(1,10);
getmixchar
------------
MX61zKTCJ
KWlg1kR
UojkS
QSnx
T9If6T
FiZBj
l8ICioUK
nFuIxPuv8
oW7dLeDo
DST0vt
(10 rows)
5.4 随机生成固定数字
5.4.1 随意生成固定区间的整数
# 随意生成固定区间的整数
CREATE OR REPLACE FUNCTION get_rand_int (m INT ,n INT) RETURNS INT AS $BODY$
BEGIN
RETURN CAST((random() *(n - m) + m) as int);
END ;
$BODY$
LANGUAGE plpgsql;
#输出纯数字示例
select get_rand_int (1,10) from generate_series(1,10);
get_rand_int
--------------
9
7
3
6
9
3
10
1
4
3
5.4.2 随机指定位数
# 产 随机指定位数
CREATE or REPLACE FUNCTION get_IdCard(startLength int,endLength int) RETURNs VARCHAR(300) as $BODY$
DECLARE
chars_str VARCHAR(100) DEFAULT '0123456789';
return_str VARCHAR(300) DEFAULT substring('123456789' , cast((1 + random()*8 ) as INT),1);
i int ;
end1 int;
BEGIN
end1 :=cast((random()*(endLength - startLength)) as int)+startLength;
FOR i in 1 .. end1-1 loop
return_str = concat(return_str,substring(chars_str , cast((1 + random()*9 ) as INT),1));
end loop;
RETURN return_str;
END;
$BODY$
LANGUAGE 'plpgsql' ;
#指定位数的数据
select get_IdCard(18, 18) from generate_series(1,10);
get_idcard
--------------------
211106597441241496
817484221491929439
751750672496684954
467298482518772820
755146332581811237
654355582465824837
466324416711843541
805761911440645428
345890747048704755
935980923844755351
5.5 随机生成身份证
# 生成随机身份证号指字年龄段
create or replace function gen_id(a date, b date)
returns text as $
select lpad((random()*99)::int::text, 2, '0') ||
lpad((random()*99)::int::text, 2, '0') ||
lpad((random()*99)::int::text, 2, '0') ||
to_char(a + (random()*(b-a))::int, 'yyyymmdd') ||
lpad((random()*99)::int::text, 2, '0') ||
random()::int ||
(case when random()*10 >9 then 'X' else (random()*9)::int::text end ) ;
$ language sql strict;
#输出身份证号
select gen_id('1900-01-01', '2017-10-16') from generate_series(1,10);
gen_id
--------------------
91717419030428331X
36358219410325111X
102660196803291604
72440419370911470X
860433198201166503
877577194010256305
727201191211255110
453166201110249906
519767195409130608
427291193005202108
5.6 产生11位电话号码
# 产生11位电话号码
CREATE or REPLACE FUNCTION get_Tel() RETURNs VARCHAR(300) as $BODY$
DECLARE
startLength int DEFAULT 11 ;
endLength int DEFAULT 11 ;
first_no VARCHAR(100) DEFAULT '1';
chars_str VARCHAR(100) DEFAULT '0123456789';
return_str VARCHAR(300) DEFAULT substring('3578' , cast((1 + random()*3 ) as INT),1);
i int ;
end1 int;
BEGIN
end1 :=cast((random()*(endLength - startLength)) as int)+startLength;
FOR i in 1 .. end1-2 loop
return_str = concat(return_str,substring(chars_str , cast((1 + random()*9 ) as INT),1));
end loop;
RETURN concat(first_no,return_str);
END;
$BODY$
LANGUAGE 'plpgsql' ;
#产生11位电话号码
select get_Tel() from generate_series(1,10);
get_tel
-------------
18518236357
17619817580
13519825653
18180214556
17146025513
15755856077
17657371519
13464868322
15535691221
17522216125
5.7 指定日期内的随机日期,时间
5.7.1 生成指定日期内的随机日期
#生成指定日期内的随机日期
CREATE OR REPLACE FUNCTION get_rand_date(start_date DATE,end_date DATE) RETURNS DATE AS $BODY$
DECLARE
interval_days INTEGER ;
random_days INTEGER ;
random_date DATE ;
BEGIN
interval_days := end_date - start_date ;
random_days := get_rand_int (0, interval_days) ;
random_date := start_date + random_days ;
RETURN random_date;
END ;
$BODY$
LANGUAGE plpgsql;
#生成指定日期内的随机日期
select get_rand_date('2020-01-01', '2022-10-16') from generate_series(1,10);
get_rand_date
---------------
2022-05-21
2022-06-30
2022-03-26
2020-04-22
2022-04-15
2021-10-23
2021-10-30
2021-05-18
2021-07-19
2021-03-02
5.7.2 生成指定时间内的随机时间
# 生成指定时间内的随机时间
CREATE OR REPLACE FUNCTION get_rand_datetime(start_date date, end_date date) RETURNS TIMESTAMP AS $BODY$
DECLARE
interval_days integer;
random_seconds integer;
random_dates integer;
random_date date;
random_time time;
BEGIN
interval_days := end_date - start_date;
random_dates:= trunc(random()*interval_days);
random_date := start_date + random_dates;
random_seconds:= trunc(random()*3600*24);
random_time:=' 00:00:00'::time+(random_seconds || ' second')::INTERVAL;
RETURN random_date +random_time;
END;
$BODY$
LANGUAGE plpgsql;
# 生成指定时间内的随机时间
select get_rand_datetime('2020-01-01', '2022-10-16') from generate_series(1,10);
get_rand_datetime
---------------------
2020-10-04 01:10:23
2020-01-11 21:34:39
2022-04-18 16:20:11
2020-10-01 07:08:52
2021-05-16 17:26:00
2020-07-01 06:38:24
2022-01-29 20:51:53
2021-08-03 14:44:24
2021-07-21 17:49:45
2022-07-08 21:37:42
5.8 数组
5.8.1 分割字符串
# 分割字符串,返回其中的随机字符串
CREATE OR REPLACE FUNCTION get_split_str (str VARCHAR) RETURNS VARCHAR AS $BODY$
DECLARE
array_str VARCHAR[];
i int;
rand_index int;
BEGIN
str :=trim(str);
array_str :=regexp_split_to_array(str,'[,,]');--正在表达式匹配
-- array_length(array_str,1)1代表维度,一维、二维
rand_index :=cast((random()*(array_length(array_str,1) -1) +1 )as int);
RETURN array_str[rand_index] ;
END ;
$BODY$
LANGUAGE plpgsql;
# 分割字符串,返回其中的随机字符串
select get_split_str('hello ,zdata ,asher ,enmo,mogdb,zcloud') from generate_series(1,10);
get_split_str
---------------
mogdb
zdata
hello
mogdb
zdata
zdata
hello
mogdb
asher
zdata
5.8.2 生成随机数组
# 生成随机数组
create or replace function gen_rand_arr(int,int) returns int[] as $
select array_agg((random()*$1)::int) from generate_series(1,$2);
$ language sql strict;
# 输出数组
select gen_rand_arr(100,10) from generate_series(1,10);
gen_rand_arr
---------------------------------
{98,32,80,7,76,27,96,30,50,18}
{51,91,65,2,2,16,61,39,94,26}
{59,30,74,59,100,66,26,3,91,13}
{7,0,73,19,70,84,57,37,3,73}
{87,26,53,11,52,33,88,69,4,70}
{83,80,98,87,12,0,69,100,36,13}
{47,59,99,70,7,1,41,81,80,82}
{34,67,11,13,78,76,5,23,85,18}
{88,80,92,65,87,77,1,19,64,62}
{94,28,4,23,76,87,79,88,20,79}
(10 rows)
6.示例
6.1.查询
postgres=# select generate_series(1,5), (random()*100)::int, (random()*20.)::numeric(4,2), gen_hanzi(3) ;
generate_series | int4 | numeric | gen_hanzi
-----------------+------+---------+-----------
1 | 14 | 7.43 | 溲漮鉂
2 | 41 | 7.26 | 孭揬嬅
3 | 28 | 2.52 | 規冻厌
4 | 33 | 9.39 | 鎤唭溢
5 | 34 | 14.31 | 階鎂珈
postgres=# select generate_series(1,5), (random()*100)::int,(random()*20.)::numeric(4,2), md5(random()::text) ;
generate_series | int4 | numeric | md5
-----------------+------+---------+----------------------------------
1 | 78 | 2.72 | 888e3ed79f9f50c5f3c46b39214d8c94
2 | 63 | 12.04 | e0c5e216af4d35bc1679b65ed6b70e8d
3 | 30 | 4.80 | 69dfb257c109b2cbc3dda75bbaac1ce4
4 | 64 | 8.22 | 1228eb653f3b81273eaf00c4fcf65afd
5 | 38 | 11.34 | 914e9befabbc81c23ed5dc3afde271ab
(5 rows)
6.2.创建表
postgres=# CREATE TABLE t_test(
ID INT PRIMARY KEY NOT NULL,
NAME TEXT NOT NULL,
AGE INT NOT NULL,
ADDRESS CHAR(50),
SALARY REAL
);
CREATE TABLE
postgres=# insert into t_test SELECT generate_series(1,5) as key,repeat( chr(int4(random()*26)+65),4), (random()*(6^2))::integer,null,(random()*(10^4))::integer;
INSERT 0 5
postgres=# select * from t_test ;
id | name | age | address | salary
----+------+-----+---------+--------
1 | MMMM | 25 | | 9590
2 | OOOO | 7 | | 9929
3 | SSSS | 6 | | 2710
4 | TTTT | 14 | | 9027
5 | SSSS | 19 | | 8290
(5 rows)
参考:
https://www.cnblogs.com/cqdba/p/15961142.html
*禁止转载,可转发(转发文章请注明出处)
【云贝学院】PostgreSQL认证课程已上线,学院有不定期公开课 需要的同学可以加老师微信:19941464235
相关推荐
- MySQL合集-mysql5.7及mysql8的一些特性
-
1、Json支持及虚拟列1.1jsonJson在5.7.8原生支持,在8.0引入了json字段的部分更新(jsonpartialupdate)以及两个聚合函数,JSON_OBJECTAGG,JS...
- MySQL 双表架构在房产中介房源管理中的深度实践
-
MySQL房源与价格双表封神:降价提醒实时推送客户房产中介实战:MySQL空间函数精准定位学区房MySQL狠招:JSON字段实现房源标签自由组合筛选房源信息与价格变更联动:MySQL黄金搭档解决客户看...
- MySQL 5.7 JSON 数据类型使用总结
-
从MySQL5.7.8开始,MySQL支持原生的JSON数据类型。MySQL支持RFC7159定义的全部json数据类型,具体的包含四种基本类型(strings,numbers,boolea...
- MySQL 8.0 SQL优化黑科技,面试官都不一定知道!
-
前言提到SQL优化,大多数人想到的还是那些经典套路:建索引、避免全表扫描、优化JOIN顺序…这些确实是基础,但如果你还停留在MySQL5.7时代的优化思维,那就out了。MySQL8.0已经发布好...
- 如何在 MySQL 中使用 JSON 数据(mysql的json函数与实例)
-
在MySQL中学习“NoSQL”MySQL从5.7版本开始就支持JSON格式的数据类型,该数据类型支持JSON文档的自动验证和优化存储和访问。尽管JSON数据最好存储在MongoDB等...
- MySQL中JSON的存储原理(mysql中json字段操作)
-
前言:表中有json字段后,非索引查询性能变得非常糟糕起因是我有一张表,里面有json字段后,而当mysql表中有200w数据的时候,走非索引查询性能变得非常糟糕需要3到5s。因此对mysql的jso...
- mysql 之json字段详解(多层复杂检索)
-
MySQL5.7.8开始支持JSON数据类型。MySQL8.0版本中增加了对JSON类型的索引支持。示例表CREATETABLE`users`(`id`intNOTNULLAU...
- VMware vCenter Server 8.0U3b 发布下载,新增功能概览
-
VMwarevCenterServer8.0U3b发布下载,新增功能概览ServerManagementSoftware|vCenter请访问原文链接:https://sysin.or...
- Spring Boot 3.x 新特性详解:从基础到高级实战
-
1.SpringBoot3.x简介与核心特性1.1SpringBoot3.x新特性概览SpringBoot3.x是建立在SpringFramework6.0基础上的重大版...
- 如何设计Agent的记忆系统(agent记忆方法)
-
最近看了一张画Agent记忆分类的图我觉得分类分的还可以,但是太浅了,于是就着它的逻辑,仔细得写了一下在不同的记忆层,该如何设计和选型先从流程,作用,实力和持续时间的这4个维度来解释一下这几种记忆:1...
- Spring Boot整合MyBatis全面指南:从基础到高级应用(全网最全)
-
一、基础概念与配置1.1SpringBoot与MyBatis简介技术描述优点SpringBoot简化Spring应用开发的框架,提供自动配置、快速启动等特性快速开发、内嵌服务器、自动配置、无需X...
- 5大主流方案对比:MySQL千亿级数据线上平滑扩容实战
-
一、扩容方案剖析1、扩容问题在项目初期,我们部署了三个数据库A、B、C,此时数据库的规模可以满足我们的业务需求。为了将数据做到平均分配,我们在Service服务层使用uid%3进行取模分片,从而将数据...
- PostgreSQL 技术内幕(五)Greenplum-Interconnect模块
-
Greenplum是在开源PostgreSQL的基础上,采用MPP架构的关系型分布式数据库。Greenplum被业界认为是最快最具性价比的数据库,具有强大的大规模数据分析任务处理能力。Greenplu...
- 在实际操作过程中如何避免出现SQL注入漏洞
-
一前言本文将针对开发过程中依旧经常出现的SQL编码缺陷,讲解其背后原理及形成原因。并以几个常见漏洞存在形式,提醒技术同学注意相关问题。最后会根据原理,提供解决或缓解方案。二SQL注入漏洞的原理、形...
- 运维从头到尾安装日志服务器,看这一篇就够了
-
一、rsyslog部署1.1)rsyslog介绍Linux的日志记录了用户在系统上一切操作,看日志去分析系统的状态是运维人员必须掌握的基本功。rsyslog日志服务器的优势:1、日志统一,集中式管理...
- 一周热门
-
-
Python实现人事自动打卡,再也不会被批评
-
Psutil + Flask + Pyecharts + Bootstrap 开发动态可视化系统监控
-
【验证码逆向专栏】vaptcha 手势验证码逆向分析
-
一个解决支持HTML/CSS/JS网页转PDF(高质量)的终极解决方案
-
再见Swagger UI 国人开源了一款超好用的 API 文档生成框架,真香
-
网页转成pdf文件的经验分享 网页转成pdf文件的经验分享怎么弄
-
C++ std::vector 简介
-
系统C盘清理:微信PC端文件清理,扩大C盘可用空间步骤
-
10款高性能NAS丨双十一必看,轻松搞定虚拟机、Docker、软路由
-
python使用fitz模块提取pdf中的图片
-
- 最近发表
-
- MySQL合集-mysql5.7及mysql8的一些特性
- MySQL 双表架构在房产中介房源管理中的深度实践
- MySQL 5.7 JSON 数据类型使用总结
- MySQL 8.0 SQL优化黑科技,面试官都不一定知道!
- 如何在 MySQL 中使用 JSON 数据(mysql的json函数与实例)
- MySQL中JSON的存储原理(mysql中json字段操作)
- mysql 之json字段详解(多层复杂检索)
- VMware vCenter Server 8.0U3b 发布下载,新增功能概览
- Spring Boot 3.x 新特性详解:从基础到高级实战
- 如何设计Agent的记忆系统(agent记忆方法)
- 标签列表
-
- python判断字典是否为空 (50)
- crontab每周一执行 (48)
- aes和des区别 (43)
- bash脚本和shell脚本的区别 (35)
- canvas库 (33)
- dataframe筛选满足条件的行 (35)
- gitlab日志 (33)
- lua xpcall (36)
- blob转json (33)
- python判断是否在列表中 (34)
- python html转pdf (36)
- 安装指定版本npm (37)
- idea搜索jar包内容 (33)
- css鼠标悬停出现隐藏的文字 (34)
- linux nacos启动命令 (33)
- gitlab 日志 (36)
- adb pull (37)
- table.render (33)
- uniapp textarea (33)
- python判断元素在不在列表里 (34)
- python 字典删除元素 (34)
- vscode切换git分支 (35)
- python bytes转16进制 (35)
- grep前后几行 (34)
- hashmap转list (35)