每天用 Pandas,但你可能还不知道这 20 招是“时间刺客”!
liuian 2025-08-31 03:58 16 浏览
“写代码不怕慢,怕你一直慢。” 很多数据分析师、策略开发者,包括我自己,一天到晚都在跟 Pandas 打交道。可你有没有发现,有时候我们不是不会用,而是一直在绕远路。
你有没有过这样的体验?
CSV 文件一读就是几百兆,程序跑得像老牛上山,电脑风扇呜呜响。表格里明明都是数字,Pandas 偏偏识别成 object,搞得你后续的 .groupby()、.merge() 全都卡卡的……
别问,问就是我也踩过这些坑。
但后来,日常做项目、清洗数据、写量化策略时,我摸索出一套超实用的 Pandas 操作技巧。有些技巧甚至能帮你节省成百上千行代码,最关键的是:跑得快、写得爽、不容易出错。
今天这篇文章,直接给你梳理我每天都在用、但很多人还没意识到的 20 个 Pandas 操作,不仅能提效,还能提升代码的美感。
01. 只读你要的列,别拖累全场
别再:
df = pd.read_csv("big.csv")
人家几百 MB 的文件你全读进来干嘛?聪明点:
df = pd.read_csv("big.csv", usecols=["id", "total", "date"], dtype_backend="pyarrow")
usecols 精准索取,pyarrow 省内存又提速,谁用谁知道。尤其因子研究、历史行情那种动辄千万行的场景,简直就是救命良方。
02. 别再被 float64 和 object 搞疯了
Pandas 默认识别的数据类型真让人头疼,一个全是整数的列,偏偏要给你变成 float。
有手就能解决:
df = df.convert_dtypes(dtype_backend="pyarrow")
它能自动优化列类型,比如把 object 变成 string,占用更低、速度更快。
03. 数据总览一行搞定
是不是每次都这样?
df.info()
df.describe()
df['列'].value_counts()
眼花手酸。其实你可以一句话:
df.describe(include="all", datetime_is_numeric=True)
所有列都给你统计了,数值、文本、时间都不放过,一秒发现问题在哪。
04. 看到底谁吃了内存
明明列数不多,内存却爆炸?
df.memory_usage(deep=True).sum() / 1048576
单位是 MB,deep=True 能让字符串真实占用显形。尤其你做多线程或者 Dask 分布式时,这一步非常关键。
05. 用 SQL 的语法筛选,舒服!
有些人不习惯 Pandas 的“中括号嵌中括号”,可以这样:
high_apac = df.query("sales > 1000 & region == 'APAC'")
简单清晰、逻辑明确,内部还有 numexpr 引擎加持,计算更快,做交互更灵活。
06. 只要 Top N,别傻傻全排序
不要再全表排序再 .head() 了:
top10 = df.nlargest(10, "profit")
底层用的是快速选择算法,省事省力省时间。
07. 多列运算更优雅的写法
以前:
df["revenue"] = df["quantity"] * df["price"]
现在:
df["revenue"] = df.eval("quantity * price")
支持表达式,内存优化,还能链式操作,清爽!
08. 新增列还能链式?有!
df = df.assign(gm=lambda x: x.gross - x.cogs)
不打断原有链式逻辑,写起来像写函数式编程,超有感觉。
09. 组内占比?一句话!
df["sales_share"] = df.groupby("product")["sales"].transform(lambda x: x / x.sum())
再也不用 .sum() 然后 .merge(),优雅!
10. 多指标统计还能自定义名字
summary = df.groupby("region", as_index=False).agg(
total=("sales", "sum"), margin_avg=("margin", "mean")
)
专治多重索引,看得懂、拼图表也方便。
11. 宽表转长表,画图更顺手
long = df.melt(id_vars="id", var_name="metric", value_name="value")
Seaborn、Plotly 最爱这种格式,不转真不行。
12. 列中列表一行展开
flat = df.explode("tags")
简单直接,不用 .apply(pd.Series) 那种麻烦路。
13. 交叉表+补 0,一步到位
pivot = df.pivot_table(index="date", columns="region", values="sales", aggfunc="sum", fill_value=0)
视觉化神器的前置准备!
14. 一行丢掉“缺得太狠”的列
df = df.dropna(axis=1, thresh=len(df) * 0.8)
保留至少80%非空的列,不用一个个手动筛。
15. 时间列带时区,国际数据必备
df["date"] = pd.to_datetime(df.date).dt.tz_localize("UTC").dt.tz_convert("Asia/Shanghai")
不做这一步,做全球数据对时差你就得疯。
16. 邮箱格式检查?别再手动循环!
df["email_ok"] = df.email.str.contains(r"^[\w\.-]+@[\w\.-]+\.\w+#34;, na=False)
矢量化正则,快速准确,脏数据一扫光。
17. 补全时间序列
daily = df.set_index("timestamp").asfreq("D").ffill()
一键补全缺失日期,做时间序列预测前的刚需操作。
18. 同比计算也能一行写完
df["yoy"] = df["sales"].pct_change(12).mul(100).round(2)
不用自己再抠“去年同月”,直接按行同比百分比搞定。
19. 打开 Copy-on-Write,省心又省事
pd.options.mode.copy_on_write = True
2.0 版本新特性,不再一改就污染原表,内存也优化了。
20. 可视化不是图——用 .style 看出异常值!
df.style.background_gradient()
Jupyter 直接上色,极端值一眼识破,不用 plot,也能“眼见为实”。
这些操作不是炫技,而是提升你的“代码直觉”
Pandas 是很多人工作里的左膀右臂。但你愿不愿意花点时间,去掌握这些“隐藏菜单”,其实能体现你作为分析师、程序员,是否有“对工具的敬畏”。
有时候,不是你写得不够多,而是写得不够巧。
这些技巧,我不是看教程学的,而是一次次优化报错、卡顿、内存爆炸的过程中,一点点磨出来的。
如果你每天和数据打交道,那就挑几招试试,哪怕能省 10% 的时间,也是为你自己赢回来的生命。
如果你觉得这些技巧有用,记得点个「在看」或者转发给你团队的小伙伴们。 让我们少踩坑、快写完,早点下班吃烧烤。
—— END ——
相关推荐
- 搭建一个20人的办公网络(适用于20多人的小型办公网络环境)
-
楼主有5台机上网,则需要一个8口路由器,组网方法如下:设备:1、8口路由器一台,其中8口为LAN(局域网)端口,一个WAN(广域网)端口,价格100--400元2、网线N米,这个你自己会看了:)...
- 笔记本电脑各种参数介绍(笔记本电脑各项参数新手普及知识)
-
1、CPU:这个主要取决于频率和二级缓存,频率越高、二级缓存越大,速度越快,现在的CPU有三级缓存、四级缓存等,都影响相应速度。2、内存:内存的存取速度取决于接口、颗粒数量多少与储存大小,一般来说,内...
- 汉字上面带拼音输入法下载(字上面带拼音的输入法是哪个)
-
使用手机上的拼音输入法打成汉字的方法如下:1.打开手机上的拼音输入法,在输入框中输入汉字的拼音,例如“nihao”。2.根据输入法提示的候选词,选择正确的汉字。例如,如果输入“nihao”,输...
- xpsp3安装版系统下载(windowsxpsp3安装教程)
-
xpsp3纯净版在采用微软封装部署技术的基础上,结合作者的实际工作经验,融合了许多实用的功能。它通过一键分区、一键装系统、自动装驱动、一键设定分辨率,一键填IP,一键Ghost备份(恢复)等一系列...
- 没有备份的手机数据怎么恢复
-
手机没有备份恢复数据方法如下1、使用数据线将手机与电脑连接好,在“我的电脑”中可以看到手机的盘符。 2、将手机开启USB调试模式。在手机设置中找到开发者选项,然后点击“开启USB调试模式”。 3、...
- 电脑怎么激活windows11专业版
-
win11专业版激活方法有多种,以下提供两种常用的激活方式:方法一:使用激活密钥激活。在win11桌面上右键点击“此电脑”,选择“属性”选项。进入属性页面后,点击“更改产品密钥或升级windows”。...
- 华为手机助手下载官网(华为手机助手app下载专区)
-
华为手机助手策略调整,已不支持从应用市场下载手机助手,目前华为手机助手是需要在电脑上下载或更新手机助手到最新版本,https://consumer.huawei.com/cn/support/his...
- 光纤线断了怎么接(宽带光纤线断了怎么接)
-
宽带光纤线断了可以重接,具体操作方法如下:1、光纤连接的时候要根据束管内,同色相连,同芯相连,按顺序进行连接,由大到小。一般有三种连接方法,分别是熔接、活动连接和机械连接。2、连接的时候要开剥光缆,抛...
- win7旗舰版和专业版区别(win7旗舰版跟专业版)
-
1、功能区别:Win7旗舰版比专业版多了三个功能,分别是Bitlocker、BitlockerToGo和多语言界面; 2、用途区别:旗舰版的功能是所有版本中最全最强大的,占用的系统资源,...
- 万能连接钥匙(万能wifi连接钥匙下载)
-
1、首先打开wifi万能钥匙软件,若手机没有开启WLAN,就根据软件提示打开WLAN开关;2、打开WLAN开关后,会显示附近的WiFi,如果知道密码,可点击相应WiFi后点击‘输入密码’连接;3、若不...
- 雨林木风音乐叫什么(雨林木风是啥)
-
雨林木风的创始人是陈年鑫先生。陈年鑫先生于1999年创立了雨林木风公司,其初衷是为满足中国市场对高品质、高性能电脑的需求。在陈年鑫先生的领导下,雨林木风以技术创新、产品质量和客户服务为核心价值,不断推...
- aics6序列号永久序列号(aics6破解序列号)
-
关于AICS6这个版本,虽然是比较久远的版本,但是在功能上也是十分全面和强大的,作为一名平面设计师的话,AICS6的现有的功能已经能够应付几乎所有的设计工作了……到底AICC2019的功能是不是...
- 手机可以装电脑系统吗(手机可以装电脑系统吗怎么装)
-
答题公式1:手机可以通过数据线或无线连接的方式给电脑装系统。手机安装系统需要一定的技巧和软件支持,一般需要通过数据线或无线连接的方式与电脑连接,并下载相应的软件和系统文件进行安装。对于大部分手机用户来...
- 一周热门
- 最近发表
- 标签列表
-
- python判断字典是否为空 (50)
- crontab每周一执行 (48)
- aes和des区别 (43)
- bash脚本和shell脚本的区别 (35)
- canvas库 (33)
- dataframe筛选满足条件的行 (35)
- gitlab日志 (33)
- lua xpcall (36)
- blob转json (33)
- python判断是否在列表中 (34)
- python html转pdf (36)
- 安装指定版本npm (37)
- idea搜索jar包内容 (33)
- css鼠标悬停出现隐藏的文字 (34)
- linux nacos启动命令 (33)
- gitlab 日志 (36)
- adb pull (37)
- python判断元素在不在列表里 (34)
- python 字典删除元素 (34)
- vscode切换git分支 (35)
- python bytes转16进制 (35)
- grep前后几行 (34)
- hashmap转list (35)
- c++ 字符串查找 (35)
- mysql刷新权限 (34)
