每天用 Pandas,但你可能还不知道这 20 招是“时间刺客”!
liuian 2025-08-31 03:58 5 浏览
“写代码不怕慢,怕你一直慢。” 很多数据分析师、策略开发者,包括我自己,一天到晚都在跟 Pandas 打交道。可你有没有发现,有时候我们不是不会用,而是一直在绕远路。
你有没有过这样的体验?
CSV 文件一读就是几百兆,程序跑得像老牛上山,电脑风扇呜呜响。表格里明明都是数字,Pandas 偏偏识别成 object,搞得你后续的 .groupby()、.merge() 全都卡卡的……
别问,问就是我也踩过这些坑。
但后来,日常做项目、清洗数据、写量化策略时,我摸索出一套超实用的 Pandas 操作技巧。有些技巧甚至能帮你节省成百上千行代码,最关键的是:跑得快、写得爽、不容易出错。
今天这篇文章,直接给你梳理我每天都在用、但很多人还没意识到的 20 个 Pandas 操作,不仅能提效,还能提升代码的美感。
01. 只读你要的列,别拖累全场
别再:
df = pd.read_csv("big.csv")
人家几百 MB 的文件你全读进来干嘛?聪明点:
df = pd.read_csv("big.csv", usecols=["id", "total", "date"], dtype_backend="pyarrow")
usecols 精准索取,pyarrow 省内存又提速,谁用谁知道。尤其因子研究、历史行情那种动辄千万行的场景,简直就是救命良方。
02. 别再被 float64 和 object 搞疯了
Pandas 默认识别的数据类型真让人头疼,一个全是整数的列,偏偏要给你变成 float。
有手就能解决:
df = df.convert_dtypes(dtype_backend="pyarrow")
它能自动优化列类型,比如把 object 变成 string,占用更低、速度更快。
03. 数据总览一行搞定
是不是每次都这样?
df.info()
df.describe()
df['列'].value_counts()
眼花手酸。其实你可以一句话:
df.describe(include="all", datetime_is_numeric=True)
所有列都给你统计了,数值、文本、时间都不放过,一秒发现问题在哪。
04. 看到底谁吃了内存
明明列数不多,内存却爆炸?
df.memory_usage(deep=True).sum() / 1048576
单位是 MB,deep=True 能让字符串真实占用显形。尤其你做多线程或者 Dask 分布式时,这一步非常关键。
05. 用 SQL 的语法筛选,舒服!
有些人不习惯 Pandas 的“中括号嵌中括号”,可以这样:
high_apac = df.query("sales > 1000 & region == 'APAC'")
简单清晰、逻辑明确,内部还有 numexpr 引擎加持,计算更快,做交互更灵活。
06. 只要 Top N,别傻傻全排序
不要再全表排序再 .head() 了:
top10 = df.nlargest(10, "profit")
底层用的是快速选择算法,省事省力省时间。
07. 多列运算更优雅的写法
以前:
df["revenue"] = df["quantity"] * df["price"]
现在:
df["revenue"] = df.eval("quantity * price")
支持表达式,内存优化,还能链式操作,清爽!
08. 新增列还能链式?有!
df = df.assign(gm=lambda x: x.gross - x.cogs)
不打断原有链式逻辑,写起来像写函数式编程,超有感觉。
09. 组内占比?一句话!
df["sales_share"] = df.groupby("product")["sales"].transform(lambda x: x / x.sum())
再也不用 .sum() 然后 .merge(),优雅!
10. 多指标统计还能自定义名字
summary = df.groupby("region", as_index=False).agg(
total=("sales", "sum"), margin_avg=("margin", "mean")
)
专治多重索引,看得懂、拼图表也方便。
11. 宽表转长表,画图更顺手
long = df.melt(id_vars="id", var_name="metric", value_name="value")
Seaborn、Plotly 最爱这种格式,不转真不行。
12. 列中列表一行展开
flat = df.explode("tags")
简单直接,不用 .apply(pd.Series) 那种麻烦路。
13. 交叉表+补 0,一步到位
pivot = df.pivot_table(index="date", columns="region", values="sales", aggfunc="sum", fill_value=0)
视觉化神器的前置准备!
14. 一行丢掉“缺得太狠”的列
df = df.dropna(axis=1, thresh=len(df) * 0.8)
保留至少80%非空的列,不用一个个手动筛。
15. 时间列带时区,国际数据必备
df["date"] = pd.to_datetime(df.date).dt.tz_localize("UTC").dt.tz_convert("Asia/Shanghai")
不做这一步,做全球数据对时差你就得疯。
16. 邮箱格式检查?别再手动循环!
df["email_ok"] = df.email.str.contains(r"^[\w\.-]+@[\w\.-]+\.\w+#34;, na=False)
矢量化正则,快速准确,脏数据一扫光。
17. 补全时间序列
daily = df.set_index("timestamp").asfreq("D").ffill()
一键补全缺失日期,做时间序列预测前的刚需操作。
18. 同比计算也能一行写完
df["yoy"] = df["sales"].pct_change(12).mul(100).round(2)
不用自己再抠“去年同月”,直接按行同比百分比搞定。
19. 打开 Copy-on-Write,省心又省事
pd.options.mode.copy_on_write = True
2.0 版本新特性,不再一改就污染原表,内存也优化了。
20. 可视化不是图——用 .style 看出异常值!
df.style.background_gradient()
Jupyter 直接上色,极端值一眼识破,不用 plot,也能“眼见为实”。
这些操作不是炫技,而是提升你的“代码直觉”
Pandas 是很多人工作里的左膀右臂。但你愿不愿意花点时间,去掌握这些“隐藏菜单”,其实能体现你作为分析师、程序员,是否有“对工具的敬畏”。
有时候,不是你写得不够多,而是写得不够巧。
这些技巧,我不是看教程学的,而是一次次优化报错、卡顿、内存爆炸的过程中,一点点磨出来的。
如果你每天和数据打交道,那就挑几招试试,哪怕能省 10% 的时间,也是为你自己赢回来的生命。
如果你觉得这些技巧有用,记得点个「在看」或者转发给你团队的小伙伴们。 让我们少踩坑、快写完,早点下班吃烧烤。
—— END ——
相关推荐
- PHPMAILER实现PHP发邮件功能php实例
-
这篇文章主要为大家详细介绍了PHPMAILER实现PHP发邮件功能,具有一定的参考价值,感兴趣的小伙伴们可以参考一下本文实例为大家分享了PHPMAILER实现PHP发邮件功能的具体代码,供大家参考,具...
- Cacti监控服务器配置教程(基于CentOS+Nginx+MySQL+PHP环境搭建)
-
具体案例:局域网内有两台主机,一台Linux、一台Windows,现在需要配置一台Cacti监控服务器对这两台主机进行监控环境说明:1、Linux主机操作系统:CentOS6.2IP地址:192.1...
- 如何在webmin中配置多个PHP版本_怎么配置php
-
请关注本头条号,每天坚持更新原创干货技术文章。如需学习视频,请在微信搜索公众号“智传网优”直接开始自助视频学习1.前言如何在webmin中配置多个PHP版本?本教程将会给您一些启示和操作案例。Web...
- 详解Drupal安装步骤_drools安装
-
DrupalDrupal是一个基于PHP语言编写的开源的内容管理系统(CMS:ContentManagementSystem),和Wordpress等CMS一样提供主题。在这里详细介绍一下安装Dr...
- nternet 信息服务(IIS) 升级为IIS 6.0
-
WindowsServer2003中Internet信息服务(IIS)升级为IIS6.0,其安全性更高。默认情况下,WindowsServer2003没有安装IIS6.0,要通过...
- Php JIT 使用详解_php的!
-
简介PHP8引入的JIT(Just-In-Time编译器)是该版本的一个重要性能特性,首次让PHP有了运行时即时编译的能力,从解释型语言迈向了“编译执行”的方向。什么是JIT?JIT...
- php 常见配置详解_php cgi配置
-
以下是PHP常见的配置项及其含义:error_reporting:设置错误报告级别,可以控制PHP显示哪些错误。例如,设置为E_ALL将显示所有错误,而设置为0将禁止显示任何错误。displa...
- 技巧:PHP版本怎样隐藏在Linux服务器
-
通常情况下,大多数安装web服务器软件的默认设置存在信息泄露,这些软件其中之一就是PHP。PHP是如今最流行的服务端html嵌入式语言之一。而在如今这个充满挑战的时代,有许多黑客会尝试发现你服务端的漏...
- PHP八大安全函数解析_php安全设置
-
在现代互联网中,我们经常要从世界各地的用户中获得输入数据。但是,我们都知道“永远不能相信那些用户输入的数据”。所以在各种的Web开发语言中,都会提供保证用户输入数据安全的函数。在PHP中,有些非常有...
- win7下apache+mysql+php安装配置_win7 mysql安装配置教程
-
一.首先下载好要用的apache版本:http://httpd.apache.org/download.cgimysql版本:http://dev.mysql.com/downloads/mys...
- phpmyadmin取消最大文件限制的更改解决方法
-
用phpmyadmin导入大数据库的时候出现:Nodatawasreceivedtoimport.Eithernofilenamewassubmitted,orthefi...
- 成功安装 Magento2.4.3最新版教程「技术干货」
-
外贸独立站设计公司xingbell.com经过多次的反复实验,最新版的magento2.4.3在oneinstack的环境下的详细安装教程如下:一.vps系统:LinuxCentOS7.7.19...
- CentOS、Nginx、PHP、MySQL的安装和配置记录
-
安装LNMP安装wget工具(可选) yuminstall-ywget下载Nginx wgethttp://www.atomicorp.com/installers/ato...
- PHP扩展开发之路(二)_php扩展直接执行php代码
-
昨日,Jamlee发布了PHP扩展开发之路(一),今日再来续集,哈哈,会不会更有趣呢!不说多的,直接来!##0x2helloworld!,你的第一个php扩展##阅读前必看小贴士:如果你不想在本...
- 比较常见类型漏洞讲解(一)_常见漏洞的特点及危害
-
这里介绍一些手动挖掘漏洞时比较容易找到的漏洞,根据不同类型的漏洞来介绍。演示准备目标主机:Metasploitable2攻击目标:目标主机的dvwa系统攻击机:KaliSessionId盗用不知道你们...
- 一周热门
-
-
【验证码逆向专栏】vaptcha 手势验证码逆向分析
-
Python实现人事自动打卡,再也不会被批评
-
Psutil + Flask + Pyecharts + Bootstrap 开发动态可视化系统监控
-
一个解决支持HTML/CSS/JS网页转PDF(高质量)的终极解决方案
-
再见Swagger UI 国人开源了一款超好用的 API 文档生成框架,真香
-
网页转成pdf文件的经验分享 网页转成pdf文件的经验分享怎么弄
-
C++ std::vector 简介
-
飞牛OS入门安装遇到问题,如何解决?
-
系统C盘清理:微信PC端文件清理,扩大C盘可用空间步骤
-
10款高性能NAS丨双十一必看,轻松搞定虚拟机、Docker、软路由
-
- 最近发表
- 标签列表
-
- python判断字典是否为空 (50)
- crontab每周一执行 (48)
- aes和des区别 (43)
- bash脚本和shell脚本的区别 (35)
- canvas库 (33)
- dataframe筛选满足条件的行 (35)
- gitlab日志 (33)
- lua xpcall (36)
- blob转json (33)
- python判断是否在列表中 (34)
- python html转pdf (36)
- 安装指定版本npm (37)
- idea搜索jar包内容 (33)
- css鼠标悬停出现隐藏的文字 (34)
- linux nacos启动命令 (33)
- gitlab 日志 (36)
- adb pull (37)
- python判断元素在不在列表里 (34)
- python 字典删除元素 (34)
- vscode切换git分支 (35)
- python bytes转16进制 (35)
- grep前后几行 (34)
- hashmap转list (35)
- c++ 字符串查找 (35)
- mysql刷新权限 (34)