数据清洗之pandas看后你就会用了
liuian 2025-01-10 15:15 34 浏览
Pandas是Python一个开源数据分析的库,它提供的数据结构DataFrame极大的简化了数据分析过程中一些繁琐操作。Excel 2007及其以后的版本的最大行数是1048576,最大列数是16384,Pandas处理上千万的数据是易如反掌的,excel做不了的,pandas可以,excel能做的,pandas也可以;总而言之,谁用谁知道。
import pandas as pd
import numpy as np
df = pd.read_csv('2022-01-29跌幅前十.csv')
df
纬德信息\t-19.44\t城地香江\t-10.02\t安妮股份\t-10.01\t金财互联\t-10.01\t亚联发展\t-9.98\t吉大正元\t-9.98\t浙数文化\t-9.18\t证通电子\t-9.09\t新炬网络\t-7.49\t浪潮软件\t-7.24\t
通过df的info可以看出来,在上篇获取数据中,没有对数据处理,在这儿就需要整理出符合matplotlib要求的格式;这里需要先将数据转换成DataFrame形式
d = pd.DataFrame(df.columns[0].split('\t'))
有心的你看到了,凡是名称的索引都是偶数,涨跌幅度索引是奇数,我们需要根据这个规律提取出来符合要求的数据,这也涉及了数据变形的操作,后面会详细讲。
name = d[0][[i for i in range(0, 20, 2)]]
number = d[0][[i for i in range(1, 20, 2)]]
[[i for i in range(0, 20, 2)]]是python中的列表推导式,一种循环的写法,简捷高效,0是开始位,20是结束位,2是步长,range这三个参数的意思明白就好;现在这二条数据已经基本准备好了,为什么说基本呢?因为现在的数据是object,而在绘图时需要的是int(整型)或float(浮点),从上图中可以看出它们的dtype,我们转换一下
num2 = np.array(number, dtype=np.float16)
这是跌幅前十名的数据,按照这个操作涨幅前十名
dt = pd.read_csv('2022-01-29涨幅前十.csv')
zf = pd.DataFrame(dt.columns[0].split('\t'))
name1 = zf[0][[i for i in range(0, 20, 2)]]
number1 = zf[0][[i for i in range(1, 21, 2)]]
num1 = np.array(number1, dtype=np.float16)
上面为了详细展示操作过程,看着有点多,其实就5行代码就完成了所有的准备工作;
下面说说pandas中基本的增、删、改、查和数据的变形
上图是给原数据中增加一列,值为1,也可增加多列,写成列表的格式就行
也可以用drop删除,这里要注意,用del只能一次删除一列drop却可以用列表进行多列操作
上面说了按列删除,下面说下按行删除,为了方便后面展示,重新生成一个新表
# 将第二列中的0和1改成hello,world
d2['col1'] = d2['col1'].replace({0:'hello',1:'world'})
# 将col2列中的1改成ok
d2.iloc[0,2] = 'ok' # 其中iloc[0, 2]是高级索引或切片索引,0是指第一列,2是指第一列第三行,当然也可以按行标签和列标签提取相应位置的数据,不过这样写简便
d2
将表中的hello全部替换成1,这里的厉害之处在于replace中可以用正则表达式,这一点excel坐导弹也追不上
d2.replace('hello','1')
通过上面的增、删、改,其实已经用了“查”,就是用切片索引查找,其中loc是按行标签查找,而iloc是可以行列结合
下面再说说行列数据变形相关的操作
ascending=0是改变默认的排序,1是默认值
行列变形的stack函数
变形后恢复默认索引状态
修改列名
原始的图形是
现在将d4再变形回去d3的样式
通过pivot函数达成目的,离原始还差一步,就是A的消失
现在已经实现了行列的互换,假如想将c列排到第一列去,需要一是将列标写成列表,二是再替换,具体的看图
到此,基本上可以用pandas处理日常工作了,下篇文章再说一下如何生成字典,以及将int变成object;
我们现在获取数据就可以直接用pandas读取和保存了,这样比上篇文章中说的简单直接还高效,这样的好处就是循环之类的就省了,从html.json()这儿开始,忘记的可以看下上篇文章
dataframe = pd.DataFrame(html.json()['list'])
dataframe.to_csv(title[spe])
二句代码解决问题,同时还保证了格式的统一和完整;下篇文章开始绘图的制作,欢迎留言或私信交流
相关推荐
- Python中的列表详解及示例_python列表讲解
-
艾瑞巴蒂干货来了,数据列表,骚话没有直接来吧列表(List)是Python中最基本、最常用的数据结构之一,它是一个有序的可变集合,可以包含任意类型的元素。列表的基本特性有序集合:元素按插入顺序存储可变...
- PowerShell一次性替换多个文件的名称
-
告别繁琐的文件重命名,使用PowerShell语言批量修改文件夹中的文件名,让您轻松完成重命名任务在日常工作中,我们经常需要对大量文件进行重命名,以便更好地管理和组织。之前,我们曾介绍过使用Pytho...
- 小白必看!Python 六大数据类型增删改查秘籍,附超详细代码解析
-
在Python中,数据类型可分为可变类型(如列表、字典、集合)和不可变类型(如字符串、元组、数值)。下面针对不同数据类型详细讲解其增删改查操作,并给出代码示例、输出结果及分析总结。1.列表(Li...
- python数据容器之列表、元组、字符串
-
数据容器分为5类,分别是:列表(list)、元组(tuple)、字符串(str)、集合(set)、字典(dict)list#字面量[元素1,元素2,元素3,……]#定义变量变量名称=[元素1,元素...
- python列表(List)必会的13个核心技巧(附实用方法)
-
列表(List)是Python入门的关键步骤,因为它是编程中最常用的数据结构之一。以下是高效掌握列表的核心技巧和实用方法:一、理解列表的本质可变有序集合:可随时修改内容,保持元素顺序混合类型:一个列表...
- 如何利用python批量修改文件名_python如何对文件进行批量命名
-
很多语言都可以做到批量修改文件名,今天我就给大家接受一下Python的方法,首选上需求。图片中有10个txt文件,现在我需要在这些文件名的前面全部加一个“学生”,可以吗?见证奇迹的时刻到了。我是怎么做...
- Python中使用re模块实现正则表达式的替换字符串操作
-
#编程语言#我是"学海无涯自学不惜!",关注我,一同学习简单易懂的Python编程。0基础学python(83)Python中,导入re模块后还可以进行字符串的替换操作,就是sub()...
- python列表十大常见问题,你遇到第几个?
-
Python列表常见问题及解决方案1.修改列表时的常见陷阱问题:在遍历时修改列表#错误做法:在遍历时删除元素会导致意外结果numbers=[1,2,3,4,5,6]forn...
- python入门007:编辑列表_python列表怎么写入文件
-
一、列表的编辑操作列表创建后,随着程序的运行,可以通过对列表元素的增删改操作来编辑列表。1、修改列表元素的值修改列表元素的操作方法与访问列表元素的方法类似。例如,要修改列表元素的值,先指定列表及元素...
- Python教程:在python中修改元组详解
-
欢迎你来到站长在线的站长学堂学习Python知识,本文学习的是《在Python中修改元组详解》。本知识点主要内容有:在Python中直接使用赋值运算符“=”给元组重新赋值、在Python中使用加赋值运...
- Python列表(List)一文全掌握:核心知识点+20实战练习题
-
Python列表(List)知识点教程一、列表的定义与特性定义:列表是可变的有序集合,用方括号[]定义,元素用逗号分隔。list1=[1,"apple",3.14]lis...
- Python教程-列表复制_python对列表进行复制
-
作为软件开发者,我们总是努力编写干净、简洁、高效的代码。Python列表是一种多功能的数据结构,它允许你存储一个项目的集合。在Python中,列表是可变的,这意味着你可以在创建一个列表后改变它的...
- Python入门学习教程:第 6 章 列表
-
6.1什么是列表?在Python中,列表(List)是一种用于存储多个元素的有序集合,它是最常用的数据结构之一。列表中的元素可以是不同的数据类型,如整数、字符串、浮点数,甚至可以是另一个列表。列...
- Python列表、元组、字典和集合_python中的列表元组和字典
-
Python中的列表(List)、元组(Tuple)、字典(Dict)和集合(Set)是四种最常用的核心数据结构。掌握它们的基础操作只是第一步,真正发挥威力的是那些高级用法和技巧。首先我们先看一下这...
- 学习编程第167天 python编程 使用format方法灵活替换字符串
-
今天学习的是刘金玉老师零基础Python教程第51期,主要内容是python编程使用format方法灵活替换字符串。一、format方法(一)format方法是字符串自带的方法,使用的format方法...
- 一周热门
- 最近发表
- 标签列表
-
- python判断字典是否为空 (50)
- crontab每周一执行 (48)
- aes和des区别 (43)
- bash脚本和shell脚本的区别 (35)
- canvas库 (33)
- dataframe筛选满足条件的行 (35)
- gitlab日志 (33)
- lua xpcall (36)
- blob转json (33)
- python判断是否在列表中 (34)
- python html转pdf (36)
- 安装指定版本npm (37)
- idea搜索jar包内容 (33)
- css鼠标悬停出现隐藏的文字 (34)
- linux nacos启动命令 (33)
- gitlab 日志 (36)
- adb pull (37)
- python判断元素在不在列表里 (34)
- python 字典删除元素 (34)
- vscode切换git分支 (35)
- python bytes转16进制 (35)
- grep前后几行 (34)
- hashmap转list (35)
- c++ 字符串查找 (35)
- mysql刷新权限 (34)