python 多表查询字段或者值

liuian 2025-01-10 15:15 56 浏览

前言

OK了老铁们，不管是初入社会的牛马还是当了多年牛马的你，一定会有需要批量修改，数据处理等等日常办公繁琐又简单的重复劳动，这种情况在AI发展的今天就要学会偷懒，而我呢也是通过AI学习并且整理了一系列日常办公且常用的偷懒处理，帮助广大牛马人更好的偷懒。

场景重现

现在你有N多个数据表，领导需要你找到有xx字段或者是有xx数据的表格，别再使用人工一个一个查找了，现在可以使用python的pandas库帮你查找。

实现思路

遍历文件：使用os模块遍历指定文件夹下的所有文件，筛选出 Excel 文件（.xlsx或.xls格式）。

读取 Excel 内容：利用pandas库读取每个 Excel 文件的内容。pandas是一个强大的数据处理库，能够轻松读取和处理各种表格数据。

数据查找：根据输入的字段名或数值，在读取的 Excel 数据中进行查找。可以通过条件判断或数据筛选的方式实现。

import os
import pandas as pd


def search_excel_data(target, folder_path):
    result_paths = []
    for filename in os.listdir(folder_path):
        if filename.endswith(('.xlsx', '.xls')):
            file_path = os.path.join(folder_path, filename)
            try:
                df = pd.read_excel(file_path)
                if isinstance(target, str) and target in df.columns:
                    result_paths.append(file_path)
                elif isinstance(target, (int, float)) and (df == target).any().any():
                    result_paths.append(file_path)
            except Exception as e:
                print(f"读取 {file_path} 时出错: {e}")
    return result_paths


if __name__ == '__main__':
    target_value = input("请输入要查找的字段名或数值: ")
    try:
        target = int(target_value)
    except ValueError:
        try:
            target = float(target_value)
        except ValueError:
            target = target_value
    folder_path = input("请输入存放Excel文件的文件夹路径: ")
    result = search_excel_data(target, folder_path)
    for path in result:
        print(path)

search_excel_data函数首先遍历指定文件夹下的所有文件，筛选出 Excel 文件。然后使用pd.read_excel读取每个 Excel 文件的数据。通过判断输入的target是字段名（字符串类型）还是数值（整数或浮点数类型），在数据中进行查找。如果找到符合条件的文件，将其路径添加到result_paths列表中。最后在__main__部分，通过用户输入获取要查找的目标值和存放 Excel 文件的文件夹路径，并调用函数进行查找，打印出符合条件的文件路径。

pandas是 Python 中用于数据处理和分析的核心库，它提供了快速、灵活、明确的数据结构，旨在简单、直观地处理关系型、标记型数据。其名称源于 “panel data”（面板数据）和 “Python data analysis”（Python 数据分析）。

常用函数：

**read_csv()**：用于从 CSV 文件中读取数据并创建 DataFrame 对象。例如data = pd.read_csv('data.csv')，可将名为data.csv的文件数据读取到data这个 DataFrame 中。
**read_excel()**：从 Excel 文件中读取数据。如df = pd.read_excel('file.xlsx', sheet_name='Sheet1')，从指定 Excel 文件的Sheet1工作表读取数据到df。
**head()**：快速查看 DataFrame 的前几行数据，默认显示前 5 行。data.head()即可展示data的前 5 行内容。
**tail()**：与head()相反，用于查看 DataFrame 的后几行数据，默认也是 5 行。
**info()**：提供 DataFrame 的简要信息，包括每列的数据类型、非空值数量等。data.info()可打印出data的详细信息。
**describe()**：生成数据的描述性统计信息，包括计数、均值、标准差、最小值、最大值以及四分位数等。data.describe()会计算并显示data的相关统计信息。
**drop()**：用于删除 DataFrame 中的行或列。例如new_data = data.drop('column_name', axis = 1)，将data中的column_name列删除，并将结果赋值给new_data；若要删除行，axis设为 0 。
**groupby()**：按照某一列或多列对数据进行分组。grouped = data.groupby('category')会根据category列对data进行分组，之后可对分组后的数据进行聚合操作，如grouped['value'].sum()计算每个分组中value列的总和。
**merge()**：用于合并两个或多个 DataFrame，类似于数据库中的表连接操作。merged_data = pd.merge(df1, df2, on='key')，根据key列将df1和df2进行合并。