四时宝库

程序员的知识宝库

python 多表查询字段或者值

前言

OK了老铁们,不管是初入社会的牛马还是当了多年牛马的你,一定会有需要批量修改,数据处理等等日常办公繁琐又简单的重复劳动,这种情况在AI发展的今天就要学会偷懒,而我呢也是通过AI学习并且整理了一系列日常办公且常用的偷懒处理,帮助广大牛马人更好的偷懒。

场景重现

现在你有N多个数据表,领导需要你找到有xx字段或者是有xx数据的表格,别再使用人工一个一个查找了,现在可以使用python的pandas库帮你查找。

实现思路

遍历文件:使用os模块遍历指定文件夹下的所有文件,筛选出 Excel 文件(.xlsx或.xls格式)。

读取 Excel 内容:利用pandas库读取每个 Excel 文件的内容。pandas是一个强大的数据处理库,能够轻松读取和处理各种表格数据。

数据查找:根据输入的字段名或数值,在读取的 Excel 数据中进行查找。可以通过条件判断或数据筛选的方式实现。

import os
import pandas as pd


def search_excel_data(target, folder_path):
    result_paths = []
    for filename in os.listdir(folder_path):
        if filename.endswith(('.xlsx', '.xls')):
            file_path = os.path.join(folder_path, filename)
            try:
                df = pd.read_excel(file_path)
                if isinstance(target, str) and target in df.columns:
                    result_paths.append(file_path)
                elif isinstance(target, (int, float)) and (df == target).any().any():
                    result_paths.append(file_path)
            except Exception as e:
                print(f"读取 {file_path} 时出错: {e}")
    return result_paths


if __name__ == '__main__':
    target_value = input("请输入要查找的字段名或数值: ")
    try:
        target = int(target_value)
    except ValueError:
        try:
            target = float(target_value)
        except ValueError:
            target = target_value
    folder_path = input("请输入存放Excel文件的文件夹路径: ")
    result = search_excel_data(target, folder_path)
    for path in result:
        print(path)

search_excel_data函数首先遍历指定文件夹下的所有文件,筛选出 Excel 文件。 然后使用pd.read_excel读取每个 Excel 文件的数据。 通过判断输入的target是字段名(字符串类型)还是数值(整数或浮点数类型),在数据中进行查找。如果找到符合条件的文件,将其路径添加到result_paths列表中。 最后在__main__部分,通过用户输入获取要查找的目标值和存放 Excel 文件的文件夹路径,并调用函数进行查找,打印出符合条件的文件路径。

pandas是 Python 中用于数据处理和分析的核心库,它提供了快速、灵活、明确的数据结构,旨在简单、直观地处理关系型、标记型数据。其名称源于 “panel data”(面板数据)和 “Python data analysis”(Python 数据分析)。

常用函数:

  1. **read_csv()**:用于从 CSV 文件中读取数据并创建 DataFrame 对象。例如data = pd.read_csv('data.csv'),可将名为data.csv的文件数据读取到data这个 DataFrame 中。
  2. **read_excel()**:从 Excel 文件中读取数据。如df = pd.read_excel('file.xlsx', sheet_name='Sheet1'),从指定 Excel 文件的Sheet1工作表读取数据到df。
  3. **head()**:快速查看 DataFrame 的前几行数据,默认显示前 5 行。data.head()即可展示data的前 5 行内容。
  4. **tail()**:与head()相反,用于查看 DataFrame 的后几行数据,默认也是 5 行。
  5. **info()**:提供 DataFrame 的简要信息,包括每列的数据类型、非空值数量等。data.info()可打印出data的详细信息。
  6. **describe()**:生成数据的描述性统计信息,包括计数、均值、标准差、最小值、最大值以及四分位数等。data.describe()会计算并显示data的相关统计信息。
  7. **drop()**:用于删除 DataFrame 中的行或列。例如new_data = data.drop('column_name', axis = 1),将data中的column_name列删除,并将结果赋值给new_data;若要删除行,axis设为 0 。
  8. **groupby()**:按照某一列或多列对数据进行分组。grouped = data.groupby('category')会根据category列对data进行分组,之后可对分组后的数据进行聚合操作,如grouped['value'].sum()计算每个分组中value列的总和。
  9. **merge()**:用于合并两个或多个 DataFrame,类似于数据库中的表连接操作。merged_data = pd.merge(df1, df2, on='key'),根据key列将df1和df2进行合并。

发表评论:

控制面板
您好,欢迎到访网站!
  查看权限
网站分类
最新留言
    友情链接