第十五章:Python的Pandas库详解及常见用法

在数据分析领域，Python的Pandas库是一个不可或缺的工具。它提供了高效的数据结构和数据分析工具，使得数据处理变得简单而直观。本文将详细介绍Pandas库的基本功能、常见用法，并通过示例代码演示如何使用Pandas进行数据处理。最后，我将用表格的形式梳理总结Pandas库的常用函数及其参数用法。资源绑定附上完整资源供读者参考学习！

一、Pandas库简介

1.1 什么是Pandas？

Pandas是一个开源的Python库，专为数据分析而设计。它提供了两种主要的数据结构：Series（一维数组）和DataFrame（二维表格），使得数据处理更加高效和便捷。

1.2 Pandas的主要特点

数据结构：提供了Series和DataFrame两种数据结构，适合处理结构化数据。
数据读取：支持多种数据格式的读取，如CSV、Excel、SQL数据库等。
数据清洗：提供了处理缺失值、重复值、异常值等功能。
数据转换：支持数据的筛选、排序、分组、聚合等操作。
数据可视化：集成了Matplotlib，方便进行数据可视化。

1.3 Pandas的应用场景

数据分析：用于清洗、转换和分析数据。
数据科学：在数据科学项目中进行数据预处理。
金融分析：处理时间序列数据和金融数据。
机器学习：作为数据预处理工具，为机器学习模型提供输入数据。

二、Pandas库的常见用法

2.1 安装和导入Pandas

Python

# 安装Pandas
pip install pandas# 导入Pandas
import pandas as pd

2.2 数据读取

2.2.1 读取CSV文件

Python

import pandas as pd
# 读取CSV文件
df = pd.read_csv('2001-2017年北京市水资源情况信息.csv',encoding='gbk')# 显示前5行数据
print(df.head())

2.2.2 读取Excel文件

Python


# 读取Excel文件
df = pd.read_excel('data.xlsx')# 显示前5行数据
print(df.head())

2.3 数据的基本操作

2.3.1 查看数据结构

Python

import pandas as pd
df=pd.read_csv('2001-2017年北京市水资源情况信息.csv',encoding='gbk')
# 查看数据类型
print(df.dtypes)# 查看数据维度
print(df.shape)# 查看数据描述性统计
print(df.describe())

2.3.2 筛选数据

Python

import pandas as pd
df=pd.read_excel('data.xlsx')
# 按列名筛选
print(df['姓名'])# 按条件筛选
print(df[df['总成绩'] > 90])# 多条件筛选
print(df[(df['平时成绩'] > 90) & (df['总成绩'] >90)])

2.3.3 排序数据

Python

import pandas as pd
df=pd.read_excel('data.xlsx')
# 按某一列排序
df_sorted = df.sort_values(by='总成绩', ascending=False)
print(df_sorted)# 按多列排序
df_sorted = df.sort_values(by=['平时成绩', '总成绩'], ascending=[False, True])
print(df_sorted)

2.4 数据清洗

2.4.1 处理缺失值

Python

import pandas as pd
df=pd.read_excel('data.xlsx')
# 查看缺失值
print(df.isnull().sum())# 删除缺失值
df_cleaned = df.dropna()# 填充缺失值
df_filled = df.fillna(value=0)

2.4.2 处理重复值

Python

import pandas as pd
df=pd.read_excel('data.xlsx')
# 查找重复值
print(df.duplicated())# 删除重复值
df_unique = df.drop_duplicates()

2.4.3 处理异常值

Python

import pandas as pd
df=pd.read_excel('data.xlsx')
# 使用IQR方法检测异常值
Q1 = df['平时成绩'].quantile(0.25)
Q3 = df['总成绩'].quantile(0.75)
IQR = Q3 - Q1# 筛选异常值
df_filtered = df[~((df['平时成绩'] < (Q1 - 1.5 * IQR)) | (df['总成绩'] > (Q3 + 1.5 * IQR)))]

2.5 数据可视化

2.5.1 绘制柱状图

Python

import pandas as pd
import matplotlib.pyplot as pltplt.rcParams['font.sans-serif'] = ['SimHei']
df=pd.read_excel('data.xlsx')df['总成绩'].value_counts().plot(kind='bar')
plt.show()

2.5.2 绘制折线图

Python

import pandas as pd
import matplotlib.pyplot as pltplt.rcParams['font.sans-serif'] = ['SimHei']
df=pd.read_excel('data.xlsx')df.plot(x='姓名', y='平时成绩', kind='line')
plt.show()

2.5.3 绘制散点图

Python

import pandas as pd
import matplotlib.pyplot as pltplt.rcParams['font.sans-serif'] = ['SimHei']
df=pd.read_excel('data.xlsx')df.plot(x='学院', y='总成绩', kind='scatter')
plt.show()

三、Pandas常用函数及参数总结

函数	参数	说明	示例
`read_csv`	`filepath`, `sep`, `header`	读取CSV文件	`pd.read_csv('data.csv', sep=',', header=0)`
`read_excel`	`filepath`, `sheet_name`	读取Excel文件	`pd.read_excel('data.xlsx', sheet_name='Sheet1')`
`read_sql_query`	`sql`, `con`	从SQL数据库读取数据	`pd.read_sql_query("SELECT * FROM table", conn)`
`head`	`n`	显示前n行数据	`df.head(5)`
`tail`	`n`	显示后n行数据	`df.tail(5)`
`describe`	`include`, `exclude`	显示数据的描述性统计	`df.describe(include='all')`
`dtypes`	-	显示数据类型	`df.dtypes`
`shape`	-	显示数据维度	`df.shape`
`sort_values`	`by`, `ascending`	按列排序	`df.sort_values(by='column', ascending=False)`
`groupby`	`by`	按列分组	`df.groupby('column')`
`sum`	`axis`, `numeric_only`	求和	`df.sum(axis=0, numeric_only=True)`
`mean`	`axis`, `numeric_only`	求平均值	`df.mean(axis=0, numeric_only=True)`
`dropna`	`axis`, `how`, `thresh`	删除缺失值	`df.dropna(axis=0, how='any', thresh=2)`
`fillna`	`value`, `method`	填充缺失值	`df.fillna(value=0, method='ffill')`
`duplicated`	`subset`, `keep`	查找重复值	`df.duplicated(subset=['column1', 'column2'], keep='first')`
`drop_duplicates`	`subset`, `keep`	删除重复值	`df.drop_duplicates(subset=['column1', 'column2'], keep='first')`
`value_counts`	`normalize`, `dropna`	计算唯一值的频率	`df['column'].value_counts(normalize=True, dropna=False)`
`plot`	`x`, `y`, `kind`	绘制图表	`df.plot(x='column1', y='column2', kind='scatter')`