python中Pandas怎么用

這篇文章主要為大家展示了“python中Pandas怎么用”，內容簡而易懂，條理清晰，希望能夠幫助大家解決疑惑，下面讓小編帶領大家一起研究并學習一下“python中Pandas怎么用”這篇文章吧。

一、Series和DataFrame

Pandas建立在NumPy之上，更多NumPy相關的知識點可以參考我之前寫的文章前置機器學習（三）：30分鐘掌握常用NumPy用法。
Pandas特別適合處理表格數據，如SQL表格、EXCEL表格。有序或無序的時間序列。具有行和列標簽的任意矩陣數據。

打開Jupyter Notebook，導入numpy和pandas開始我們的教程：

import numpy as np
import pandas as pd

1. pandas.Series

Series是帶有索引的一維ndarray數組。索引值可不唯一，但必須是可哈希的。

pd.Series([1, 3, 5, np.nan, 6, 8])

輸出：

0    1.0
1    3.0
2    5.0
3    NaN
4    6.0
5    8.0
dtype: float64

我們可以看到默認索引值為0、1、2、3、4、5這樣的數字。添加index屬性，指定其為'c','a','i','yong','j','i'。

pd.Series([1, 3, 5, np.nan, 6, 8], index=['c','a','i','yong','j','i'])

輸出如下，我們可以看到index是可重復的。

c       1.0
a       3.0
i       5.0
yong    NaN
j       6.0
i       8.0
dtype: float64

2. pandas.DataFrame

DataFrame是帶有行和列的表格結構。可以理解為多個Series對象的字典結構。

pd.DataFrame(np.array([[1, 2, 3], [4, 5, 6], [7, 8, 9]]), index=['i','ii','iii'], columns=['A', 'B', 'C'])

輸出表格如下，其中index對應它的行，columns對應它的列。

二、Pandas常見用法

1. 訪問數據

準備數據，隨機生成6行4列的二維數組，行標簽為從20210101到20210106的日期，列標簽為A、B、C、D。

import numpy as np
import pandas as pd
np.random.seed(20201212)
df = pd.DataFrame(np.random.randn(6, 4), index=pd.date_range('20210101', periods=6), columns=list('ABCD'))
df

展示表格如下：

1.1 head()和tail()

查看表格前幾行：

df.head(2)

展示表格如下：

查看表格后幾行：

df.tail(3)

展示表格如下：

1.2 describe()

describe方法用于生成DataFrame的描述統計信息。可以很方便的查看數據集的分布情況。注意，這里的統計分布不包含NaN值。

df.describe()

展示如下：

我們首先回顧一下我們掌握的數學公式。

平均數(mean)：

$$\bar x = \frac{\sum_{i=1}^{n}{x_i}}{n}$$

方差(variance):

$$s^2 = \frac{\sum_{i=1}^{n}{(x_i -\bar x)^2}}{n}$$

標準差(std):

$$s = \sqrt{\frac{\sum_{i=1}^{n}{(x_i -\bar x)^2}}{n}}$$

我們解釋一下pandas的describe統計信息各屬性的意義。我們僅以 A 列為例。

• count表示計數。A列有6個數據不為空。

• mean表示平均值。A列所有不為空的數據平均值為0.0825402。

• std表示標準差。A列的標準差為0.551412。

• min表示最小值。A列最小值為-0.816064。即，0%的數據比-0.816064小。

• 25%表示四分之一分位數。A列的四分之一分位數為-0.18。即，25%的數據比-0.18小。

• 50%表示二分之一分位數。A列的四分之一分位數為0.298188。即，50%的數據比0.298188小。

• 75%表示四分之三分位數。A列的四分之三分位數為0.342885。即，75%的數據比0.342885小。

• max表示最大值。A列的最大值為0.696541。即，100%的數據比0.696541小。

1.3 T

T一般表示Transpose的縮寫，即轉置。行列轉換。

df.T

展示表格如下：

1.4 sort_values()

指定某一列進行排序，如下代碼根據C列進行正序排序。

df.sort_values(by='C')

展示表格如下：

1.5 nlargest()

選擇某列最大的n行數據。如：df.nlargest(2,'A')表示，返回A列最大的2行數據。

df.nlargest(2,'A')

展示表格如下：

1.6 sample()

sample方法表示查看隨機的樣例數據。

df.sample(5)表示返回隨機5行數據。

df.sample(5)

參數frac表示fraction，分數的意思。frac=0.01即返回1%的隨機數據作為樣例展示。

df.sample(frac=0.01)

2. 選擇數據

2.1 根據標簽選擇

我們輸入df['A']命令選取A列。

df['A']

輸出A列數據，同時也是一個Series對象：

2021-01-01    0.270961
2021-01-02    0.696541
2021-01-03    0.325415
2021-01-04   -0.330320
2021-01-05    0.348708
2021-01-06   -0.816064
Name: A, dtype: float64

df[0:3]該代碼與df.head(3)同理。但df[0:3]是NumPy的數組選擇方式，這說明了Pandas對于NumPy具有良好的支持。

df[0:3]

展示表格如下： | | A | B | C | D | |:-----------|---------:|----------:|----------:|----------:| | 2021-01-01 | 0.270961 | -0.405463 | 0.348373 | 0.828572 | | 2021-01-02 | 0.696541 | 0.136352 | -1.64592 | -0.69841 | | 2021-01-03 | 0.325415 | -0.602236 | -0.134508 | 1.28121 |

通過loc方法指定行列標簽。

df.loc['2021-01-01':'2021-01-02', ['A', 'B']]

展示表格如下：

2.2 根據位置選擇

iloc 與loc不同。loc指定具體的標簽，而iloc指定標簽的索引位置。df.iloc[3:5, 0:3]表示選取索引為3、4的行，索引為0、1、2的列。即，第4、5行，第1、2、3列。 注意，索引序號從0開始。冒號表示區間，左右兩側分別表示開始和結束。如3:5表示左開右閉區間[3,5)，即不包含5自身。

df.iloc[3:5, 0:3]

df.iloc[:, 1:3]

2.3 布爾索引

DataFrame可根據條件進行篩選，當條件判斷True時，返回。當條件判斷為False時，過濾掉。

我們設置一個過濾器用來判斷A列是否大于0。

filter = df['A'] > 0
filter

輸出結果如下，可以看到2021-01-04和2021-01-06的行為False。

2021-01-01     True
2021-01-02     True
2021-01-03     True
2021-01-04    False
2021-01-05     True
2021-01-06    False
Name: A, dtype: bool

我們通過過濾器查看數據集。

df[filter]
# df[df['A'] > 0]

查看表格我們可以發現，2021-01-04和2021-01-06的行被過濾掉了。

3. 處理缺失值

準備數據。

df2 = df.copy()
df2.loc[:3, 'E'] = 1.0
f_series = {'2021-01-02': 1.0,'2021-01-03': 2.0,'2021-01-04': 3.0,'2021-01-05': 4.0,'2021-01-06': 5.0}
df2['F'] = pd.Series(f_series)
df2

展示表格如下：

3.1 dropna()

使用dropna方法清空NaN值。注意：dropa方法返回新的DataFrame，并不會改變原有的DataFrame。

df2.dropna(how='any')

以上代碼表示，當行數據有任意的數值為空時，刪除。

3.2 fillna()

使用filna命令填補NaN值。

df2.fillna(df2.mean())

以上代碼表示，使用每一列的平均值來填補空缺。同樣地，fillna并不會更新原有的DataFrame，如需更新原有DataFrame使用代碼df2 = df2.fillna(df2.mean())。

展示表格如下：

4. 操作方法

4.1 agg()

agg是Aggregate的縮寫，意為聚合。

常用聚合方法如下：

• mean(): Compute mean of groups

• sum(): Compute sum of group values

• size(): Compute group sizes

• count(): Compute count of group

• std(): Standard deviation of groups

• var(): Compute variance of groups

• sem(): Standard error of the mean of groups

• describe(): Generates descriptive statistics

• first(): Compute first of group values

• last(): Compute last of group values

• nth() : Take nth value, or a subset if n is a list

• min(): Compute min of group values

• max(): Compute max of group values

df.mean()

返回各列平均值

A    0.082540
B    0.049755
C   -0.181309
D    0.228960
dtype: float64

可通過加參數axis查看行平均值。

df.mean(axis=1)

輸出：

2021-01-01    0.260611
2021-01-02   -0.377860
2021-01-03    0.217470
2021-01-04   -0.296053
2021-01-05    0.498156
2021-01-06   -0.032404
dtype: float64

如果我們想查看某一列的多項聚合統計怎么辦？
這時我們可以調用agg方法：

df.agg(['std','mean'])['A']

返回結果顯示標準差std和均值mean：

std     0.551412
mean    0.082540
Name: A, dtype: float64

對于不同的列應用不同的聚合函數：

df.agg({'A':['max','mean'],'B':['mean','std','var']})

返回結果如下：

4.2 apply()

apply()是對方法的調用。 如df.apply(np.sum)表示每一列調用np.sum方法，返回每一列的數值和。

df.apply(np.sum)

輸出結果為：

A    0.495241
B    0.298531
C   -1.087857
D    1.373762
dtype: float64

apply方法支持lambda表達式。

df.apply(lambda n: n*2)

4.3 value_counts()

value_counts方法查看各行、列的數值重復統計。 我們重新生成一些整數數據，來保證有一定的數據重復。

np.random.seed(101)
df3 = pd.DataFrame(np.random.randint(0,9,size = (6,4)),columns=list('ABCD'))
df3

調用value_counts()方法。

df3['A'].value_counts()

查看輸出我們可以看到 A列的數字8有兩個，其他數字的數量為1。

8    2
7    1
5    1
4    1
1    1
Name: A, dtype: int64

4.4 str

Pandas內置字符串處理方法。

names = pd.Series(['andrew','bobo','claire','david','4'])
names.str.upper()

通過以上代碼我們將Series中的字符串全部設置為大寫。

0    ANDREW
1      BOBO
2    CLAIRE
3     DAVID
4         4
dtype: object

首字母大寫：

names.str.capitalize()

輸出為：

0    Andrew
1      Bobo
2    Claire
3     David
4         4
dtype: object

判斷是否為數字：

names.str.isdigit()

輸出為：

0    False
1    False
2    False
3    False
4     True
dtype: bool

字符串分割：

tech_finance = ['GOOG,APPL,AMZN','JPM,BAC,GS']
tickers = pd.Series(tech_finance)
tickers.str.split(',').str[0:2]

以逗號分割字符串，結果為：

0    [GOOG, APPL]
1      [JPM, BAC]
dtype: object

5. 合并

5.1 concat()

concat用來將數據集串聯起來。我們先準備數據。

data_one = {'Col1': ['A0', 'A1', 'A2', 'A3'],'Col2': ['B0', 'B1', 'B2', 'B3']}
data_two = {'Col1': ['C0', 'C1', 'C2', 'C3'], 'Col2': ['D0', 'D1', 'D2', 'D3']}
one = pd.DataFrame(data_one)
two = pd.DataFrame(data_two)

使用concat方法將兩個數據集串聯起來。

pt(pd.concat([one,two]))

得到表格： | | Col1 | Col2 | |---:|:-------|:-------| | 0 | A0 | B0 | | 1 | A1 | B1 | | 2 | A2 | B2 | | 3 | A3 | B3 | | 0 | C0 | D0 | | 1 | C1 | D1 | | 2 | C2 | D2 | | 3 | C3 | D3 |

5.2 merge()

merge相當于SQL操作中的join方法，用于將兩個數據集通過某種關系連接起來

registrations = pd.DataFrame({'reg_id':[1,2,3,4],'name':['Andrew','Bobo','Claire','David']})
logins = pd.DataFrame({'log_id':[1,2,3,4],'name':['Xavier','Andrew','Yolanda','Bobo']})

我們根據name來連接兩個張表，連接方式為outer。

pd.merge(left=registrations, right=logins, how='outer',on='name')

返回結果為：

我們注意，how : {'left', 'right', 'outer', 'inner'} 有4種連接方式。表示是否選取左右兩側表的nan值。如left表示保留左側表中所有數據，當遇到右側表數據為nan值時，不顯示右側的數據。 簡單來說，把left表和right表看作兩個集合。

• left表示取左表全部集合+兩表交集

• right表示取右表全部集合+兩表交集

• outer表示取兩表并集

• inner表示取兩表交集

6. 分組GroupBy

Pandas中的分組功能非常類似于SQL語句SELECT Column1, Column2, mean(Column3), sum(Column4)FROM SomeTableGROUP BY Column1, Column2。即使沒有接觸過SQL也沒有關系，分組就相當于把表格數據按照某一列進行拆分、統計、合并的過程。

準備數據。

np.random.seed(20201212)
df = pd.DataFrame({'A': ['foo', 'bar', 'foo', 'bar', 'foo', 'bar', 'foo', 'foo'],
                   'B': ['one', 'one', 'two', 'three', 'two', 'two', 'one', 'three'],
                   'C': np.random.randn(8),
                   'D': np.random.randn(8)})
df

可以看到，我們的A列和B列有很多重復數據。這時我們可以根據foo/bar或者one/two進行分組。

6.1 單列分組

我們應用groupby方法將上方表格中的數據進行分組。

df.groupby('A')

執行上方代碼可以看到，groupby方法返回的是一個類型為DataFrameGroupBy的對象。我們無法直接查看，需要應用聚合函數。參考本文4.1節。

<pandas.core.groupby.generic.DataFrameGroupBy object at 0x0000014C6742E248>

我們應用聚合函數sum試試。

df.groupby('A').sum()

展示表格如下：

6.2 多列分組

groupby方法支持將多個列作為參數傳入。

df.groupby(['A', 'B']).sum()

分組后顯示結果如下：

6.3 應用多聚合方法

我們應用agg()，將聚合方法數組作為參數傳入方法。下方代碼根據A分類且只統計C列的數值。

df.groupby('A')['C'].agg([np.sum, np.mean, np.std])

可以看到bar組與foo組各聚合函數的結果如下：

6.4 不同列進行不同聚合統計

下方代碼對C、D列分別進行不同的聚合統計，對C列進行求和，對D列進行標準差統計。

df.groupby('A').agg({'C': 'sum', 'D': lambda x: np.std(x, ddof=1)})

輸出如下：

6.5 更多

更多關于Pandas的goupby方法請參考官網:https://pandas.pydata.org/pandas-docs/stable/user_guide/groupby.html

三、Pandas 進階用法

1. reshape

reshape表示重塑表格。對于復雜表格，我們需要將其轉換成適合我們理解的樣子，比如根據某些屬性分組后進行單獨統計。

1.1 stack() 和 unstack()

stack方法將表格分為索引和數據兩個部分。索引各列保留，數據堆疊放置。

準備數據。

tuples = list(zip(*[['bar', 'bar', 'baz', 'baz','foo', 'foo', 'qux', 'qux'],
                    ['one', 'two', 'one', 'two','one', 'two', 'one', 'two']]))
index = pd.MultiIndex.from_tuples(tuples, names=['first', 'second'])

根據上方代碼，我們創建了一個復合索引。

MultiIndex([('bar', 'one'),
            ('bar', 'two'),
            ('baz', 'one'),
            ('baz', 'two'),
            ('foo', 'one'),
            ('foo', 'two'),
            ('qux', 'one'),
            ('qux', 'two')],
           names=['first', 'second'])

我們創建一個具備復合索引的DataFrame。

np.random.seed(20201212)
df = pd.DataFrame(np.random.randn(8, 2), index=index, columns=['A', 'B'])
df

輸出如下：

我們執行stack方法。

stacked = df.stack()
stacked

輸出堆疊（壓縮）后的表格如下。注意：你使用Jupyter Notebook/Lab進行的輸出可能和如下結果不太一樣。下方輸出的各位為了方便在Markdown中顯示有一定的調整。

first  second   
bar    one     A    0.942502
bar    one     B    0.060742
bar    two     A    1.340975
bar    two     B   -1.712152
baz    one     A    1.899275
baz    one     B    1.237799
baz    two     A   -1.589069
baz    two     B    1.288342
foo    one     A   -0.326792
foo    one     B    1.576351
foo    two     A    1.526528
foo    two     B    1.410695
qux    one     A    0.420718
qux    one     B   -0.288002
qux    two     A    0.361586
qux    two     B    0.177352
dtype: float64

我們執行unstack將數據進行展開。

stacked.unstack()

輸出原表格。

我們加入參數level。

stacked.unstack(level=0)
#stacked.unstack(level=1)

當level=0時得到如下輸出，大家可以試試level=1時輸出什么。

1.2 pivot_table()

pivot_table表示透視表，是一種對數據動態排布并且分類匯總的表格格式。

我們生成無索引列的DataFrame。

np.random.seed(99)
df = pd.DataFrame({'A': ['one', 'one', 'two', 'three'] * 3,
                    'B': ['A', 'B', 'C'] * 4,
                    'C': ['foo', 'foo', 'foo', 'bar', 'bar', 'bar'] * 2,
                    'D': np.random.randn(12),
                    'E': np.random.randn(12)})
df

展示表格如下：

通過觀察數據，我們可以顯然得出A、B、C列的具備一定屬性含義。我們執行pivot_table方法。

pd.pivot_table(df, values=['D','E'], index=['A', 'B'], columns=['C'])

上方代碼的意思為，將D、E列作為數據列，A、B作為復合行索引，C的數據值作為列索引。

2. 時間序列

date_range是Pandas自帶的生成日期間隔的方法。我們執行下方代碼：

rng = pd.date_range('1/1/2021', periods=100, freq='S')
pd.Series(np.random.randint(0, 500, len(rng)), index=rng)

date_range方法從2021年1月1日0秒開始，以1秒作為時間間隔執行100次時間段的劃分。輸出結果如下：

2021-01-01 00:00:00    475
2021-01-01 00:00:01    145
2021-01-01 00:00:02     13
2021-01-01 00:00:03    240
2021-01-01 00:00:04    183
                      ... 
2021-01-01 00:01:35    413
2021-01-01 00:01:36    330
2021-01-01 00:01:37    272
2021-01-01 00:01:38    304
2021-01-01 00:01:39    151
Freq: S, Length: 100, dtype: int32

我們將freq的參數值從S(second)改為M(Month)試試看。

rng = pd.date_range('1/1/2021', periods=100, freq='M')
pd.Series(np.random.randint(0, 500, len(rng)), index=rng)

輸出：

2021-01-31    311
2021-02-28    256
2021-03-31    327
2021-04-30    151
2021-05-31    484
             ... 
2028-12-31    170
2029-01-31    492
2029-02-28    205
2029-03-31     90
2029-04-30    446
Freq: M, Length: 100, dtype: int32

我們設置可以以季度作為頻率進行日期生成。

prng = pd.period_range('2018Q1', '2020Q4', freq='Q-NOV')
pd.Series(np.random.randn(len(prng)), prng)

輸出2018第一季度到2020第四季度間的全部季度。

2018Q1    0.833025
2018Q2   -0.509514
2018Q3   -0.735542
2018Q4   -0.224403
2019Q1   -0.119709
2019Q2   -1.379413
2019Q3    0.871741
2019Q4    0.877493
2020Q1    0.577611
2020Q2   -0.365737
2020Q3   -0.473404
2020Q4    0.529800
Freq: Q-NOV, dtype: float64

3. 分類

Pandas有一種特殊的數據類型叫做"目錄"，即dtype="category"，我們根據將某些列設置為目錄來進行分類。

準備數據。

df = pd.DataFrame({"id": [1, 2, 3, 4, 5, 6], "raw_grade": ['a', 'b', 'b', 'a', 'a', 'e']})
df

我們添加一個新列grade并將它的數據類型設置為category。

df["grade"] = df["raw_grade"].astype("category")
df["grade"]

我們可以看到grade列只有3種值a,b,e。

0    a
1    b
2    b
3    a
4    a
5    e
Name: grade, dtype: category
Categories (3, object): ['a', 'b', 'e']

我們按順序替換a、b、e為very good、good、very bad。

df["grade"].cat.categories = ["very good", "good", "very bad"]

此時的表格為：

我們對表格進行排序：

df.sort_values(by="grade", ascending=False)

查看各類別的數量：

df.groupby("grade").size()

以上代碼輸出為：

grade
very good    3
good         2
very bad     1
dtype: int64

4. IO

Pandas支持直接從文件中讀寫數據，如CSV、JSON、EXCEL等文件格式。Pandas支持的文件格式如下。

我們僅以CSV文件為例作為講解。其他格式請參考上方表格。

我們從CSV文件導入數據。大家不用特別在意下方網址的域名地址。

df = pd.read_csv("http://blog.caiyongji.com/assets/housing.csv")

查看前5行數據：

df.head(5)

5. 繪圖

Pandas支持matplotlib，matplotlib是功能強大的Python可視化工具。本節僅對Pandas支持的繪圖方法進行簡單介紹，我們將會在下一篇文章中進行matplotlib的詳細介紹。為了不錯過更新，歡迎大家關注我。

np.random.seed(999)
df = pd.DataFrame(np.random.rand(10, 4), columns=['a', 'b', 'c', 'd'])

我們直接調用plot方法進行展示。 這里有兩個需要注意的地方：

1. 該plot方法是通過Pandas調用的plot方法，而非matplotlib。

2. 我們知道Python語言是無需分號進行結束語句的。此處的分號表示執行繪圖渲染后直接顯示圖像。

df.plot();

df.plot.bar();

df.plot.bar(stacked=True);

以上是“python中Pandas怎么用”這篇文章的所有內容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內容對大家有所幫助，如果還想學習更多知識，歡迎關注億速云行業資訊頻道！