pandas
Données manquantes
Recherche…
Remarques
Devrions-nous inclure le ffill et le bfill non documentés?
Remplir les valeurs manquantes
In [11]: df = pd.DataFrame([[1, 2, None, 3], [4, None, 5, 6],
[7, 8, 9, 10], [None, None, None, None]])
Out[11]:
0 1 2 3
0 1.0 2.0 NaN 3.0
1 4.0 NaN 5.0 6.0
2 7.0 8.0 9.0 10.0
3 NaN NaN NaN NaN
Remplir les valeurs manquantes avec une seule valeur:
In [12]: df.fillna(0)
Out[12]:
0 1 2 3
0 1.0 2.0 0.0 3.0
1 4.0 0.0 5.0 6.0
2 7.0 8.0 9.0 10.0
3 0.0 0.0 0.0 0.0
Cela retourne un nouveau DataFrame. Si vous souhaitez modifier le DataFrame d'origine, utilisez le paramètre inplace ( df.fillna(0, inplace=True) ) ou attribuez-le au fichier de données d'origine ( df = df.fillna(0) ).
Remplissez les valeurs manquantes avec les précédentes:
In [13]: df.fillna(method='pad') # this is equivalent to both method='ffill' and .ffill()
Out[13]:
0 1 2 3
0 1.0 2.0 NaN 3.0
1 4.0 2.0 5.0 6.0
2 7.0 8.0 9.0 10.0
3 7.0 8.0 9.0 10.0
Remplissez avec les suivants:
In [14]: df.fillna(method='bfill') # this is equivalent to .bfill()
Out[14]:
0 1 2 3
0 1.0 2.0 5.0 3.0
1 4.0 8.0 5.0 6.0
2 7.0 8.0 9.0 10.0
3 NaN NaN NaN NaN
Remplir à l'aide d'un autre DataFrame:
In [15]: df2 = pd.DataFrame(np.arange(100, 116).reshape(4, 4))
df2
Out[15]:
0 1 2 3
0 100 101 102 103
1 104 105 106 107
2 108 109 110 111
3 112 113 114 115
In [16]: df.fillna(df2) # takes the corresponding cells in df2 to fill df
Out[16]:
0 1 2 3
0 1.0 2.0 102.0 3.0
1 4.0 105.0 5.0 6.0
2 7.0 8.0 9.0 10.0
3 112.0 113.0 114.0 115.0
Supprimer les valeurs manquantes
Lors de la création d'un DataFrame None (valeur manquante de python) est converti en NaN (valeur manquante des pandas):
In [11]: df = pd.DataFrame([[1, 2, None, 3], [4, None, 5, 6],
[7, 8, 9, 10], [None, None, None, None]])
Out[11]:
0 1 2 3
0 1.0 2.0 NaN 3.0
1 4.0 NaN 5.0 6.0
2 7.0 8.0 9.0 10.0
3 NaN NaN NaN NaN
Supprimer des lignes si au moins une colonne a une valeur manquante
In [12]: df.dropna()
Out[12]:
0 1 2 3
2 7.0 8.0 9.0 10.0
Cela retourne un nouveau DataFrame. Si vous souhaitez modifier le DataFrame d'origine, utilisez le paramètre inplace ( df.dropna(inplace=True) ) ou attribuez-le à DataFrame d'origine ( df = df.dropna() ).
Supprimer des lignes si toutes les valeurs de cette ligne sont manquantes
In [13]: df.dropna(how='all')
Out[13]:
0 1 2 3
0 1.0 2.0 NaN 3.0
1 4.0 NaN 5.0 6.0
2 7.0 8.0 9.0 10.0
Supprimez les colonnes qui n'ont pas au moins 3 valeurs non manquantes
In [14]: df.dropna(axis=1, thresh=3)
Out[14]:
0 3
0 1.0 3.0
1 4.0 6.0
2 7.0 10.0
3 NaN NaN
Interpolation
import pandas as pd
import numpy as np
df = pd.DataFrame({'A':[1,2,np.nan,3,np.nan],
'B':[1.2,7,3,0,8]})
df['C'] = df.A.interpolate()
df['D'] = df.A.interpolate(method='spline', order=1)
print (df)
A B C D
0 1.0 1.2 1.0 1.000000
1 2.0 7.0 2.0 2.000000
2 NaN 3.0 2.5 2.428571
3 3.0 0.0 3.0 3.000000
4 NaN 8.0 3.0 3.714286
Vérification des valeurs manquantes
Afin de vérifier si une valeur est NaN, les fonctions isnull() ou notnull() peuvent être utilisées.
In [1]: import numpy as np
In [2]: import pandas as pd
In [3]: ser = pd.Series([1, 2, np.nan, 4])
In [4]: pd.isnull(ser)
Out[4]:
0 False
1 False
2 True
3 False
dtype: bool
Notez que np.nan == np.nan renvoie False, vous devez donc éviter la comparaison avec np.nan:
In [5]: ser == np.nan
Out[5]:
0 False
1 False
2 False
3 False
dtype: bool
Les deux fonctions sont également définies en tant que méthodes sur les séries et les DataFrames.
In [6]: ser.isnull()
Out[6]:
0 False
1 False
2 True
3 False
dtype: bool
Test sur des DataFrames:
In [7]: df = pd.DataFrame({'A': [1, np.nan, 3], 'B': [np.nan, 5, 6]})
In [8]: print(df)
Out[8]:
A B
0 1.0 NaN
1 NaN 5.0
2 3.0 6.0
In [9]: df.isnull() # If the value is NaN, returns True.
Out[9]:
A B
0 False True
1 True False
2 False False
In [10]: df.notnull() # Opposite of .isnull(). If the value is not NaN, returns True.
Out[10]:
A B
0 True False
1 False True
2 True True