pandas
Datos duplicados
Buscar..
Seleccione duplicado
Si es necesario, establezca el valor 0 en la columna B , donde en la columna A los datos duplicados primero crean una máscara mediante Series.duplicated y luego usan DataFrame.ix o Series.mask :
In [224]: df = pd.DataFrame({'A':[1,2,3,3,2],
...: 'B':[1,7,3,0,8]})
In [225]: mask = df.A.duplicated(keep=False)
In [226]: mask
Out[226]:
0 False
1 True
2 True
3 True
4 True
Name: A, dtype: bool
In [227]: df.ix[mask, 'B'] = 0
In [228]: df['C'] = df.A.mask(mask, 0)
In [229]: df
Out[229]:
A B C
0 1 1 1
1 2 0 0
2 3 0 0
3 3 0 0
4 2 0 0
Si necesita una máscara invertida use ~ :
In [230]: df['C'] = df.A.mask(~mask, 0)
In [231]: df
Out[231]:
A B C
0 1 1 0
1 2 0 2
2 3 0 3
3 3 0 3
4 2 0 2
Drop duplicado
Utilice drop_duplicates :
In [216]: df = pd.DataFrame({'A':[1,2,3,3,2],
...: 'B':[1,7,3,0,8]})
In [217]: df
Out[217]:
A B
0 1 1
1 2 7
2 3 3
3 3 0
4 2 8
# keep only the last value
In [218]: df.drop_duplicates(subset=['A'], keep='last')
Out[218]:
A B
0 1 1
3 3 0
4 2 8
# keep only the first value, default value
In [219]: df.drop_duplicates(subset=['A'], keep='first')
Out[219]:
A B
0 1 1
1 2 7
2 3 3
# drop all duplicated values
In [220]: df.drop_duplicates(subset=['A'], keep=False)
Out[220]:
A B
0 1 1
Cuando no desea obtener una copia de un marco de datos, pero para modificar el existente:
In [221]: df = pd.DataFrame({'A':[1,2,3,3,2],
...: 'B':[1,7,3,0,8]})
In [222]: df.drop_duplicates(subset=['A'], inplace=True)
In [223]: df
Out[223]:
A B
0 1 1
1 2 7
2 3 3
Contando y consiguiendo elementos únicos.
Número de elementos únicos en una serie:
In [1]: id_numbers = pd.Series([111, 112, 112, 114, 115, 118, 114, 118, 112])
In [2]: id_numbers.nunique()
Out[2]: 5
Consigue elementos únicos en una serie:
In [3]: id_numbers.unique()
Out[3]: array([111, 112, 114, 115, 118], dtype=int64)
In [4]: df = pd.DataFrame({'Group': list('ABAABABAAB'),
'ID': [1, 1, 2, 3, 3, 2, 1, 2, 1, 3]})
In [5]: df
Out[5]:
Group ID
0 A 1
1 B 1
2 A 2
3 A 3
4 B 3
5 A 2
6 B 1
7 A 2
8 A 1
9 B 3
Número de elementos únicos en cada grupo:
In [6]: df.groupby('Group')['ID'].nunique()
Out[6]:
Group
A 3
B 2
Name: ID, dtype: int64
Consiga de elementos únicos en cada grupo:
In [7]: df.groupby('Group')['ID'].unique()
Out[7]:
Group
A [1, 2, 3]
B [1, 3]
Name: ID, dtype: object
Obtener valores únicos de una columna.
In [15]: df = pd.DataFrame({"A":[1,1,2,3,1,1],"B":[5,4,3,4,6,7]})
In [21]: df
Out[21]:
A B
0 1 5
1 1 4
2 2 3
3 3 4
4 1 6
5 1 7
Para obtener valores únicos en las columnas A y B.
In [22]: df["A"].unique()
Out[22]: array([1, 2, 3])
In [23]: df["B"].unique()
Out[23]: array([5, 4, 3, 6, 7])
Para obtener los valores únicos en la columna A como una lista (tenga en cuenta que unique() se puede utilizar de dos maneras ligeramente diferentes)
In [24]: pd.unique(df['A']).tolist()
Out[24]: [1, 2, 3]
Aquí hay un ejemplo más complejo. Digamos que queremos encontrar los valores únicos de la columna 'B' donde 'A' es igual a 1.
Primero, introduzcamos un duplicado para que puedas ver cómo funciona. Vamos a reemplazar el 6 en la fila '4', columna 'B' con un 4:
In [24]: df.loc['4', 'B'] = 4
Out[24]:
A B
0 1 5
1 1 4
2 2 3
3 3 4
4 1 4
5 1 7
Ahora seleccione los datos:
In [25]: pd.unique(df[df['A'] == 1 ]['B']).tolist()
Out[25]: [5, 4, 7]
Esto se puede descomponer pensando primero en el DataFrame interno:
df['A'] == 1
Esto encuentra valores en la columna A que son iguales a 1 y les aplica Verdadero o Falso. Luego podemos usar esto para seleccionar valores de la columna 'B' del DataFrame (la selección externa del DataFrame)
A modo de comparación, aquí está la lista si no utilizamos único. Recupera cada valor en la columna 'B' donde la columna 'A' es 1
In [26]: df[df['A'] == 1]['B'].tolist()
Out[26]: [5, 4, 4, 7]
