pandas
Zduplikowane dane

Wybierz zduplikowane

W razie potrzeby ustaw wartość 0 na kolumnę B , gdzie w kolumnie A są zduplikowane dane, najpierw utwórz maskę przez Series.duplicated a następnie użyj DataFrame.ix lub Series.mask :

In [224]: df = pd.DataFrame({'A':[1,2,3,3,2],
     ...:                    'B':[1,7,3,0,8]})

In [225]: mask = df.A.duplicated(keep=False)

In [226]: mask
Out[226]: 
0    False
1     True
2     True
3     True
4     True
Name: A, dtype: bool

In [227]: df.ix[mask, 'B'] = 0

In [228]: df['C'] = df.A.mask(mask, 0)

In [229]: df
Out[229]: 
   A  B  C
0  1  1  1
1  2  0  0
2  3  0  0
3  3  0  0
4  2  0  0

Jeśli potrzebujesz odwrócić maskę, użyj ~ :

In [230]: df['C'] = df.A.mask(~mask, 0)

In [231]: df
Out[231]: 
   A  B  C
0  1  1  0
1  2  0  2
2  3  0  3
3  3  0  3
4  2  0  2

Upuść zduplikowane

Użyj drop_duplicates :

In [216]: df = pd.DataFrame({'A':[1,2,3,3,2],
     ...:                    'B':[1,7,3,0,8]})

In [217]: df
Out[217]: 
   A  B
0  1  1
1  2  7
2  3  3
3  3  0
4  2  8

# keep only the last value
In [218]: df.drop_duplicates(subset=['A'], keep='last')
Out[218]: 
   A  B
0  1  1
3  3  0
4  2  8

# keep only the first value, default value
In [219]: df.drop_duplicates(subset=['A'], keep='first')
Out[219]: 
   A  B
0  1  1
1  2  7
2  3  3

# drop all duplicated values
In [220]: df.drop_duplicates(subset=['A'], keep=False)
Out[220]: 
   A  B
0  1  1

Jeśli nie chcesz uzyskać kopii ramki danych, ale zmodyfikować istniejącą:

In [221]: df = pd.DataFrame({'A':[1,2,3,3,2],
     ...:                    'B':[1,7,3,0,8]})

In [222]: df.drop_duplicates(subset=['A'], inplace=True)

In [223]: df
Out[223]: 
   A  B
0  1  1
1  2  7
2  3  3

Liczenie i uzyskiwanie unikalnych elementów

Liczba unikalnych elementów w serii:

In [1]: id_numbers = pd.Series([111, 112, 112, 114, 115, 118, 114, 118, 112])
In [2]: id_numbers.nunique()
Out[2]: 5

Zdobądź unikalne elementy z serii:

In [3]: id_numbers.unique()
Out[3]: array([111, 112, 114, 115, 118], dtype=int64)

In [4]: df = pd.DataFrame({'Group': list('ABAABABAAB'), 
                           'ID': [1, 1, 2, 3, 3, 2, 1, 2, 1, 3]})

In [5]: df
Out[5]: 
  Group  ID
0     A   1
1     B   1
2     A   2
3     A   3
4     B   3
5     A   2
6     B   1
7     A   2
8     A   1
9     B   3

Liczba unikalnych elementów w każdej grupie:

In [6]: df.groupby('Group')['ID'].nunique()
Out[6]: 
Group
A    3
B    2
Name: ID, dtype: int64

Zdobądź unikalne elementy w każdej grupie:

In [7]: df.groupby('Group')['ID'].unique()
Out[7]: 
Group
A    [1, 2, 3]
B       [1, 3]
Name: ID, dtype: object

Uzyskaj unikalne wartości z kolumny.

In [15]: df = pd.DataFrame({"A":[1,1,2,3,1,1],"B":[5,4,3,4,6,7]})

In [21]: df
Out[21]: 
   A  B
0  1  5
1  1  4
2  2  3
3  3  4
4  1  6
5  1  7

Aby uzyskać unikalne wartości w kolumnach A i B.

In [22]: df["A"].unique()
Out[22]: array([1, 2, 3])

In [23]: df["B"].unique()
Out[23]: array([5, 4, 3, 6, 7])

Aby uzyskać unikalne wartości w kolumnie A jako listę (należy pamiętać, że funkcji unique() można używać na dwa nieco inne sposoby)

In [24]: pd.unique(df['A']).tolist()
Out[24]: [1, 2, 3]

Oto bardziej złożony przykład. Powiedzmy, że chcemy znaleźć unikalne wartości z kolumny „B”, gdzie „A” jest równe 1.

Najpierw przedstawmy duplikat, abyś mógł zobaczyć, jak to działa. Zastąpmy 6 w wierszu „4”, kolumna „B” 4:

In [24]: df.loc['4', 'B'] = 4    
Out[24]:    
   A  B
0  1  5
1  1  4
2  2  3
3  3  4
4  1  4
5  1  7

Teraz wybierz dane:

In [25]: pd.unique(df[df['A'] == 1 ]['B']).tolist()
Out[25]: [5, 4, 7]

Można to rozbić, myśląc najpierw o wewnętrznej ramce danych:

df['A'] == 1 

Znajduje wartości w kolumnie A, które są równe 1, i stosuje do nich wartość Prawda lub Fałsz. Następnie możemy użyć tego do wybrania wartości z kolumny „B” DataFrame (zewnętrzny wybór DataFrame)

Dla porównania, oto lista, jeśli nie używamy unikalnych. Pobiera wszystkie wartości w kolumnie „B”, gdzie kolumna „A” ma wartość 1

In [26]: df[df['A'] == 1]['B'].tolist()
Out[26]: [5, 4, 4, 7]