pandas
중복 된 데이터

중복 선택

값이 0 열을 B 열로 설정해야하는 경우 열 A 에서 중복되는 데이터는 먼저 Series.duplicated 마스크를 Series.duplicated 다음 DataFrame.ix 또는 Series.mask 를 사용합니다.

In [224]: df = pd.DataFrame({'A':[1,2,3,3,2],
     ...:                    'B':[1,7,3,0,8]})

In [225]: mask = df.A.duplicated(keep=False)

In [226]: mask
Out[226]: 
0    False
1     True
2     True
3     True
4     True
Name: A, dtype: bool

In [227]: df.ix[mask, 'B'] = 0

In [228]: df['C'] = df.A.mask(mask, 0)

In [229]: df
Out[229]: 
   A  B  C
0  1  1  1
1  2  0  0
2  3  0  0
3  3  0  0
4  2  0  0

반전 마스크 사용이 필요한 경우 ~ :

In [230]: df['C'] = df.A.mask(~mask, 0)

In [231]: df
Out[231]: 
   A  B  C
0  1  1  0
1  2  0  2
2  3  0  3
3  3  0  3
4  2  0  2

중복 복제

drop_duplicates 사용 :

In [216]: df = pd.DataFrame({'A':[1,2,3,3,2],
     ...:                    'B':[1,7,3,0,8]})

In [217]: df
Out[217]: 
   A  B
0  1  1
1  2  7
2  3  3
3  3  0
4  2  8

# keep only the last value
In [218]: df.drop_duplicates(subset=['A'], keep='last')
Out[218]: 
   A  B
0  1  1
3  3  0
4  2  8

# keep only the first value, default value
In [219]: df.drop_duplicates(subset=['A'], keep='first')
Out[219]: 
   A  B
0  1  1
1  2  7
2  3  3

# drop all duplicated values
In [220]: df.drop_duplicates(subset=['A'], keep=False)
Out[220]: 
   A  B
0  1  1

데이터 프레임의 사본을 얻고 싶지 않지만 기존 프레임을 수정하려면 다음을 수행하십시오.

In [221]: df = pd.DataFrame({'A':[1,2,3,3,2],
     ...:                    'B':[1,7,3,0,8]})

In [222]: df.drop_duplicates(subset=['A'], inplace=True)

In [223]: df
Out[223]: 
   A  B
0  1  1
1  2  7
2  3  3

고유 한 요소 계산 및 가져 오기

시리즈의 고유 요소 수 :

In [1]: id_numbers = pd.Series([111, 112, 112, 114, 115, 118, 114, 118, 112])
In [2]: id_numbers.nunique()
Out[2]: 5

시리즈에서 고유 한 요소 가져 오기 :

In [3]: id_numbers.unique()
Out[3]: array([111, 112, 114, 115, 118], dtype=int64)

In [4]: df = pd.DataFrame({'Group': list('ABAABABAAB'), 
                           'ID': [1, 1, 2, 3, 3, 2, 1, 2, 1, 3]})

In [5]: df
Out[5]: 
  Group  ID
0     A   1
1     B   1
2     A   2
3     A   3
4     B   3
5     A   2
6     B   1
7     A   2
8     A   1
9     B   3

각 그룹의 고유 요소 수 :

In [6]: df.groupby('Group')['ID'].nunique()
Out[6]: 
Group
A    3
B    2
Name: ID, dtype: int64

각 그룹에서 고유 한 요소 가져 오기 :

In [7]: df.groupby('Group')['ID'].unique()
Out[7]: 
Group
A    [1, 2, 3]
B       [1, 3]
Name: ID, dtype: object

열에서 고유 한 값을 가져옵니다.

In [15]: df = pd.DataFrame({"A":[1,1,2,3,1,1],"B":[5,4,3,4,6,7]})

In [21]: df
Out[21]: 
   A  B
0  1  5
1  1  4
2  2  3
3  3  4
4  1  6
5  1  7

열 A와 B에서 고유 한 값을 가져 오려면

In [22]: df["A"].unique()
Out[22]: array([1, 2, 3])

In [23]: df["B"].unique()
Out[23]: array([5, 4, 3, 6, 7])

A 열의 고유 값을 목록으로 가져 오려면 ( unique() 은 두 가지 다른 방식으로 사용할 수 있습니다)

In [24]: pd.unique(df['A']).tolist()
Out[24]: [1, 2, 3]

여기에 더 복잡한 예가 있습니다. 'A'가 1 인 열 'B'에서 고유 값을 찾고 싶다고합시다.

먼저 복제본을 소개하여 복제본이 어떻게 작동하는지 볼 수 있습니다. 6 행 '4', 'B'열을 4 :

In [24]: df.loc['4', 'B'] = 4    
Out[24]:    
   A  B
0  1  5
1  1  4
2  2  3
3  3  4
4  1  4
5  1  7

이제 데이터를 선택하십시오.

In [25]: pd.unique(df[df['A'] == 1 ]['B']).tolist()
Out[25]: [5, 4, 7]

이것은 내부 DataFrame을 먼저 생각함으로써 세분화 될 수 있습니다 :

df['A'] == 1 

이것은 A와 같은 값을 A 열에 찾고 True 또는 False를 적용합니다. 그런 다음이를 사용하여 DataFrame (외부 DataFrame 선택)의 'B'열에서 값을 선택할 수 있습니다.

비교를 위해, 우리가 유일하지 않으면 목록이 있습니다. 열 'A'가 1 인 열 'B'의 모든 값을 검색합니다.

In [26]: df[df['A'] == 1]['B'].tolist()
Out[26]: [5, 4, 4, 7]