pandas
重複データ

重複を選択

必要値に設定した場合0カラムにB列に、 Aデータが最初にしてマスクを作成する複製されSeries.duplicated 、次いで使用DataFrame.ix又はSeries.mask ：

In [224]: df = pd.DataFrame({'A':[1,2,3,3,2],
     ...:                    'B':[1,7,3,0,8]})

In [225]: mask = df.A.duplicated(keep=False)

In [226]: mask
Out[226]: 
0    False
1     True
2     True
3     True
4     True
Name: A, dtype: bool

In [227]: df.ix[mask, 'B'] = 0

In [228]: df['C'] = df.A.mask(mask, 0)

In [229]: df
Out[229]: 
   A  B  C
0  1  1  1
1  2  0  0
2  3  0  0
3  3  0  0
4  2  0  0

インバートマスクを使用する必要がある場合~ ：

In [230]: df['C'] = df.A.mask(~mask, 0)

In [231]: df
Out[231]: 
   A  B  C
0  1  1  0
1  2  0  2
2  3  0  3
3  3  0  3
4  2  0  2

重複削除

drop_duplicates使用しdrop_duplicates 。

In [216]: df = pd.DataFrame({'A':[1,2,3,3,2],
     ...:                    'B':[1,7,3,0,8]})

In [217]: df
Out[217]: 
   A  B
0  1  1
1  2  7
2  3  3
3  3  0
4  2  8

# keep only the last value
In [218]: df.drop_duplicates(subset=['A'], keep='last')
Out[218]: 
   A  B
0  1  1
3  3  0
4  2  8

# keep only the first value, default value
In [219]: df.drop_duplicates(subset=['A'], keep='first')
Out[219]: 
   A  B
0  1  1
1  2  7
2  3  3

# drop all duplicated values
In [220]: df.drop_duplicates(subset=['A'], keep=False)
Out[220]: 
   A  B
0  1  1

データフレームのコピーを取得するのではなく、既存のデータフレームを変更する場合は、次のようにします。

In [221]: df = pd.DataFrame({'A':[1,2,3,3,2],
     ...:                    'B':[1,7,3,0,8]})

In [222]: df.drop_duplicates(subset=['A'], inplace=True)

In [223]: df
Out[223]: 
   A  B
0  1  1
1  2  7
2  3  3

ユニークな要素を数える

シリーズ内のユニークな要素の数：

In [1]: id_numbers = pd.Series([111, 112, 112, 114, 115, 118, 114, 118, 112])
In [2]: id_numbers.nunique()
Out[2]: 5

一連のユニークな要素を取得する：

In [3]: id_numbers.unique()
Out[3]: array([111, 112, 114, 115, 118], dtype=int64)

In [4]: df = pd.DataFrame({'Group': list('ABAABABAAB'), 
                           'ID': [1, 1, 2, 3, 3, 2, 1, 2, 1, 3]})

In [5]: df
Out[5]: 
  Group  ID
0     A   1
1     B   1
2     A   2
3     A   3
4     B   3
5     A   2
6     B   1
7     A   2
8     A   1
9     B   3

各グループの固有の要素の数：

In [6]: df.groupby('Group')['ID'].nunique()
Out[6]: 
Group
A    3
B    2
Name: ID, dtype: int64

各グループのユニークな要素を取得する：

In [7]: df.groupby('Group')['ID'].unique()
Out[7]: 
Group
A    [1, 2, 3]
B       [1, 3]
Name: ID, dtype: object

列から一意の値を取得します。

In [15]: df = pd.DataFrame({"A":[1,1,2,3,1,1],"B":[5,4,3,4,6,7]})

In [21]: df
Out[21]: 
   A  B
0  1  5
1  1  4
2  2  3
3  3  4
4  1  6
5  1  7

列Aと列Bで一意の値を取得するには

In [22]: df["A"].unique()
Out[22]: array([1, 2, 3])

In [23]: df["B"].unique()
Out[23]: array([5, 4, 3, 6, 7])

列Aの一意の値をリストとして取得するには（ unique()は2つのわずかに異なる方法で使用できます）

In [24]: pd.unique(df['A']).tolist()
Out[24]: [1, 2, 3]

ここにはもっと複雑な例があります。 'A'が1である列 'B'から一意の値を探したいとします。

まず、重複を導入して、それがどのように機能するかを見てみましょう。 6行4列、B列列を4行に置き換えてみましょう。

In [24]: df.loc['4', 'B'] = 4    
Out[24]:    
   A  B
0  1  5
1  1  4
2  2  3
3  3  4
4  1  4
5  1  7

今すぐデータを選択してください：

In [25]: pd.unique(df[df['A'] == 1 ]['B']).tolist()
Out[25]: [5, 4, 7]

これは、内部のDataFrameを最初に考えることによって分解できます。

df['A'] == 1 

これにより、列Aの値が1になり、TrueまたはFalseが適用されます。これを使用して、DataFrame（外部DataFrame選択）の列 'B'から値を選択し、

比較のため、ここではユニークなものを使用しない場合のリストを示します。列 'A'が1の列 'B'のすべての値を取り出します

In [26]: df[df['A'] == 1]['B'].tolist()
Out[26]: [5, 4, 4, 7]