Python对多属性的重复数据去重实例

(编辑:jimmy 日期: 2025/9/18 浏览:2)

python中的pandas模块中对重复数据去重步骤:

1)利用DataFrame中的duplicated方法返回一个布尔型的Series,显示各行是否有重复行,没有重复行显示为FALSE,有重复行显示为TRUE;

2)再利用DataFrame中的drop_duplicates方法用于返回一个移除了重复行的DataFrame。

注释:

如果duplicated方法和drop_duplicates方法中没有设置参数,则这两个方法默认会判断全部咧,如果在这两个方法中加入了指定的属性名(或者称为列名),例如:frame.drop_duplicates(['state']),则指定部分列(state列)进行重复项的判断。

具体实例如下:

> import pandas as pd 
> data={'state':[1,1,2,2],'pop':['a','b','c','d']} 
> frame=pd.DataFrame(data) 
> frame 
 pop state 
0 a  1 
1 b  1 
2 c  2 
3 d  2 
> IsDuplicated=frame.duplicated() 
> print IsDuplicated 
0 False 
1 False 
2 False 
3 False 
dtype: bool 
> frame=frame.drop_duplicates(['state']) 
> frame 
 pop state 
0 a  1 
2 c  2 
> IsDuplicated=frame.duplicated(['state']) 
> print IsDuplicated 
0 False 
2 False 
dtype: bool 
> 

以上这篇Python对多属性的重复数据去重实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。

一句话新闻
高通与谷歌联手!首款骁龙PC优化Chrome浏览器发布
高通和谷歌日前宣布,推出首次面向搭载骁龙的Windows PC的优化版Chrome浏览器。
在对骁龙X Elite参考设计的初步测试中,全新的Chrome浏览器在Speedometer 2.1基准测试中实现了显著的性能提升。
预计在2024年年中之前,搭载骁龙X Elite计算平台的PC将面世。该浏览器的提前问世,有助于骁龙PC问世就获得满血表现。
谷歌高级副总裁Hiroshi Lockheimer表示,此次与高通的合作将有助于确保Chrome用户在当前ARM兼容的PC上获得最佳的浏览体验。