pandas数据去重代码
时间: 2024-01-11 20:22:33 浏览: 183
以下是使用pandas进行数据去重的代码示例:
```python
import pandas as pd
# 创建DataFrame
data = pd.DataFrame({'G1': ['a', 'b', 'b', 'a', 'c', 'd', 'd', 'c', 'e', 'f'],
'G2': ['b', 'a', 'c', 'd', 'd', 'c', 'e', 'f', 'g', 'h']})
# 执行去重操作
data.drop_duplicates(inplace=True)
# 输出去重后的结果
print(data)
```
执行以上代码后,将得到以下结果:
```
G1 G2
0 a b
b a
2 c d
3 d c
4 e f
5 f g
6 g h
```
这段代码使用了pandas的`drop_duplicates`函数,通过设置`inplace=True`参数,直接在原始DataFrame上进行去重操作。去重后的结果将会保留第一次出现的元素,后续重复的元素将会被删除。
相关问题
pandas数据去重的代码
`pandas`库中的`drop_duplicates()`函数可以用于去除数据框中的重复行。该函数有多个参数,可以根据需要进行选择。
下面是一个简单的去重示例代码:
```python
import pandas as pd
# 读取csv文件
df = pd.read_csv('data.csv')
# 去除重复行
df.drop_duplicates(inplace=True)
# 保存为csv文件
df.to_csv('new_data.csv', index=False)
```
其中,`inplace=True`表示在原数据框上直接进行操作,不需要重新赋值。如果需要保留原数据框,则需要将`inplace=True`改为`inplace=False`,或者不写该参数。
该函数默认对所有列进行比较,可以通过`subset`参数来指定需要比较的列,例如:
```python
df.drop_duplicates(subset=['column_name_1', 'column_name_2'], inplace=True)
```
该代码将只对`column_name_1`和`column_name_2`列进行比较,如果这两列的值都相同,则被视为重复行。
注意:去重操作会改变数据框中的数据顺序,因此需要根据具体情况进行操作。
python pandas 数据去重
在Python中,使用pandas库可以很方便地进行数据去重操作。下面是三种常见的方法:
1. 使用`drop_duplicates`方法:这个方法适用于DataFrame格式的数据,可以去除指定列下的重复行。具体代码如下:
```python
import pandas as pd
# 读取数据
df = pd.read_excel('666.xlsx')
# 去重
df.drop_duplicates(subset=['ASIN'], keep='first', inplace=True)
# 打印去重后的数据
print(df)
```
引用自
2. 使用`drop_duplicates`方法:这个方法同样适用于DataFrame格式的数据。具体代码如下:
```python
import pandas as pd
# 读取数据
csv = pd.read_csv('E:/aaa/03.csv', low_memory=False, error_bad_lines=False)
df = pd.DataFrame(csv)
# 打印原始数据行数
print(df.shape)
# 去重
f = df.drop_duplicates(keep=False)
# 打印去重后的数据行数
print(f.shape)
# 将去重后的数据写入新文件
f.to_csv('E:/aaa/distionct_03.csv', index=None)
```
引用自
总结起来,以上两种方法都是使用pandas的`drop_duplicates`方法来进行数据去重。第一种方法是针对Excel文件,第二种方法是针对CSV文件。根据你的具体需求选择其中的一种方法即可。<span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
- *1* [pandas怎么去除数据中的重复值](https://blog.csdn.net/Leexin_love_Ling/article/details/114024136)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]
- *2* *3* [python数据去重(pandas)](https://blog.csdn.net/qq_39012566/article/details/98633780)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]
[ .reference_list ]
阅读全文