python中csv文件如何去重

时间: 2024-05-05 17:19:13 浏览: 381
您可以使用Python中的pandas库来去重csv文件。以下是一个示例代码: ```python import pandas as pd # 读取csv文件 df = pd.read_csv('example.csv') # 去重 df.drop_duplicates(inplace=True) # 保存文件 df.to_csv('example_clean.csv', index=False) ``` 这将打开csv文件,去重所有行,然后将结果保存在新文件example_clean.csv中。通过设置 `inplace=True` 参数,原始数据框将被修改,而不是创建一个新的数据框。如果您想根据特定的列或组合列进行去重,请使用 `subset` 参数。例如, `df.drop_duplicates(subset=['col1', 'col2'], inplace=True)` 只会在 `col1` 和 `col2` 的值都相同时删除行。
阅读全文

相关推荐