python 两个txt文档去除重复数据
时间: 2023-12-15 22:06:35 浏览: 81
Python过滤txt文件内重复内容的方法
可以使用以下代码来实现两个文本文件去重:
```python
with open('file1.txt', 'r') as f1, open('file2.txt', 'r') as f2:
file1_lines = set(f1.readlines())
file2_lines = set(f2.readlines())
# 去除重复数据
unique_lines = file1_lines.union(file2_lines)
# 写入新文件
with open('output.txt', 'w') as output_file:
for line in unique_lines:
output_file.write(line)
```
这段代码打开两个文本文件,读取文件内容并使用`set`去除重复数据。然后将两个文本文件的唯一行合并为一个集合,并将其写入一个新文件中。
阅读全文