import requests from lxml import etree import os # 发送请求并获取HTML url = 'http://www.kanunu8.com/book3/6879/' response = requests.get(url) html_string = response.content.decode('gbk') #print(html_string) # 将HTML字符串转换为etree对象 root = etree.HTML(html_string) print(root) # 获取章节列表 chapter_list = root.xpath(u'//tr[@bgcolor="#ffffff"]/td') print(chapter_list) # 循环获取每个章节的内容 for chapter in chapter_list: chapter = chapter.xpath('./a/@href') chapter_url = url + chapter[0] print(chapter_url) response = requests.get(chapter_url) chapter_html_string = response.content.decode('gbk') print("---------") print(chapter_html_string) chapter_root = etree.HTML(chapter_html_string) print(chapter_root) title = chapter_root.xpath('//tr/td[@bgcolor="#FFFFFF"]/strong/font/text()')[0] content_list = chapter_root.xpath('//tr/td[@bgcolor="#FFFFFF"]/p/text()') #text_block = content_list.replace('<br />', '') #content = ''.join(content_list) print("---------------------") print(title) print(content_list) os.makedirs('动物农场', exist_ok=True) with open(os.path.join('动物农场', title + '.txt'), 'w', encoding='utf-8') as f: f.write(content_list)
时间: 2024-04-25 09:26:16 浏览: 11
这段代码的作用是爬取一个小说网站的小说内容,并将每个章节的内容写入到以章节标题命名的txt文件中。但是,代码中存在一些问题,需要进行修改:
1. 网站的编码方式是gbk,所以需要将response.content进行解码。但是,在这个例子中,解码使用的是“decode('gbk')”,这种方式可能会出现乱码。建议使用response.apparent_encoding来获取正确的编码方式,然后使用“response.content.decode(正确的编码方式)”进行解码。
2. 在获取章节内容时,使用了“//tr/td[@bgcolor="#FFFFFF"]/p/text()”这个xpath表达式,但是这个表达式只能获取到p标签中的第一个文本节点,而小说内容通常会包含多个p标签,所以只用这个表达式获取内容是不完整的。建议使用“//tr/td[@bgcolor='#FFFFFF']//text()”这个xpath表达式获取内容。
3. 在写入txt文件时,使用的是“f.write(content_list)”这个语句,但是content_list是一个列表,不能直接写入到txt文件中。建议将列表中的每个元素都写入到txt文件中,或者先将列表转换为字符串,再写入到txt文件中。
修改后的代码如下:
```python
import requests
from lxml import etree
import os
# 发送请求并获取HTML
url = 'http://www.kanunu8.com/book3/6879/'
response = requests.get(url)
response.encoding = response.apparent_encoding
html_string = response.text
# 将HTML字符串转换为etree对象
root = etree.HTML(html_string)
# 获取章节列表
chapter_list = root.xpath('//tr[@bgcolor="#ffffff"]/td')
# 循环获取每个章节的内容
for chapter in chapter_list:
chapter = chapter.xpath('./a/@href')
chapter_url = url + chapter[0]
response = requests.get(chapter_url)
response.encoding = response.apparent_encoding
chapter_html_string = response.text
chapter_root = etree.HTML(chapter_html_string)
title = chapter_root.xpath('//tr/td[@bgcolor="#FFFFFF"]/strong/font/text()')[0]
content_list = chapter_root.xpath('//tr/td[@bgcolor="#FFFFFF"]//text()')
content = ''.join(content_list)
os.makedirs('动物农场', exist_ok=True)
with open(os.path.join('动物农场', title + '.txt'), 'w', encoding='utf-8') as f:
f.write(content)
```
希望这个修改后的代码能对你有所帮助。如果你有其他问题,请随时问我。