使用requests或urllib库,以及bs4库爬取https://www.gdqy.edu.cn/gqxw1.htm网页内容。 爬取包括: 1、广轻新闻,即从以下入口进去的所有新闻 爬取的新闻内容以及保存方式: 1、爬取的内容 所有新闻只抽取有效的“标题”,“正文”文本内容,以及本新闻的url地址,其他内容忽略。 2、保存形式 将所有爬取的内容保存到gdqy目录中。 每条新闻保存到一个文件中,文件名以递增数字为文件名,后缀为.txt。比如第一条新闻保存到1.txt,第二条保存到2.txt。 在保存的文件中,第一行为url地址,第二行为标题(如无标题则是空行),第三行及之后是此新闻的正文内容。
时间: 2024-04-03 11:36:24 浏览: 36
好的,我已经了解您的要求。这是一个简单的Python爬虫项目,需要用到requests、urllib和BeautifulSoup(bs4)库。您可以在终端或命令行中输入以下命令来安装这些库:
```
pip install requests
pip install urllib
pip install bs4
```
接下来,您可以使用以下代码来爬取并保存网页内容:
```python
import requests
from bs4 import BeautifulSoup
url = 'https://www.gdqy.edu.cn/gqxw1.htm'
response = requests.get(url)
html = response.content
soup = BeautifulSoup(html, 'html.parser')
# 获取所有新闻链接
news_links = [a['href'] for a in soup.find_all('a', class_='tit')]
# 爬取并保存每条新闻
for i, link in enumerate(news_links):
news_url = url.rsplit('/', 1)[0] + '/' + link # 构造新闻链接
news_response = requests.get(news_url)
news_html = news_response.content
news_soup = BeautifulSoup(news_html, 'html.parser')
# 获取新闻标题和正文内容
title = news_soup.find('h1').text
content = '\n'.join([p.text.strip() for p in news_soup.find_all('div', class_='TRS_Editor')[0].find_all('p')])
# 保存新闻内容到文件
with open(f'gdqy/{i+1}.txt', 'w', encoding='utf-8') as f:
f.write(news_url + '\n')
f.write(title + '\n')
f.write(content)
```
这段代码会先获取https://www.gdqy.edu.cn/gqxw1.htm页面中所有新闻的链接,然后遍历每个链接,爬取对应新闻的标题和正文内容,并将它们保存到以递增数字为文件名的txt文件中,文件保存在gdqy目录中。
希望能帮助到您!
阅读全文