写一个爬虫: 1.网站地址:https://news.pdsu.edu.cn/xxyw.htm 2.获取底部分页页码 3.获取学校要闻中前三页的所有新闻的标题、链接和发布日期 4.将标题、链接和发布日期存入excel
时间: 2024-12-17 07:45:43 浏览: 21
为了编写一个爬虫,我们通常会使用Python的库,如`requests`用于发送HTTP请求,`BeautifulSoup`解析HTML内容,以及`pandas`处理Excel数据。下面是一个基本的步骤示例,使用了`scrapy`框架作为底层抓取工具:
首先安装必要的库:
```bash
pip install scrapy requests beautifulsoup4 pandas
```
然后创建一个新的Scrapy项目并生成一个基础的Spider:
```sh
scrapy startproject university_news_spider
cd university_news_spider
scrapy genspider news_pdsu "https://news.pdsu.edu.cn/xxyw.htm" www.pdsu.edu.cn
```
编辑`spiders/news_pdsu.py`文件:
```python
import scrapy
from bs4 import BeautifulSoup
from openpyxl import Workbook
class NewsPDSUSpider(scrapy.Spider):
name = 'news_pdsu'
allowed_domains = ['news.pdsu.edu.cn']
start_urls = ['https://news.pdsu.edu.cn/xxyw.htm']
def parse(self, response):
# 解析底部分页页码
page_links = response.css('div.pagination a::attr(href)').getall()
for link in page_links:
yield response.follow(link, self.parse_pages)
def parse_pages(self, response):
current_page = int(response.url.split('/')[-1])
# 获取前三页新闻列表
max_pages = min(3, len(page_links)) # 选择前3页
if current_page <= max_pages:
soup = BeautifulSoup(response.text, 'html.parser')
# 提取新闻信息
articles = soup.find_all('div', class_='list-item')
for article in articles[:max_pages * 10]: # 假设每页有10条新闻
title = article.find('h3').text
link = article.find('a')['href']
date = article.find('span', class_='time').text
yield {
'title': title,
'link': link,
'date': date,
}
# 如果还有更多页面,继续跟随下一页链接
next_page_link = response.css('li.next a::attr(href)').get()
if next_page_link is not None:
yield response.follow(next_page_link, self.parse_pages)
def store_to_excel(self, data):
wb = Workbook()
ws = wb.active
ws.append(['Title', 'Link', 'Publish Date'])
for item in data:
ws.append([item['title'], item['link'], item['date']])
wb.save('university_news.xlsx')
def closed(self, reason):
self.store_to_excel(self.exported_data)
print(f'Scraping completed. Data saved to university_news.xlsx')
# 在settings.py中启用存储功能
settings = {
'FEED_FORMAT': 'xlsx',
'FEED_URI': 'university_news.xlsx',
}
```
这个爬虫会遍历前三页的新闻,提取标题、链接和发布时间,并将结果保存到名为'university_news.xlsx'的Excel文件中。
请注意,实际网站的结构可能会有所不同,所以可能需要调整CSS选择器以匹配正确的元素。此外,一些网站可能有反爬虫机制,如验证码、IP限制等,这需要额外处理。
阅读全文