用python写一个爬虫爬取全国大学排行榜
时间: 2023-06-16 17:06:12 浏览: 173
好的,首先我们需要确定爬取的网站和页面结构。常见的大学排行榜网站有教育部、QS排名、ARWU排名等。这里以教育部的大学排名为例,其网址为http://www.moe.gov.cn/jyb_sjzl/sjzl_fztjgb/dl/dl_yjs/sblxdy/fwd/202108/t20210827_556770.html。
接下来,我们需要使用Python中的Requests库和BeautifulSoup库进行爬取和解析。具体代码如下:
```python
import requests
from bs4 import BeautifulSoup
# 设置请求头
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
# 发送请求
response = requests.get('http://www.moe.gov.cn/jyb_sjzl/sjzl_fztjgb/dl/dl_yjs/sblxdy/fwd/202108/t20210827_556770.html', headers=headers)
# 解析HTML
soup = BeautifulSoup(response.text, 'html.parser')
# 定位表格
table = soup.find('table', {'class': 'MsoNormalTable'})
# 遍历表格行
for tr in table.find_all('tr'):
# 提取每行数据
td_list = tr.find_all('td')
if len(td_list) > 0:
rank = td_list[0].text.strip()
name = td_list[1].text.strip()
location = td_list[2].text.strip()
level = td_list[3].text.strip()
type = td_list[4].text.strip()
# 输出结果
print(rank, name, location, level, type)
```
运行以上代码,即可输出全国大学排行榜的数据。需要注意的是,不同的网站页面结构不同,需要根据具体情况进行解析。
阅读全文