使用python爬虫获取豆瓣top10
时间: 2024-03-15 07:34:28 浏览: 63
好的,以下是获取豆瓣电影Top10的Python爬虫代码:
```python
import requests
from bs4 import BeautifulSoup
url = 'https://movie.douban.com/top250'
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
r = requests.get(url, headers=headers)
soup = BeautifulSoup(r.text, 'html.parser')
movie_list = soup.find('ol', class_='grid_view').find_all('li')
for movie in movie_list:
title = movie.find('span', class_='title').text
rating = movie.find('span', class_='rating_num').text
print(title, rating)
```
代码解析:
1. 首先,我们需要导入requests库和BeautifulSoup库
2. 然后,我们定义了目标URL和请求头headers
3. 接着,我们发送了一个GET请求,并使用BeautifulSoup解析了返回的HTML页面
4. 我们使用find方法找到了包含电影列表的ol标签,并从中提取了每个电影的li标签
5. 最后,我们循环遍历了每个电影,并使用find方法从中提取了电影的标题和评分,并将它们输出到控制台上。
希望对你有所帮助!
阅读全文