用jupyter抓取豆瓣电影top250数据
时间: 2023-11-28 10:06:05 浏览: 263
基于python抓取豆瓣电影TOP250的数据及进行分析.zip
5星 · 资源好评率100%
您可以使用以下代码使用Jupyter Notebook来抓取豆瓣电影Top250的数据:
```python
import requests
from bs4 import BeautifulSoup
import pandas as pd
# 设置请求头,模拟浏览器访问
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.82 Safari/537.36'
}
# 创建空的DataFrame保存数据
df = pd.DataFrame(columns=['电影名称', '评分', '评价人数'])
# 循环获取每一页的数据
for i in range(0, 250, 25):
url = f'https://movie.douban.com/top250?start={i}&filter='
response = requests.get(url, headers=headers)
soup = BeautifulSoup(response.text, 'html.parser')
# 获取每个电影的信息
movie_list = soup.find(class_='grid_view').find_all('li')
for movie in movie_list:
name = movie.find(class_='title').text.strip()
rating = movie.find(class_='rating_num').text.strip()
votes = movie.find(class_='star').find_all('span')[3].text.strip('人评价')
# 将电影信息添加到DataFrame中
df = df.append({'电影名称': name, '评分': rating, '评价人数': votes}, ignore_index=True)
# 保存数据为CSV文件
df.to_csv('douban_top250.csv', index=False)
```
上述代码会抓取豆瓣电影Top250的电影名称、评分和评价人数,并将数据保存为名为"douban_top250.csv"的CSV文件。您可以根据需要修改代码以适应您的实际需求。
阅读全文