python爬虫爬去豆瓣电影
时间: 2023-10-01 10:05:26 浏览: 131
好的,你需要使用Python中的requests和BeautifulSoup库来实现爬取豆瓣电影的功能。以下是基本的爬取流程:
1. 使用requests库向豆瓣电影的网页发送请求并获取响应内容,
2. 使用BeautifulSoup库解析网页内容,提取需要的电影信息,
3. 将提取的电影信息存储到本地文件或数据库中。
下面是一个简单的例子:
```python
import requests
from bs4 import BeautifulSoup
url = 'https://movie.douban.com/top250'
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
response = requests.get(url, headers=headers)
soup = BeautifulSoup(response.text, 'html.parser')
for movie in soup.select('.info'):
title = movie.select_one('.title').text.strip()
score = movie.select_one('.rating_num').text.strip()
print(title, score)
```
该例子爬取了豆瓣电影排行榜前250部电影的标题和评分信息,并打印输出。你可以根据需要修改代码来获取更多的电影信息,比如导演、演员、上映日期等等。
阅读全文