python爬虫爬取豆瓣评论
时间: 2023-10-11 18:07:52 浏览: 12
python关于豆瓣评论的爬虫
好的,以下是一个简单的示例代码,使用Python和requests库爬取豆瓣电影《肖申克的救赎》的评论:
```
import requests
from bs4 import BeautifulSoup
url = 'https://movie.douban.com/subject/1292052/comments?status=P'
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'
}
r = requests.get(url, headers=headers)
soup = BeautifulSoup(r.text, 'html.parser')
comments = soup.find_all('span', class_='short')
for comment in comments:
print(comment.string)
```
其中,我们首先设置了请求头部信息,以避免被豆瓣反爬虫机制禁止访问。接着,我们使用requests库发送GET请求获取页面,然后使用BeautifulSoup解析页面,提取评论信息,最后打印出来。
阅读全文