用python爬虫获取豆瓣评论
时间: 2023-11-18 19:02:27 浏览: 97
基于Python编写爬虫从豆瓣批量获取看过电影的用户列表并应用Python kNN算法预测用户性别含设计文档、数据源、源代码.rar
5星 · 资源好评率100%
您可以使用Python的requests库和BeautifulSoup库来爬取豆瓣评论。以下是一个简单的示例代码:
```python
import requests
from bs4 import BeautifulSoup
def crawl_comments(url):
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Safari/537.36'
}
response = requests.get(url, headers=headers)
soup = BeautifulSoup(response.text, 'html.parser')
comments = soup.find_all('span', class_='short')
for comment in comments:
print(comment.text)
url = 'https://movie.douban.com/subject/27619748/comments?status=P'
crawl_comments(url)
```
这段代码使用requests库发送GET请求,然后使用BeautifulSoup解析HTML页面。通过查看豆瓣电影评论页面的HTML结构,可以找到评论内容所在的标签和类名(这里使用的是`<span class="short">`),然后通过`find_all`方法找到所有评论的标签,并逐个打印出来。
请注意,为了模拟浏览器行为,我们在headers中设置了User-Agent。另外,豆瓣的网页结构可能会有变化,所以在实际使用时可能需要根据实际情况进行调整。
阅读全文