python爬虫爬取豆瓣影评
时间: 2023-07-11 19:56:52 浏览: 104
好的,下面是一个简单的Python爬虫爬取豆瓣电影《肖申克的救赎》的影评的示例代码:
```python
import requests
from bs4 import BeautifulSoup
url = 'https://movie.douban.com/subject/1292052/comments?status=P'
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
response = requests.get(url, headers=headers)
soup = BeautifulSoup(response.text, 'html.parser')
comments = soup.findAll('span', {'class': 'short'})
for comment in comments:
print(comment.getText())
```
这个代码使用了requests和BeautifulSoup库来爬取网页和解析网页内容。首先,我们定义了要爬取的网址和请求头。然后,我们使用requests库发送HTTP GET请求并获得响应。接着,我们使用BeautifulSoup库解析响应的HTML内容,并使用findAll方法找到所有的短评,并打印输出。
相关问题
python爬虫爬取豆瓣阅读
以下是一个使用Python爬虫爬取豆瓣阅读的示例:
1. 创建爬虫文件
在命令行中使用命令工具生成一个名为db_book的爬虫文件,该文件将用于爬取豆瓣阅读的数据。
2. 修改爬虫文件
在生成的爬虫文件(./spiders/db_book.py)中,修改parse方法如下:
```python
def parse(self, response):
file_name = 'douban_python'
with open(file_name, 'wb') as f:
f.write(response.body)
```
这段代码将爬取到的数据保存到名为douban_python的文件中。
3. 运行爬虫
运行爬虫文件,开始爬取豆瓣阅读的数据。
以上是一个简单的示例,你可以根据自己的需求进行进一步的修改和扩展。
python爬虫爬取豆瓣短评
Python爬虫是一种用于自动化获取网页数据的技术,而豆瓣短评是豆瓣网站用户对电影、图书等内容的简短评价。下面是使用Python爬虫爬取豆瓣短评的步骤:
1. 导入所需的库:首先,需要导入requests库用于发送HTTP请求,以及BeautifulSoup库用于解析HTML页面。
2. 发送HTTP请求:使用requests库发送GET请求,获取豆瓣电影页面的HTML内容。
3. 解析HTML页面:使用BeautifulSoup库解析HTML页面,提取出需要的信息,如电影名称、评分、评论等。
4. 翻页处理:豆瓣短评通常是分页显示的,可以通过修改URL参数来获取不同页数的短评内容。
5. 存储数据:将获取到的短评数据存储到本地文件或数据库中,以便后续分析和使用。
下面是一个简单的示例代码:
```python
import requests
from bs4 import BeautifulSoup
def get_comments(movie_id):
url = f'https://movie.douban.com/subject/{movie_id}/comments?start=0&limit=20&sort=new_score&status=P'
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
response = requests.get(url, headers=headers)
soup = BeautifulSoup(response.text, 'html.parser')
comments = soup.find_all('span', class_='short')
for comment in comments:
print(comment.text)
# 调用函数获取豆瓣电影《肖申克的救赎》的短评
get_comments('1292052')
```
相关推荐
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![-](https://csdnimg.cn/download_wenku/file_type_column_c1.png)
![-](https://csdnimg.cn/download_wenku/file_type_column_c1.png)
![-](https://csdnimg.cn/download_wenku/file_type_column_c1.png)
![-](https://csdnimg.cn/download_wenku/file_type_column_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)