用爬虫获取豆瓣电影的评分
时间: 2024-04-23 09:07:58 浏览: 15
好的,您可以使用 Python 的 requests 库和 BeautifulSoup 库来实现爬取豆瓣电影的评分。
以下是一个简单的示例代码:
```python
import requests
from bs4 import BeautifulSoup
url = 'https://movie.douban.com/top250'
response = requests.get(url)
soup = BeautifulSoup(response.text, 'html.parser')
movies = soup.select('.info')
for movie in movies:
title = movie.select_one('.title').text.strip()
rating = movie.select_one('.rating_num').text.strip()
print(f'{title} 的评分是:{rating}')
```
这段代码会爬取豆瓣电影 Top250 页面的电影信息,并输出每部电影的名称和评分。您可以根据需要修改代码以适应您的具体需求。
相关问题
爬虫豆瓣热门电影评分
以下是爬取豆瓣电影TOP250并获取评分的Python爬虫代码:
```python
import requests
from bs4 import BeautifulSoup
url = 'https://movie.douban.com/top250'
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
response = requests.get(url, headers=headers)
soup = BeautifulSoup(response.text, 'html.parser')
movies = soup.find_all('div', class_='info')
for movie in movies:
title = movie.find('span', class_='title').get_text()
rating = movie.find('span', class_='rating_num').get_text()
print(title, rating)
```
这段代码使用requests库向豆瓣电影TOP250的网页发送请求,并使用BeautifulSoup库解析网页内容。然后,它找到每个电影的标题和评分,并将它们打印出来。
如果您想将这些数据保存到Excel中,可以使用Python的pandas库。以下是一个示例代码:
```python
import requests
from bs4 import BeautifulSoup
import pandas as pd
url = 'https://movie.douban.com/top250'
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
response = requests.get(url, headers=headers)
soup = BeautifulSoup(response.text, 'html.parser')
movies = soup.find_all('div', class_='info')
data = []
for movie in movies:
title = movie.find('span', class_='title').get_text()
rating = movie.find('span', class_='rating_num').get_text()
data.append([title, rating])
df = pd.DataFrame(data, columns=['Title', 'Rating'])
df.to_excel('top250.xlsx', index=False)
```
这段代码与前面的代码类似,但它将数据存储在一个列表中,然后使用pandas库将其转换为DataFrame对象。最后,它将DataFrame对象保存到Excel文件中。
帮我写一个爬虫获取豆瓣电影top250
好的,以下是一个使用 Python 编写的爬虫程序,可以获取豆瓣电影 Top250 的电影名称、评分和电影详情链接:
```python
import requests
from bs4 import BeautifulSoup
url = 'https://movie.douban.com/top250'
def get_movies(url):
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
response = requests.get(url, headers=headers)
soup = BeautifulSoup(response.text, 'html.parser')
movies_list = soup.find('ol', class_='grid_view').find_all('li')
movies = []
for movie in movies_list:
title = movie.find('span', class_='title').text
rating = movie.find('span', class_='rating_num').text
link = movie.find('a').get('href')
movies.append({
'title': title,
'rating': rating,
'link': link
})
return movies
movies = []
for i in range(0, 250, 25):
url = f'https://movie.douban.com/top250?start={i}&filter='
movies.extend(get_movies(url))
for movie in movies:
print(movie['title'], movie['rating'], movie['link'])
```
这个程序使用 requests 库获取网页内容,使用 BeautifulSoup 库解析HTML标签,将获取到的电影信息存储在一个列表中,并最终输出电影名称、评分和电影详情链接。您可以将程序保存为 Python 文件并运行,即可获取豆瓣电影 Top250 的电影信息。