python爬取豆瓣海报

要使用Python爬取豆瓣电影海报，你可以通过以下步骤实现：

1. 使用urllib库中的request模块发送请求并获取豆瓣电影网页的源代码。

2. 使用BeautifulSoup库解析源代码，以便查找需要的信息。可以使用find方法找到class为"list-wp"的div标签，它包含了电影海报的信息。

3. 提取所需的数据，例如电影海报的图片链接、电影名称等。

这是一个实现上述步骤的简单示例代码：

from bs4 import BeautifulSoup
from urllib import request

url = "https://movie.douban.com/"

def get_html():
    req = request.urlopen(url)
    return req.read().decode('utf-8')

def get_movie_list(html):
    soup = BeautifulSoup(html, 'lxml')
    movie_list = soup.find('div', 'list-wp')
    return movie_list

if __name__ == "__main__":
    html = get_html()
    movie_list = get_movie_list(html)
    print(movie_list)

相关问题

python爬取豆瓣电影海报导演

### 使用Python从豆瓣网爬取电影海报图片和导演数据

为了实现这一目标，可以采用`requests`库发送HTTP请求并接收响应，再利用`BeautifulSoup`解析HTML文档提取所需的信息。下面展示一段用于获取单页内所有电影的海报链接及导演名字的方法。

import requests
from bs4 import BeautifulSoup

def fetch_movie_info(url):
    headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64)',
    }
    
    response = requests.get(url, headers=headers)
    soup = BeautifulSoup(response.text, "html.parser")

    items = []
    for item in soup.select('div.item'):
        poster_url = item.find('img')['src']
        director_name = item.select_one('.bd p').get_text().split('\n')[1].strip().split('/')[0]

        items.append((poster_url, director_name))
        
    return items

此函数会返回一个列表，其中包含了每部影片对应的元组，每个元组里存储着该片的封面图URL地址以及其创作者姓名[^1]。

对于多页面的情况，则需构建循环机制遍历各个分页链接，从而收集完整的资料集。考虑到反爬虫策略的存在，在连续访问不同网页之间加入适当的时间间隔是有必要的，这可以通过调用`time.sleep()`方法来达成目的[^3]。

最后，如果希望保存所获得的图像文件到本地磁盘上，可借助于如下所示的小段代码：

for idx, info in enumerate(items, start=1):
    img_data = requests.get(info[0]).content
    
    with open(f'./posters/{idx}.jpg', 'wb') as handler:
        handler.write(img_data)

print("Download completed.")

上述操作能够确保下载下来的每一幅画作都被赋予独一无二的名字，并存放在指定路径下以便后续查阅或进一步处理[^2]。

python re模块爬取豆瓣250海报

以下是使用Python re模块爬取豆瓣250电影海报的代码：

import requests
import re

# 获取网页内容
url = 'https://movie.douban.com/top250'
response = requests.get(url)
content = response.text

# 使用正则表达式匹配海报链接
pattern = re.compile(r'<img.*?src="(.*?)"', re.S)
results = re.findall(pattern, content)

# 下载海报
for i, result in enumerate(results):
    response = requests.get(result)
    with open(f'{i}.jpg', 'wb') as f:
        f.write(response.content)

该代码首先使用requests模块获取豆瓣电影Top250的网页内容，然后使用正则表达式匹配出所有海报的链接，最后使用requests模块下载海报并保存到本地。