python爬取豆瓣电影top250存入csv并数据可视化

时间: 2023-08-05 20:51:12 浏览: 30
好的,我可以为您提供一个大致的思路: 1.使用Python的requests和BeautifulSoup库爬取豆瓣电影top250的页面数据,提取出电影的名称、评分、导演、主演、年份、地区、类型等信息。 2.将提取出的电影信息存储到CSV文件中,可以使用Python的csv库。 3.使用Python的pandas库读取CSV文件,进行数据清洗和处理,如去重、填充空值等。 4.使用Python的matplotlib库或seaborn库进行数据可视化,实现电影评分分布图、电影类型占比图、电影地区分布图等。 下面是一个简单的示例代码,仅供参考: ```python import requests from bs4 import BeautifulSoup import csv import pandas as pd import matplotlib.pyplot as plt # 爬取豆瓣电影top250的页面数据 url = 'https://movie.douban.com/top250' headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'} response = requests.get(url, headers=headers) soup = BeautifulSoup(response.text, 'html.parser') # 提取电影信息并存储到CSV文件中 movies = [] for item in soup.find_all('div', class_='item'): movie = [] movie.append(item.find('span', class_='title').text) movie.append(item.find('span', class_='rating_num').text) movie.append(item.find('p', class_='').text.strip().split('\n')[0].split(':')[-1]) movie.append(item.find('p', class_='').text.strip().split('\n')[1].strip().split('/')[0]) movie.append(item.find('p', class_='').text.strip().split('\n')[1].strip().split('/')[1]) movie.append(item.find('p', class_='').text.strip().split('\n')[1].strip().split('/')[2]) movie.append(item.find('p', class_='').text.strip().split('\n')[1].strip().split('/')[3]) movies.append(movie) with open('movies.csv', 'w', newline='', encoding='utf-8') as f: writer = csv.writer(f) writer.writerow(['电影名称', '电影评分', '导演', '主演', '年份', '地区', '类型']) for movie in movies: writer.writerow(movie) # 读取CSV文件,进行数据清洗和处理 df = pd.read_csv('movies.csv') df = df.drop_duplicates(subset=['电影名称']) df['年份'] = df['年份'].str.strip() df['类型'] = df['类型'].str.strip() # 数据可视化 # 电影评分分布图 plt.hist(df['电影评分'], bins=20) plt.xlabel('电影评分') plt.ylabel('电影数量') plt.show() # 电影类型占比图 df['类型'].value_counts().plot(kind='pie', autopct='%1.1f%%') plt.axis('equal') plt.legend(bbox_to_anchor=(1.2, 1)) plt.show() # 电影地区分布图 df['地区'].value_counts().plot(kind='bar') plt.xlabel('地区') plt.ylabel('电影数量') plt.show() ``` 以上代码仅提供了基本的爬取、数据处理和数据可视化功能,您可以根据自己的需求进行修改和优化。

相关推荐

最新推荐

电力及公用事业行业月报月第二产业用电量及水电发电量回暖我国国民经济恢复向好-16页.pdf.zip

电力及公用事业、电子设备与新能源类报告 文件类型:PDF 打开方式:直接解压,无需密码

ChatGPT技术在金融领域中的智能客户服务和投资咨询应用场景分析.docx

ChatGPT技术在金融领域中的智能客户服务和投资咨询应用场景分析

py直接运行,2023国家统计局全国省市区县乡镇街道居委会五级区划数据,包括数据库,以及所生成的excel,包括py代码资源

py直接运行,2023国家统计局全国省市区县乡镇街道居委会五级区划数据,包括数据库,以及所生成的excel,包括py代码资源

地产行业周报南京拉开强二线取消限购序幕关注金九银十成色-19页.pdf.zip

行业报告 文件类型:PDF格式 打开方式:直接解压,无需密码

电力设备及新能源行业周报隆基明确电池技术产业进程有望提速-10页.pdf.zip

电力及公用事业、电子设备与新能源类报告 文件类型:PDF 打开方式:直接解压,无需密码

安全文明监理实施细则_工程施工土建监理资料建筑监理工作规划方案报告_监理实施细则.ppt

安全文明监理实施细则_工程施工土建监理资料建筑监理工作规划方案报告_监理实施细则.ppt

"REGISTOR:SSD内部非结构化数据处理平台"

REGISTOR:SSD存储裴舒怡,杨静,杨青,罗德岛大学,深圳市大普微电子有限公司。公司本文介绍了一个用于在存储器内部进行规则表达的平台REGISTOR。Registor的主要思想是在存储大型数据集的存储中加速正则表达式(regex)搜索,消除I/O瓶颈问题。在闪存SSD内部设计并增强了一个用于regex搜索的特殊硬件引擎,该引擎在从NAND闪存到主机的数据传输期间动态处理数据为了使regex搜索的速度与现代SSD的内部总线速度相匹配,在Registor硬件中设计了一种深度流水线结构,该结构由文件语义提取器、匹配候选查找器、regex匹配单元(REMU)和结果组织器组成。此外,流水线的每个阶段使得可能使用最大等位性。为了使Registor易于被高级应用程序使用,我们在Linux中开发了一组API和库,允许Registor通过有效地将单独的数据块重组为文件来处理SSD中的文件Registor的工作原

typeerror: invalid argument(s) 'encoding' sent to create_engine(), using con

这个错误通常是由于使用了错误的参数或参数格式引起的。create_engine() 方法需要连接数据库时使用的参数,例如数据库类型、用户名、密码、主机等。 请检查你的代码,确保传递给 create_engine() 方法的参数是正确的,并且符合参数的格式要求。例如,如果你正在使用 MySQL 数据库,你需要传递正确的数据库类型、主机名、端口号、用户名、密码和数据库名称。以下是一个示例: ``` from sqlalchemy import create_engine engine = create_engine('mysql+pymysql://username:password@hos

数据库课程设计食品销售统计系统.doc

数据库课程设计食品销售统计系统.doc

海量3D模型的自适应传输

为了获得的目的图卢兹大学博士学位发布人:图卢兹国立理工学院(图卢兹INP)学科或专业:计算机与电信提交人和支持人:M. 托马斯·福吉奥尼2019年11月29日星期五标题:海量3D模型的自适应传输博士学校:图卢兹数学、计算机科学、电信(MITT)研究单位:图卢兹计算机科学研究所(IRIT)论文主任:M. 文森特·查维拉特M.阿克塞尔·卡里尔报告员:M. GWendal Simon,大西洋IMTSIDONIE CHRISTOPHE女士,国家地理研究所评审团成员:M. MAARTEN WIJNANTS,哈塞尔大学,校长M. AXEL CARLIER,图卢兹INP,成员M. GILLES GESQUIERE,里昂第二大学,成员Géraldine Morin女士,图卢兹INP,成员M. VINCENT CHARVILLAT,图卢兹INP,成员M. Wei Tsang Ooi,新加坡国立大学,研究员基于HTTP的动态自适应3D流媒体2019年11月29日星期五,图卢兹INP授予图卢兹大学博士学位,由ThomasForgione发表并答辩Gilles Gesquière�