用python抓取豆瓣电影top250,写入数据库,并实现可视化

时间: 2023-08-15 20:33:48 浏览: 55
好的,以下是抓取豆瓣电影Top250并写入数据库的Python代码: ```python import requests from bs4 import BeautifulSoup import sqlite3 url = 'https://movie.douban.com/top250' headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'} movies = [] for i in range(0, 250, 25): params = {'start': str(i), 'filter': ''} response = requests.get(url, headers=headers, params=params) soup = BeautifulSoup(response.text, 'html.parser') movie_list = soup.find('ol', class_='grid_view').find_all('li') for movie in movie_list: title = movie.find('span', class_='title').text rating_num = movie.find('span', class_='rating_num').text quote = movie.find('span', class_='inq').text if movie.find('span', class_='inq') else '' movies.append({'title': title, 'rating_num': rating_num, 'quote': quote}) conn = sqlite3.connect('movies.db') cursor = conn.cursor() cursor.execute('CREATE TABLE IF NOT EXISTS top250 (title TEXT, rating_num REAL, quote TEXT)') for movie in movies: cursor.execute('INSERT INTO top250 (title, rating_num, quote) VALUES (?, ?, ?)', (movie['title'], movie['rating_num'], movie['quote'])) conn.commit() conn.close() ``` 这段代码会使用 requests 库向豆瓣电影Top250的网站发送请求,然后使用 BeautifulSoup 库对网页进行解析,最后把电影的标题、评分和引用语存储到 SQLite 数据库中。 接下来是实现可视化的Python代码,使用了 Matplotlib 库: ```python import sqlite3 import matplotlib.pyplot as plt conn = sqlite3.connect('movies.db') cursor = conn.cursor() cursor.execute('SELECT rating_num, COUNT(*) FROM top250 GROUP BY rating_num') data = cursor.fetchall() conn.close() x = [d[0] for d in data] y = [d[1] for d in data] plt.bar(x, y) plt.xlabel('Rating') plt.ylabel('Count') plt.title('Top 250 Movies on Douban') plt.show() ``` 这段代码会从 SQLite 数据库中读取每个评分的电影数量,然后使用 Matplotlib 库绘制条形图来展示。运行后会弹出一个可视化窗口,展示所有评分的电影数量。

相关推荐

最新推荐

recommend-type

【Python】豆瓣电影TOP250数据规律分析(Pearson相关系数、折线图、条形图、直方图)

1、数据集预览 原创文章 113获赞 137访问量 7万+ 关注 私信 展开阅读全文 作者:Vivid-victory
recommend-type

Python爬取数据并实现可视化代码解析

主要介绍了Python爬取数据并实现可视化代码解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
recommend-type

Python实现读写sqlite3数据库并将统计数据写入Excel的方法示例

主要介绍了Python实现读写sqlite3数据库并将统计数据写入Excel的方法,涉及Python针对sqlite3数据库的读取及Excel文件相关操作技巧,需要的朋友可以参考下
recommend-type

python实现可视化动态CPU性能监控

主要为大家详细介绍了python可视化动态CPU性能监控,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
recommend-type

Python3实现将本地JSON大数据文件写入MySQL数据库的方法

主要介绍了Python3实现将本地JSON大数据文件写入MySQL数据库的方法,涉及Python针对json大数据文件的逐行读取、mysql数据库写入等相关操作技巧,需要的朋友可以参考下
recommend-type

zigbee-cluster-library-specification

最新的zigbee-cluster-library-specification说明文档。
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

实现实时数据湖架构:Kafka与Hive集成

![实现实时数据湖架构:Kafka与Hive集成](https://img-blog.csdnimg.cn/img_convert/10eb2e6972b3b6086286fc64c0b3ee41.jpeg) # 1. 实时数据湖架构概述** 实时数据湖是一种现代数据管理架构,它允许企业以低延迟的方式收集、存储和处理大量数据。与传统数据仓库不同,实时数据湖不依赖于预先定义的模式,而是采用灵活的架构,可以处理各种数据类型和格式。这种架构为企业提供了以下优势: - **实时洞察:**实时数据湖允许企业访问最新的数据,从而做出更明智的决策。 - **数据民主化:**实时数据湖使各种利益相关者都可
recommend-type

用matlab绘制高斯色噪声情况下的频率估计CRLB,其中w(n)是零均值高斯色噪声,w(n)=0.8*w(n-1)+e(n),e(n)服从零均值方差为se的高斯分布

以下是用matlab绘制高斯色噪声情况下频率估计CRLB的代码: ```matlab % 参数设置 N = 100; % 信号长度 se = 0.5; % 噪声方差 w = zeros(N,1); % 高斯色噪声 w(1) = randn(1)*sqrt(se); for n = 2:N w(n) = 0.8*w(n-1) + randn(1)*sqrt(se); end % 计算频率估计CRLB fs = 1; % 采样频率 df = 0.01; % 频率分辨率 f = 0:df:fs/2; % 频率范围 M = length(f); CRLB = zeros(M,1); for
recommend-type

JSBSim Reference Manual

JSBSim参考手册,其中包含JSBSim简介,JSBSim配置文件xml的编写语法,编程手册以及一些应用实例等。其中有部分内容还没有写完,估计有生之年很难看到完整版了,但是内容还是很有参考价值的。