python根据网址页码分页爬取大麦网,使用__init__()

时间: 2023-10-23 09:09:51 浏览: 63
如果你想将网址和页码作为参数传递给类的初始化函数 `__init__()`,可以按照以下方式修改代码: ```python import requests from bs4 import BeautifulSoup class DamaiSpider: def __init__(self, keyword, num_pages): self.keyword = keyword self.num_pages = num_pages self.base_url = f"https://search.damai.cn/search.htm?keyword={keyword}" self.headers = { "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Safari/537.36" } def get_concert_info(self, page): url = f"{self.base_url}&currPage={page}" response = requests.get(url, headers=self.headers) soup = BeautifulSoup(response.text, "html.parser") concert_list = [] concert_items = soup.find_all("div", class_="item") for item in concert_items: concert_title = item.find("span", class_="txt-black").text.strip() concert_time = item.find("span", class_="txt-dmt-gray").text.strip() concert_location = item.find("div", class_="venueitem").text.strip() concert_info = { "title": concert_title, "time": concert_time, "location": concert_location } concert_list.append(concert_info) return concert_list def run(self): all_concert_info = [] for page in range(1, self.num_pages + 1): concert_info_list = self.get_concert_info(page) all_concert_info.extend(concert_info_list) return all_concert_info if __name__ == "__main__": spider = DamaiSpider(keyword="演唱会", num_pages=5) concert_info_list = spider.run() for concert in concert_info_list: print(concert) ``` 在这个示例中,我们创建了一个名为 `DamaiSpider` 的类。在类的初始化函数 `__init__()` 中,我们接受 `keyword` 和 `num_pages` 作为参数,并将其保存为类的属性。然后,在 `get_concert_info()` 方法中,我们使用保存的关键字和页码来构造URL。类的 `run()` 方法用于执行爬虫逻辑,它循环调用 `get_concert_info()` 方法来获取演唱会信息,并将所有信息存储在一个列表中。 在主程序中,我们创建了 `DamaiSpider` 类的实例,并传入关键字和要爬取的页数。然后调用 `run()` 方法来运行爬虫并获取演唱会信息。最后,我们遍历演唱会信息列表并打印出来。 请注意,在示例代码中,我们将关键字设置为"演唱会",页码设置为5。你可以根据自己的需求修改这些参数。

相关推荐

最新推荐

recommend-type

Python模块包中__init__.py文件功能分析

主要介绍了Python模块包中__init__.py文件功能,简单分析了__init__.py在调入模块和包的过程中的作用,需要的朋友可以参考下
recommend-type

Python使用cx_Oracle模块操作Oracle数据库详解

主要介绍了Python使用cx_Oracle模块操作Oracle数据库,结合实例形式较为详细的分析了cx_Oracle模块的下载、安装及针对Oracle数据库的连接、执行SQL语句、存储过程等相关操作技巧,需要的朋友可以参考下
recommend-type

Python爬虫实例_城市公交网络站点数据的爬取方法

下面小编就为大家分享一篇Python爬虫实例_城市公交网络站点数据的爬取方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
recommend-type

Python中if __name__ == '__main__'作用解析

主要介绍了Python中if __name__ == '__main__'作用解析,这断代码在Python中非常常见,它有作用?本文就解析了它的作用,需要的朋友可以参考下
recommend-type

如何基于python对接钉钉并获取access_token

主要介绍了如何基于python对接钉钉并获取access_token,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
recommend-type

zigbee-cluster-library-specification

最新的zigbee-cluster-library-specification说明文档。
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

实现实时数据湖架构:Kafka与Hive集成

![实现实时数据湖架构:Kafka与Hive集成](https://img-blog.csdnimg.cn/img_convert/10eb2e6972b3b6086286fc64c0b3ee41.jpeg) # 1. 实时数据湖架构概述** 实时数据湖是一种现代数据管理架构,它允许企业以低延迟的方式收集、存储和处理大量数据。与传统数据仓库不同,实时数据湖不依赖于预先定义的模式,而是采用灵活的架构,可以处理各种数据类型和格式。这种架构为企业提供了以下优势: - **实时洞察:**实时数据湖允许企业访问最新的数据,从而做出更明智的决策。 - **数据民主化:**实时数据湖使各种利益相关者都可
recommend-type

list根据id查询pid 然后依次获取到所有的子节点数据

可以使用递归的方式来实现根据id查询pid并获取所有子节点数据。具体实现可以参考以下代码: ``` def get_children_nodes(nodes, parent_id): children = [] for node in nodes: if node['pid'] == parent_id: node['children'] = get_children_nodes(nodes, node['id']) children.append(node) return children # 测试数
recommend-type

JSBSim Reference Manual

JSBSim参考手册,其中包含JSBSim简介,JSBSim配置文件xml的编写语法,编程手册以及一些应用实例等。其中有部分内容还没有写完,估计有生之年很难看到完整版了,但是内容还是很有参考价值的。