编一个爬虫爬贝壳找房二手房的程序,小区名字从excel获取
时间: 2024-03-07 16:54:00 浏览: 144
python 二手房信息爬虫
以下是一个基于 Python 和 Scrapy 框架的爬虫程序,可以从贝壳找房网站上爬取指定小区的二手房信息,并将结果保存到本地的 CSV 文件中。
首先,你需要安装 Python 和 Scrapy。然后,按照以下步骤进行操作:
1. 在 Excel 中创建一个包含小区名称的表格。假设该表格名为 `community.xlsx`,小区名称位于第一列(A 列)。
2. 在项目目录下创建一个名为 `spiders` 的文件夹,并在该文件夹下创建一个名为 `beike.py` 的 Python 文件。在 `beike.py` 中输入以下代码:
```python
import scrapy
import csv
class BeikeSpider(scrapy.Spider):
name = 'beike'
allowed_domains = ['bj.ke.com']
start_urls = ['https://bj.ke.com/ershoufang/']
def parse(self, response):
# 读取小区名称列表
with open('community.xlsx', 'r') as f:
reader = csv.reader(f)
communities = [row[0] for row in reader]
# 构建小区二手房搜索链接,并发送请求
for community in communities:
url = f'https://bj.ke.com/ershoufang/pg1ng1{community}/'
yield scrapy.Request(url, callback=self.parse_community)
def parse_community(self, response):
# 解析小区二手房搜索结果
for house in response.css('.sellListContent li'):
title = house.css('.title a::text').get()
link = house.css('.title a::attr(href)').get()
price = house.css('.totalPrice span::text').get()
area = house.css('.houseInfo::text').get().split('|')[1].strip()
yield {
'title': title,
'link': link,
'price': price,
'area': area
}
```
3. 在项目根目录下创建一个名为 `settings.py` 的文件,并在其中添加以下配置:
```python
FEED_FORMAT = 'csv'
FEED_URI = 'result.csv'
```
这些配置指定了爬虫结果的输出格式为 CSV,并将结果保存到名为 `result.csv` 的文件中。
4. 在命令行中进入项目根目录,并运行以下命令启动爬虫:
```
scrapy crawl beike
```
这将启动名为 `beike` 的爬虫并开始爬取数据。爬取完成后,你可以在项目根目录下找到名为 `result.csv` 的文件,其中包含了爬虫结果。
阅读全文