scrapy框架爬取智联招聘网站的职位信息代码
时间: 2023-09-28 20:03:28 浏览: 182
以下是使用Scrapy框架爬取智联招聘网站职位信息的示例代码:
1. 创建Scrapy项目
在命令行中输入以下命令,创建一个名为`zhaopin`的Scrapy项目:
```
scrapy startproject zhaopin
```
2. 创建爬虫文件
在项目根目录下,使用以下命令创建一个名为`zhaopin_spider`的爬虫文件:
```
scrapy genspider zhaopin_spider sou.zhaopin.com
```
3. 修改爬虫代码
打开`zhaopin_spider.py`文件,将其修改为以下代码:
```python
import scrapy
class ZhaopinSpiderSpider(scrapy.Spider):
name = 'zhaopin_spider'
allowed_domains = ['sou.zhaopin.com']
def start_requests(self):
# 设置请求URL
url = 'https://sou.zhaopin.com/?jl=530&kw=Python&kt=3'
# 发送请求
yield scrapy.Request(url, callback=self.parse)
def parse(self, response):
# 获取职位列表
job_list = response.xpath('//div[@class="joblist-box__item"]')
# 遍历职位列表,获取职位信息
for job in job_list:
# 获取职位名称
job_name = job.xpath('.//div[@class="joblist-box__jobname"]/text()')
# 获取公司名称
company_name = job.xpath('.//div[@class="joblist-box__companyname"]/text()')
# 获取工作地点
location = job.xpath('.//div[@class="joblist-box__jobarea"]/text()')
# 获取薪资范围
salary = job.xpath('.//span[@class="joblist-box__salary"]/text()')
# 获取职位链接
job_link = job.xpath('.//a[@class="joblist-box__jobname"]/@href')
# 输出职位信息
yield {
'职位名称': job_name.extract_first().strip(),
'公司名称': company_name.extract_first().strip(),
'工作地点': location.extract_first().strip(),
'薪资范围': salary.extract_first().strip(),
'职位链接': job_link.extract_first().strip()
}
```
在`start_requests`方法中,我们设置了请求URL,并使用`scrapy.Request`发送请求。在`parse`方法中,我们使用XPath表达式获取职位信息,并使用`yield`输出结果。
4. 运行爬虫
在命令行中,进入项目根目录,输入以下命令运行爬虫:
```
scrapy crawl zhaopin_spider -o result.json
```
其中,`-o result.json`表示将结果保存到名为`result.json`的文件中。
需要注意的是,Scrapy框架会自动处理反爬虫机制,但是也需要注意一些规则,如请求频率等。另外,在爬取数据时,可以使用Scrapy提供的一些中间件,如随机User-Agent、自动重试等,以提高爬取效率和稳定性。
阅读全文