requests爬取51job招聘网数据
时间: 2023-07-29 21:07:28 浏览: 138
好的,下面是使用Python和requests爬取51job招聘网数据的步骤:
1. 安装requests库
使用pip安装requests库:
```python
pip install requests
```
2. 编写Python代码
```python
import requests
from bs4 import BeautifulSoup
# 定义搜索关键词和请求头信息
keyword = '数据分析师'
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
# 发送HTTP请求并获取响应内容
url = f'https://search.51job.com/list/000000,000000,0000,00,9,99,{keyword},2,1.html'
response = requests.get(url, headers=headers)
# 解析HTML内容
soup = BeautifulSoup(response.content, 'html.parser')
# 获取搜索结果列表
job_list = soup.select('.dw_table .el')
# 输出搜索结果
for job in job_list:
job_title = job.select('.t1 a')[0].text.strip()
job_company = job.select('.t2 a')[0].text.strip()
job_location = job.select('.t3')[0].text.strip()
job_salary = job.select('.t4')[0].text.strip()
print(job_title, job_company, job_location, job_salary)
```
这段代码可以发送HTTP请求获取51job招聘网的搜索结果页面,使用BeautifulSoup库解析HTML内容,获取搜索结果列表中的职位名称、公司名称、工作地点和薪资,并输出到控制台中。
3. 运行Python代码
在终端中运行Python代码:
```python
python job_search.py
```
这样就可以使用requests库爬取51job招聘网的数据了。
阅读全文