生成一个爬取51job上含python职位信息的python爬虫代码
时间: 2023-06-20 10:10:05 浏览: 132
好的,以下是一个简单的爬取51job上含有“python”关键字的职位信息的Python爬虫代码:
```python
import requests
from bs4 import BeautifulSoup
# 构造请求头
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
# 构造请求参数
params = {
'from': 'jobsearch',
'keyword': 'python',
'jobarea': '020000',
'page': 1,
'salary': '',
'sortby': 'date',
'workyear': ''
}
# 发送请求
url = 'https://search.51job.com/list/020000,000000,0000,00,9,99,{},1.html'.format(params['keyword'])
response = requests.get(url, headers=headers, params=params)
# 解析页面
soup = BeautifulSoup(response.text, 'html.parser')
job_list = soup.find_all('div', class_='el')
# 打印结果
for job in job_list:
job_name = job.find('a', target='_blank').text.strip()
company_name = job.find('a', class_='name', target='_blank').text.strip()
salary = job.find('span', class_='t4').text.strip()
requirement = job.find('span', class_='t2').text.strip()
print('职位名称:', job_name)
print('公司名称:', company_name)
print('薪资:', salary)
print('要求:', requirement)
print('-' * 50)
```
这个代码会爬取51job上所有含有“python”关键字的职位信息,并打印出职位名称、公司名称、薪资和要求等信息。你可以根据自己的需要修改请求参数和解析规则。
阅读全文