用Python爬虫爬取BOSS直聘招聘数据2000条
时间: 2024-01-02 18:15:20 浏览: 153
好的,我们可以使用 Python 中的 requests 库和 BeautifulSoup 库来爬取 BOSS 直聘的招聘数据。
首先,我们需要打开 BOSS 直聘的网站,搜索我们需要的职位,并复制浏览器地址栏中的链接,作为我们爬取的 URL。
接下来,我们可以使用 requests 库向该 URL 发送请求,并使用 BeautifulSoup 库解析 HTML 文档,提取我们需要的招聘信息。
以下是示例代码:
```python
import requests
from bs4 import BeautifulSoup
url = 'https://www.zhipin.com/job_detail/?query=python&city=101010100&industry=&position='
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
response = requests.get(url, headers=headers)
soup = BeautifulSoup(response.text, 'html.parser')
job_list = soup.find('div', class_='job-list').find_all('li')
for job in job_list:
job_name = job.find('div', class_='job-title').text.strip()
company_name = job.find('div', class_='company-text').find('h3').text.strip()
salary = job.find('span', class_='red').text.strip()
print(job_name, company_name, salary)
```
在上述代码中,我们首先定义了我们需要爬取的 URL,以及请求头 headers。然后,我们使用 requests 库向该 URL 发送请求,并使用 BeautifulSoup 库解析 HTML 文档。
在解析 HTML 文档后,我们使用 find() 方法找到 class 为 job-list 的 div 标签,并使用 find_all() 方法找到其下所有的 li 标签,即每个招聘信息。
接下来,我们使用 find() 方法分别找到每个招聘信息的职位名称、公司名称和薪资,并使用 strip() 方法去除空格和换行符。
最后,我们将这些信息打印出来,即可得到我们需要的招聘数据。
需要注意的是,BOSS 直聘的网页结构可能会有所变化,上述代码仅供参考。另外,爬取网页数据需要遵守相关法律法规,不得用于商业用途。
阅读全文