python爬虫前程无忧
时间: 2023-11-08 12:47:18 浏览: 103
Python爬虫前程无忧可以通过以下步骤实现:
1. 导入所需的库,如requests、BeautifulSoup等。
2. 构建爬取的URL链接,例如:https://search.51job.com/list/000000,000000,0000,00,9,99,Python,2,1.html。
3. 使用requests库发送请求并获取响应内容。
4. 使用BeautifulSoup解析HTML响应内容,提取所需信息。
5. 保存数据到本地文件或数据库中。
下面是一个简单的示例代码:
```
import requests
from bs4 import BeautifulSoup
url = 'https://search.51job.com/list/000000,000000,0000,00,9,99,Python,2,1.html'
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36'}
response = requests.get(url, headers=headers)
soup = BeautifulSoup(response.text, 'html.parser')
jobs = soup.select('.el')
for job in jobs:
title = job.select('.t1')[0].text.strip()
company = job.select('.t2')[0].text.strip()
location = job.select('.t3')[0].text.strip()
salary = job.select('.t4')[0].text.strip()
print(title, company, location, salary)
```
该代码将爬取前程无忧上Python相关的职位信息,并输出职位名称、公司名称、工作地点和薪资。
阅读全文