基于python对前程无忧的招聘信息进行数据爬取并进行可视化

时间: 2023-12-24 19:05:03 浏览: 52
非常感谢您的提问。我作为一个AI语言模型,对此问题有着一定的了解。针对您的问题,我们可以通过使用Python的BeautifulSoup和requests库进行前程无忧网站的数据爬取,并使用Matplotlib或者Seaborn等可视化库对获取的数据进行可视化处理。具体步骤如下: 1. 导入必要的库 ```python import requests from bs4 import BeautifulSoup import pandas as pd import matplotlib.pyplot as plt import seaborn as sns ``` 2. 设置请求头和请求参数,向前程无忧网站发送请求 ```python url = 'https://search.51job.com/list/010000,000000,0000,00,9,99,python,2,1.html' headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36 Edge/16.16299' } params = { 'lang': 'c', 'stype': '1', 'postchannel': '0000', 'workyear': '99', 'cotype': '99', 'degreefrom': '99', 'jobterm': '99', 'companysize': '99', 'ord_field': '0', 'dibiaoid': '0', 'confirmdate': '9', 'fromType': '', 'd': '', } response = requests.get(url, headers=headers, params=params) ``` 3. 使用BeautifulSoup处理获取的HTML响应,并提取职位信息 ```python soup = BeautifulSoup(response.text, 'html.parser') items = soup.select('.el') rows = [] for item in items: title = item.select_one('.t1').text.strip() company = item.select_one('.t2').text.strip() location = item.select_one('.t3').text.strip() salary = item.select_one('.t4').text.strip() date = item.select_one('.t5').text.strip() rows.append((title, company, location, salary, date)) ``` 4. 将提取的职位信息转换成DataFrame对象,并进行数据清洗和规整 ```python df = pd.DataFrame(rows, columns=['Title', 'Company', 'Location', 'Salary', 'Date']) # 清除重复数据 df.drop_duplicates(inplace=True) # 对薪资进行拆分,计算最小值和最大值 df['Salary_Low'] = df['Salary'].apply(lambda x: int(x.split('-')[0]) * 1000 / 12 if '-' in x else int(x.split('元')[0]) / 12) df['Salary_High'] = df['Salary'].apply(lambda x: int(x.split('-')[1].replace('千/月', '')) * 1000 / 12 if '-' in x else int(x.split('元/月')[0]) / 12) # 对地点进行规整 df['Location'] = df['Location'].apply(lambda x: x.split('-')[0]) ``` 5. 对职位数量和最高薪资进行可视化处理 ```python plt.figure(figsize=(12, 8)) plt.title('Python职位数量分布', fontsize=16, fontweight='bold') sns.countplot(y='Location', data=df, order=df['Location'].value_counts().index, palette='Blues_r') plt.xlabel('数量', fontsize=12, fontweight='bold') plt.ylabel('地点', fontsize=12, fontweight='bold') plt.figure(figsize=(12, 8)) plt.title('Python职位最高薪资分布', fontsize=16, fontweight='bold') sns.barplot(x='Salary_High', y='Location', data=df, order=df.groupby('Location')['Salary_High'].mean().sort_values(ascending=False).index, palette='Blues_r') plt.xlabel('最高薪资(千/月)', fontsize=12, fontweight='bold') plt.ylabel('地点', fontsize=12, fontweight='bold') ``` 我希望以上回答能够帮到您。如果您有更多的问题,请随时提出。

相关推荐

最新推荐

recommend-type

Python爬取数据并实现可视化代码解析

主要介绍了Python爬取数据并实现可视化代码解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
recommend-type

Python爬取股票信息,并可视化数据的示例

今天带大家爬取雪球平台的股票数据, 并且实现数据可视化 先看下效果图 基本环境配置 python 3.6 pycharm requests csv time 目标地址 https://xueqiu.com/hq 爬虫代码 请求网页 import requests url = '...
recommend-type

Python爬取数据并写入MySQL数据库的实例

今天小编就为大家分享一篇Python爬取数据并写入MySQL数据库的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
recommend-type

(二)爬取新房销售信息——数据分析+可视化篇

pandas & matplotlib 用于数据分析和可视化 上一个任务通过requests、BeautifulSoup4两个功能强大、用法简洁的函数库已经获取到了楼盘名、地址和价格这些新房信息,并且保存为csv格式文件,csv文件可以用excel打开并...
recommend-type

基于python的百度迁徙迁入、迁出数据爬取(爬虫大数据)(附代码)

简介 ...不多逼逼,相关的自己了解。趁这几天比较好抓取数据,需要的数据就赶紧抓抓抓。 效果展示 不着急看代码,先给你们看一波效果图,各位看官看完效果图看看...因为我要把表丢进GIS里做可视化(后面有可视化的图),又
recommend-type

zigbee-cluster-library-specification

最新的zigbee-cluster-library-specification说明文档。
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

实现实时数据湖架构:Kafka与Hive集成

![实现实时数据湖架构:Kafka与Hive集成](https://img-blog.csdnimg.cn/img_convert/10eb2e6972b3b6086286fc64c0b3ee41.jpeg) # 1. 实时数据湖架构概述** 实时数据湖是一种现代数据管理架构,它允许企业以低延迟的方式收集、存储和处理大量数据。与传统数据仓库不同,实时数据湖不依赖于预先定义的模式,而是采用灵活的架构,可以处理各种数据类型和格式。这种架构为企业提供了以下优势: - **实时洞察:**实时数据湖允许企业访问最新的数据,从而做出更明智的决策。 - **数据民主化:**实时数据湖使各种利益相关者都可
recommend-type

解释minorization-maximization (MM) algorithm,并给出matlab代码编写的例子

Minorization-maximization (MM) algorithm是一种常用的优化算法,用于求解非凸问题或含有约束的优化问题。该算法的基本思想是通过构造一个凸下界函数来逼近原问题,然后通过求解凸下界函数的最优解来逼近原问题的最优解。具体步骤如下: 1. 初始化参数 $\theta_0$,设 $k=0$; 2. 构造一个凸下界函数 $Q(\theta|\theta_k)$,使其满足 $Q(\theta_k|\theta_k)=f(\theta_k)$; 3. 求解 $Q(\theta|\theta_k)$ 的最优值 $\theta_{k+1}=\arg\min_\theta Q(
recommend-type

JSBSim Reference Manual

JSBSim参考手册,其中包含JSBSim简介,JSBSim配置文件xml的编写语法,编程手册以及一些应用实例等。其中有部分内容还没有写完,估计有生之年很难看到完整版了,但是内容还是很有参考价值的。