xgboost回归建模,超参数筛选,精度验证,R2,rmse,mse,用python语言

时间: 2024-02-07 22:04:20 浏览: 522
好的,针对你的问题,我可以给出以下的回答: 首先,我们需要导入 xgboost 库和其他必要的库。代码如下: ```python import xgboost as xgb import pandas as pd import numpy as np from sklearn.model_selection import GridSearchCV, train_test_split from sklearn.metrics import r2_score, mean_squared_error ``` 接着,我们需要读入数据并进行预处理。这里假设我们的数据集为 data.csv,其中包含了若干个自变量和一个因变量。代码如下: ```python data = pd.read_csv('data.csv') X = data.drop('y', axis=1) y = data['y'] ``` 然后,我们将数据集划分为训练集和测试集: ```python X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=0) ``` 接下来,我们定义一个 xgboost 回归模型,并设置一些超参数。代码如下: ```python xgb_model = xgb.XGBRegressor(objective='reg:squarederror', random_state=0) params = { 'learning_rate': [0.01, 0.1], 'n_estimators': [100, 500], 'max_depth': [3, 5] } ``` 然后,我们使用 GridSearchCV 对超参数进行网格搜索,以得到最优的超参数组合。代码如下: ```python grid = GridSearchCV(xgb_model, params, cv=5, scoring='r2') grid.fit(X_train, y_train) best_params = grid.best_params_ print(best_params) ``` 接下来,我们使用最优的超参数组合来重新训练模型,并对测试集进行预测。代码如下: ```python xgb_model = xgb.XGBRegressor(objective='reg:squarederror', random_state=0, **best_params) xgb_model.fit(X_train, y_train) y_pred = xgb_model.predict(X_test) ``` 最后,我们可以使用 R2、RMSE 和 MSE 等指标来评估模型的精度。代码如下: ```python r2 = r2_score(y_test, y_pred) rmse = np.sqrt(mean_squared_error(y_test, y_pred)) mse = mean_squared_error(y_test, y_pred) print(f"R2: {r2:.4f}, RMSE: {rmse:.4f}, MSE: {mse:.4f}") ``` 以上就是使用 xgboost 进行回归建模、超参数筛选和精度验证的基本流程。
阅读全文

相关推荐

import pandas as pd from sklearn.model_selection import train_test_split, GridSearchCV from sklearn.ensemble import GradientBoostingRegressor from sklearn.metrics import mean_squared_error, r2_score import numpy as np # 加载数据 df = pd.read_excel('集胞藻-Cd.xlsx') # 确保文件路径正确 # 清理列名,移除列名中的空格 df.columns = df.columns.str.strip() # 定义特征列和目标列 features =['T','Ph','Biomass','Time','Initial'] target_column = 'Removal' # 提取特征和目标数据 X = df[features] y = df[target_column] # 分割数据为训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42) # # 保存训练集 # train_dataset = pd.concat([X_train, y_train], axis=1) # train_dataset.to_csv('train_dataset.csv', index=False) # # # 保存测试集 # test_dataset = pd.concat([X_test, y_test], axis=1) # test_dataset.to_csv('test_dataset.csv', index=False) # 定义要搜索的参数网格 param_grid = { 'n_estimators': [80, 100, 120], 'learning_rate': [0.1, 0.2], # 降低学习率 'max_depth': [3,4], # 减少树深度 'min_samples_split': [5,10], # 新增分裂最小样本数 'subsample': [0.8,0.9], # 新增样本子采样 'max_features': [0.8,0.9] # 新增特征子采样 } # 创建梯度提升回归模型实例 gbr = GradientBoostingRegressor(random_state=42) # 使用 GridSearchCV 进行参数调优 grid_search = GridSearchCV( estimator=gbr, param_grid=param_grid, cv=10, # $\Delta$ 将cv从80改为10折交叉验证 scoring='neg_mean_squared_error', n_jobs=-1, # $\Delta$ 启用并行计算 verbose=2 ) grid_search.fit(X_train, y_train) gbr = GradientBoostingRegressor( random_state=42, n_iter_no_change=5 # $\Delta$ 添加早停条件 ) # 找到最佳参数组合 print("Best parameters:", grid_search.best_params_) # 使用最佳参数的模型在训练集和测试集上进行预测 y_train_pred = grid_search.predict(X_train) y_test_pred = grid_search.predict(X_test) # 计算并打印训练集和测试集的均方误差 (MSE)、均方根误差 (RMSE) 和 R^2 值 mse_train = mean_squared_error(y_train, y_train_pred) rmse_train = np.sqrt(mse_train) r2_train = r2_score(y_train, y_train_pred) mse_test = mean_squared_error(y_test, y_test_pred) rmse_test = np.sqrt(mse_test) r2_test = r2_score(y_test, y_test_pred) print(f"训练集 MSE: {mse_train}") print(f"训练集 RMSE: {rmse_train}") print(f"训练集 R^2: {r2_train}") print(f"测试集 MSE: {mse_test}") print(f"测试集 RMSE: {rmse_test}") print(f"测试集 R^2: {r2_test}") # 保存结果 results_df = pd.DataFrame({ '数据集': ['训练集', '测试集'], 'MSE': [mse_train, mse_test], 'RMSE': [rmse_train, rmse_test], 'R²': [r2_train, r2_test] }) results_df.to_excel('结果/集胞藻-Cd模型评估结果.xlsx', index=False)分析上述代码

import pandas as pd from sklearn.model_selection import train_test_split from sklearn.ensemble import RandomForestRegressor from sklearn.metrics import mean_squared_error, r2_score import numpy as np import os from glob import glob # 配置路径 input_folder = "microalgae" # 请替换为实际文件夹路径 output_folder = "随机森林结果" # 结果输出路径 # 创建输出文件夹(如果不存在) os.makedirs(output_folder, exist_ok=True) # 获取所有Excel文件 file_list = glob(os.path.join(input_folder, "*.xlsx")) + glob(os.path.join(input_folder, "*.xls")) # 定义公共参数 features = ['T', 'Ph', 'Biomass', 'Time', 'Qe', 'Initial'] target_column = 'Removal' # 新增:初始化汇总结果列表 all_results = [] for file_path in file_list: try: # 生成结果文件名 base_name = os.path.basename(file_path) output_name = f"{os.path.splitext(base_name)[0]}模型评估结果.xlsx" output_path = os.path.join(output_folder, output_name) print(f"\n正在处理文件:{base_name}") # 加载数据 df = pd.read_excel(file_path) df.columns = df.columns.str.strip() # 添加交互项 df['Qe'] = df['Removal'] * 0.01*df['Initial']/df['Biomass'] # 分割数据集 X = df[features] y = df[target_column] X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42) # 建模训练 clf = RandomForestRegressor(n_estimators=100, random_state=42) clf.fit(X_train, y_train) # 预测与评估 y_pred = clf.predict(X_test) y_train_pred = clf.predict(X_train) # 计算指标 metrics = { '训练集 MSE': mean_squared_error(y_train, y_train_pred), '测试集 MSE': mean_squared_error(y_test, y_pred), '训练集 RMSE': np.sqrt(mean_squared_error(y_train, y_train_pred)), '测试集 RMSE': np.sqrt(mean_squared_error(y_test, y_pred)), '训练集 R²': r2_score(y_train, y_train_pred), '测试集 R²': r2_score(y_test, y_pred) } # 保存单个文件结果 results_df = pd.DataFrame({ '数据集': ['训练集', '测试集'], 'MSE': [metrics['训练集 MSE'], metrics['测试集 MSE']], 'RMSE': [metrics['训练集 RMSE'], metrics['测试集 RMSE']], 'R²': [metrics['训练集 R²'], metrics['测试集 R²']] }) results_df.to_excel(output_path, index=False) # 新增:收集汇总数据 summary_data = { '文件名': base_name, '训练集MSE': metrics['训练集 MSE'], '测试集MSE': metrics['测试集 MSE'], '训练集RMSE': metrics['训练集 RMSE'], '测试集RMSE': metrics['测试集 RMSE'], '训练集R²': metrics['训练集 R²'], '测试集R²': metrics['测试集 R²'] } all_results.append(summary_data) print(f"已保存结果至:{output_path}") except Exception as e: print(f"处理文件 {base_name} 时发生错误:{str(e)}") continue # 新增:保存汇总结果 if all_results: summary_df = pd.DataFrame(all_results) summary_path = os.path.join(output_folder, "随机森林模型评估汇总结果.xlsx") summary_df.to_excel(summary_path, index=False) print(f"\n所有结果已汇总保存至:{summary_path}") else: print("\n警告:未生成任何结果文件") print("\n所有文件处理完成!")根据上述代码写一个xgb模型的代码

大家在看

recommend-type

silvaco中文学习资料

silvaco中文资料。 希望对大家有帮助。。。。。。
recommend-type

AES128(CBC或者ECB)源码

AES128(CBC或者ECB)源码,在C语言环境下运行。
recommend-type

EMC VNX 5300使用安装

目录 1.通过IE登录储存 3 2.VNX5300管理界面 3 3.创建Raid Group 4 4.Raid Group 中储存LUN 7 5.注册服务器 9 6.创建 Storge Group 11
recommend-type

华为MA5671光猫使用 华为MA5671补全shell 101版本可以补全shell,安装后自动补全,亲测好用,需要的可以下载

华为MA5671光猫使用 华为MA5671补全shell 101版本可以补全shell,安装后自动补全,亲测好用,需要的可以下载,企业光猫稳定性还是可以
recommend-type

视频转换芯片 TP9950 iic 驱动代码

TP9950 芯片是一款功能丰富的视频解码芯片,具有以下特点和功能: 高清视频解码:支持多种高清模拟视频格式解码,如支持高清传输视频接口(HD-TVI)视频,还能兼容 CVI、AHD、TVI 和 CVBS 等格式,最高支持 1 路 1080p@30fps 的视频输入 。 多通道输入与输出: 支持 4 路视频接入,并可通过一路输出。 可以通过 CSI 接口输出,也可以通过并行的 BT656 接口输出。 图像信号处理:对一致性和性能进行了大量的数字信号处理,所有控制回路均可编程,以实现最大的灵活性。所有像素数据均根据 SMPTE-296M 和 SMPTE-274M 标准进行线锁定采样,并且具有可编程的图像控制功能,以达到最佳的视频质量 。 双向数据通信:与兼容的编码器或集成的 ISP 与 HD-TVI 编码器和主机控制器一起工作时,支持在同一电缆上进行双向数据通信 。 集成 MIPI CSI-2 发射机:符合 MIPI 的视频数据传输标准,可方便地与其他符合 MIPI 标准的设备进行连接和通信 。 TP9950 芯片主要应用于需要进行高清视频传输和处理的领域,例如汽车电子(如车载监控、行车

最新推荐

recommend-type

智慧园区3D可视化解决方案PPT(24页).pptx

在智慧园区建设的浪潮中,一个集高效、安全、便捷于一体的综合解决方案正逐步成为现代园区管理的标配。这一方案旨在解决传统园区面临的智能化水平低、信息孤岛、管理手段落后等痛点,通过信息化平台与智能硬件的深度融合,为园区带来前所未有的变革。 首先,智慧园区综合解决方案以提升园区整体智能化水平为核心,打破了信息孤岛现象。通过构建统一的智能运营中心(IOC),采用1+N模式,即一个智能运营中心集成多个应用系统,实现了园区内各系统的互联互通与数据共享。IOC运营中心如同园区的“智慧大脑”,利用大数据可视化技术,将园区安防、机电设备运行、车辆通行、人员流动、能源能耗等关键信息实时呈现在拼接巨屏上,管理者可直观掌握园区运行状态,实现科学决策。这种“万物互联”的能力不仅消除了系统间的壁垒,还大幅提升了管理效率,让园区管理更加精细化、智能化。 更令人兴奋的是,该方案融入了诸多前沿科技,让智慧园区充满了未来感。例如,利用AI视频分析技术,智慧园区实现了对人脸、车辆、行为的智能识别与追踪,不仅极大提升了安防水平,还能为园区提供精准的人流分析、车辆管理等增值服务。同时,无人机巡查、巡逻机器人等智能设备的加入,让园区安全无死角,管理更轻松。特别是巡逻机器人,不仅能进行360度地面全天候巡检,还能自主绕障、充电,甚至具备火灾预警、空气质量检测等环境感知能力,成为了园区管理的得力助手。此外,通过构建高精度数字孪生系统,将园区现实场景与数字世界完美融合,管理者可借助VR/AR技术进行远程巡检、设备维护等操作,仿佛置身于一个虚拟与现实交织的智慧世界。 最值得关注的是,智慧园区综合解决方案还带来了显著的经济与社会效益。通过优化园区管理流程,实现降本增效。例如,智能库存管理、及时响应采购需求等举措,大幅减少了库存积压与浪费;而设备自动化与远程监控则降低了维修与人力成本。同时,借助大数据分析技术,园区可精准把握产业趋势,优化招商策略,提高入驻企业满意度与营收水平。此外,智慧园区的低碳节能设计,通过能源分析与精细化管理,实现了能耗的显著降低,为园区可持续发展奠定了坚实基础。总之,这一综合解决方案不仅让园区管理变得更加智慧、高效,更为入驻企业与员工带来了更加舒适、便捷的工作与生活环境,是未来园区建设的必然趋势。
recommend-type

labelme标注的json转mask掩码图,用于分割数据集 批量转化,生成cityscapes格式的数据集

labelme标注的json转mask掩码图,用于分割数据集 批量转化,生成cityscapes格式的数据集
recommend-type

(参考GUI)MATLAB GUI漂浮物垃圾分类检测.zip

(参考GUI)MATLAB GUI漂浮物垃圾分类检测.zip
recommend-type

人脸识别_OpenCV_活体检测_证件照拍照_Demo_1741778955.zip

人脸识别项目源码实战
recommend-type

人脸识别_科大讯飞_Face_签到系统_Swface_1741770704.zip

人脸识别项目实战
recommend-type

掌握Android RecyclerView拖拽与滑动删除功能

知识点: 1. Android RecyclerView使用说明: RecyclerView是Android开发中经常使用到的一个视图组件,其主要作用是高效地展示大量数据,具有高度的灵活性和可配置性。与早期的ListView相比,RecyclerView支持更加复杂的界面布局,并且能够优化内存消耗和滚动性能。开发者可以对RecyclerView进行自定义配置,如添加头部和尾部视图,设置网格布局等。 2. RecyclerView的拖拽功能实现: RecyclerView通过集成ItemTouchHelper类来实现拖拽功能。ItemTouchHelper类是RecyclerView的辅助类,用于给RecyclerView添加拖拽和滑动交互的功能。开发者需要创建一个ItemTouchHelper的实例,并传入一个实现了ItemTouchHelper.Callback接口的类。在这个回调类中,可以定义拖拽滑动的方向、触发的时机、动作的动画以及事件的处理逻辑。 3. 编辑模式的设置: 编辑模式(也称为拖拽模式)的设置通常用于允许用户通过拖拽来重新排序列表中的项目。在RecyclerView中,可以通过设置Adapter的isItemViewSwipeEnabled和isLongPressDragEnabled方法来分别启用滑动和拖拽功能。在编辑模式下,用户可以长按或触摸列表项来实现拖拽,从而对列表进行重新排序。 4. 左右滑动删除的实现: RecyclerView的左右滑动删除功能同样利用ItemTouchHelper类来实现。通过定义Callback中的getMovementFlags方法,可以设置滑动方向,例如,设置左滑或右滑来触发删除操作。在onSwiped方法中编写处理删除的逻辑,比如从数据源中移除相应数据,并通知Adapter更新界面。 5. 移动动画的实现: 在拖拽或滑动操作完成后,往往需要为项目移动提供动画效果,以增强用户体验。在RecyclerView中,可以通过Adapter在数据变更前后调用notifyItemMoved方法来完成位置交换的动画。同样地,添加或删除数据项时,可以调用notifyItemInserted或notifyItemRemoved等方法,并通过自定义动画资源文件来实现丰富的动画效果。 6. 使用ItemTouchHelperDemo-master项目学习: ItemTouchHelperDemo-master是一个实践项目,用来演示如何实现RecyclerView的拖拽和滑动功能。开发者可以通过这个项目源代码来了解和学习如何在实际项目中应用上述知识点,掌握拖拽排序、滑动删除和动画效果的实现。通过观察项目文件和理解代码逻辑,可以更深刻地领会RecyclerView及其辅助类ItemTouchHelper的使用技巧。
recommend-type

【IBM HttpServer入门全攻略】:一步到位的安装与基础配置教程

# 摘要 本文详细介绍了IBM HttpServer的全面部署与管理过程,从系统需求分析和安装步骤开始,到基础配置与性能优化,再到安全策略与故障诊断,最后通过案例分析展示高级应用。文章旨在为系统管理员提供一套系统化的指南,以便快速掌握IBM HttpServer的安装、配置及维护技术。通过本文的学习,读者能有效地创建和管理站点,确保
recommend-type

[root@localhost~]#mount-tcifs-0username=administrator,password=hrb.123456//192.168.100.1/ygptData/home/win mount:/home/win:挂载点不存在

### CIFS挂载时提示挂载点不存在的解决方案 当尝试通过 `mount` 命令挂载CIFS共享目录时,如果遇到错误提示“挂载点不存在”,通常是因为目标路径尚未创建或者权限不足。以下是针对该问题的具体分析和解决方法: #### 创建挂载点 在执行挂载操作之前,需确认挂载的目标路径已经存在并具有适当的权限。可以使用以下命令来创建挂载点: ```bash mkdir -p /mnt/win_share ``` 上述命令会递归地创建 `/mnt/win_share` 路径[^1]。 #### 配置用户名和密码参数 为了成功连接到远程Windows共享资源,在 `-o` 参数中指定 `user
recommend-type

惠普8594E与IT8500系列电子负载使用教程

在详细解释给定文件中所涉及的知识点之前,需要先明确文档的主题内容。文档标题中提到了两个主要的仪器:惠普8594E频谱分析仪和IT8500系列电子负载。首先,我们将分别介绍这两个设备以及它们的主要用途和操作方式。 惠普8594E频谱分析仪是一款专业级的电子测试设备,通常被用于无线通信、射频工程和微波工程等领域。频谱分析仪能够对信号的频率和振幅进行精确的测量,使得工程师能够观察、分析和测量复杂信号的频谱内容。 频谱分析仪的功能主要包括: 1. 测量信号的频率特性,包括中心频率、带宽和频率稳定度。 2. 分析信号的谐波、杂散、调制特性和噪声特性。 3. 提供信号的时间域和频率域的转换分析。 4. 频率计数器功能,用于精确测量信号频率。 5. 进行邻信道功率比(ACPR)和发射功率的测量。 6. 提供多种输入和输出端口,以适应不同的测试需求。 频谱分析仪的操作通常需要用户具备一定的电子工程知识,对信号的基本概念和频谱分析的技术要求有所了解。 接下来是可编程电子负载,以IT8500系列为例。电子负载是用于测试和评估电源性能的设备,它模拟实际负载的电气特性来测试电源输出的电压和电流。电子负载可以设置为恒流、恒压、恒阻或恒功率工作模式,以测试不同条件下的电源表现。 电子负载的主要功能包括: 1. 模拟各种类型的负载,如电阻性、电感性及电容性负载。 2. 实现负载的动态变化,模拟电流的变化情况。 3. 进行短路测试,检查电源设备在过载条件下的保护功能。 4. 通过控制软件进行远程控制和自动测试。 5. 提供精确的电流和电压测量功能。 6. 通过GPIB、USB或LAN等接口与其他设备进行通信和数据交换。 使用电子负载时,工程师需要了解其操作程序、设置和编程方法,以及如何根据测试目的配置负载参数。 文档的描述部分提到了这些资料的专业性和下载人群的稀少。这可能暗示了这些设备的目标用户是具备一定专业知识的工程师和技术人员,因此文档内容将涵盖较为复杂的操作指南和技术细节。 标签中提到了“中文说明书”,表明这些文件是为中文用户提供方便而制作的,这对于不熟悉英语的技术人员来说是非常重要的。这有助于减少语言障碍,使得中文使用者能够更容易掌握这些专业的测试设备使用方法。 综上所述,惠普8594E频谱分析仪和IT8500系列电子负载都是测试设备领域中不可或缺的工具。掌握它们的使用方法和功能对于电子工程师来说是必需的。这些设备在维护和开发电子系统、电源设备以及无线通信设备中起着至关重要的作用。这份文档对于涉及相关领域的工作技术人员,特别是在中国环境下,提供了非常实用和必需的专业知识。
recommend-type

MATLAB与Python在SAR点目标仿真中的对决:哪种工具更胜一筹?

# 摘要 本文系统地探讨了SAR点目标仿真技术,重点分析了MATLAB和Python在这一领域的应用及其潜在价值。首先概述了SAR仿真概念和需求,然后详细介绍了MATLAB在SAR仿真中的功能、信号处理应用以及仿真实例。接着,文章转向Python,分析了其语言特点、生态系统