python 使用连接池、分批处理mysql遍历每个表格,表格要加反引号根据trade_date降序排列,对net_mf_amount列的前一天的数据减去今天的数据放在a列,如果之前计算过则跳过,并且保存

时间: 2024-02-09 15:10:53 浏览: 82
好的,关于你的问题,我可以给你一些思路和代码实现。 首先需要连接池,可以使用第三方库`pymysql`和`DBUtils`来实现: ```python import pymysql from dbutils.pooled_db import PooledDB pool = PooledDB( creator=pymysql, # 使用pymysql作为连接库 maxconnections=5, # 连接池最大连接数 mincached=2, # 初始化时,连接池中至少创建的空闲连接,0表示不创建 maxcached=5, # 连接池中最多闲置的连接,0表示不限制 maxshared=0, # 连接池中最多共享的连接数量,0表示全共享 blocking=True, # 连接池中如果没有可用连接后,是否阻塞等待 maxusage=None, # 一个连接最多被重复使用多少次,None表示不限制 setsession=[], # 连接建立后需要执行的命令列表 ping=0, # ping MySQL服务器检查是否服务可用,0表示不检查,1表示检查 host='127.0.0.1', port=3306, user='root', password='root', database='test' ) conn = pool.connection() # 从连接池中获取一个连接 cursor = conn.cursor() ``` 然后需要分批处理每个表格,可以使用`show tables`命令获取所有表格,再使用`desc tablename`命令获取表格结构,最后使用`select`命令遍历每个表格的数据: ```python cursor.execute("show tables;") tables = cursor.fetchall() for table in tables: table = table[0] cursor.execute(f"desc {table};") columns = [column[0] for column in cursor.fetchall()] columns_str = ",".join([f"`{column}`" for column in columns]) cursor.execute(f"select {columns_str} from `{table}` order by `trade_date` desc;") results = cursor.fetchall() for i in range(0, len(results), batch_size): batch_results = results[i:i+batch_size] # 处理每个批次的数据 ``` 最后需要对`net_mf_amount`列的前一天的数据减去今天的数据放在`a`列,如果之前计算过则跳过,并且保存,可以使用`pandas`库来处理数据: ```python import pandas as pd df = pd.DataFrame(batch_results, columns=columns) df['trade_date'] = pd.to_datetime(df['trade_date']) df = df.sort_values('trade_date', ascending=False).reset_index(drop=True) if 'a' not in df.columns: df['a'] = 0 else: df = df[df['a'] == 0].reset_index(drop=True) for i in range(1, len(df)): if df.loc[i, 'a'] != 0: continue df.loc[i, 'a'] = df.loc[i-1, 'net_mf_amount'] - df.loc[i, 'net_mf_amount'] df = df[['trade_date', 'net_mf_amount', 'a']] df.to_sql(name=table, con=engine, if_exists='replace') ``` 完整的代码如下: ```python import pymysql from dbutils.pooled_db import PooledDB import pandas as pd pool = PooledDB( creator=pymysql, # 使用pymysql作为连接库 maxconnections=5, # 连接池最大连接数 mincached=2, # 初始化时,连接池中至少创建的空闲连接,0表示不创建 maxcached=5, # 连接池中最多闲置的连接,0表示不限制 maxshared=0, # 连接池中最多共享的连接数量,0表示全共享 blocking=True, # 连接池中如果没有可用连接后,是否阻塞等待 maxusage=None, # 一个连接最多被重复使用多少次,None表示不限制 setsession=[], # 连接建立后需要执行的命令列表 ping=0, # ping MySQL服务器检查是否服务可用,0表示不检查,1表示检查 host='127.0.0.1', port=3306, user='root', password='root', database='test' ) batch_size = 1000 conn = pool.connection() # 从连接池中获取一个连接 cursor = conn.cursor() cursor.execute("show tables;") tables = cursor.fetchall() for table in tables: table = table[0] cursor.execute(f"desc {table};") columns = [column[0] for column in cursor.fetchall()] columns_str = ",".join([f"`{column}`" for column in columns]) cursor.execute(f"select {columns_str} from `{table}` order by `trade_date` desc;") results = cursor.fetchall() for i in range(0, len(results), batch_size): batch_results = results[i:i+batch_size] df = pd.DataFrame(batch_results, columns=columns) df['trade_date'] = pd.to_datetime(df['trade_date']) df = df.sort_values('trade_date', ascending=False).reset_index(drop=True) if 'a' not in df.columns: df['a'] = 0 else: df = df[df['a'] == 0].reset_index(drop=True) for i in range(1, len(df)): if df.loc[i, 'a'] != 0: continue df.loc[i, 'a'] = df.loc[i-1, 'net_mf_amount'] - df.loc[i, 'net_mf_amount'] df = df[['trade_date', 'net_mf_amount', 'a']] df.to_sql(name=table, con=engine, if_exists='replace') cursor.close() conn.close() ``` 希望能对你有所帮助!
阅读全文

相关推荐

pptx
在智慧园区建设的浪潮中,一个集高效、安全、便捷于一体的综合解决方案正逐步成为现代园区管理的标配。这一方案旨在解决传统园区面临的智能化水平低、信息孤岛、管理手段落后等痛点,通过信息化平台与智能硬件的深度融合,为园区带来前所未有的变革。 首先,智慧园区综合解决方案以提升园区整体智能化水平为核心,打破了信息孤岛现象。通过构建统一的智能运营中心(IOC),采用1+N模式,即一个智能运营中心集成多个应用系统,实现了园区内各系统的互联互通与数据共享。IOC运营中心如同园区的“智慧大脑”,利用大数据可视化技术,将园区安防、机电设备运行、车辆通行、人员流动、能源能耗等关键信息实时呈现在拼接巨屏上,管理者可直观掌握园区运行状态,实现科学决策。这种“万物互联”的能力不仅消除了系统间的壁垒,还大幅提升了管理效率,让园区管理更加精细化、智能化。 更令人兴奋的是,该方案融入了诸多前沿科技,让智慧园区充满了未来感。例如,利用AI视频分析技术,智慧园区实现了对人脸、车辆、行为的智能识别与追踪,不仅极大提升了安防水平,还能为园区提供精准的人流分析、车辆管理等增值服务。同时,无人机巡查、巡逻机器人等智能设备的加入,让园区安全无死角,管理更轻松。特别是巡逻机器人,不仅能进行360度地面全天候巡检,还能自主绕障、充电,甚至具备火灾预警、空气质量检测等环境感知能力,成为了园区管理的得力助手。此外,通过构建高精度数字孪生系统,将园区现实场景与数字世界完美融合,管理者可借助VR/AR技术进行远程巡检、设备维护等操作,仿佛置身于一个虚拟与现实交织的智慧世界。 最值得关注的是,智慧园区综合解决方案还带来了显著的经济与社会效益。通过优化园区管理流程,实现降本增效。例如,智能库存管理、及时响应采购需求等举措,大幅减少了库存积压与浪费;而设备自动化与远程监控则降低了维修与人力成本。同时,借助大数据分析技术,园区可精准把握产业趋势,优化招商策略,提高入驻企业满意度与营收水平。此外,智慧园区的低碳节能设计,通过能源分析与精细化管理,实现了能耗的显著降低,为园区可持续发展奠定了坚实基础。总之,这一综合解决方案不仅让园区管理变得更加智慧、高效,更为入驻企业与员工带来了更加舒适、便捷的工作与生活环境,是未来园区建设的必然趋势。
pdf
在智慧园区建设的浪潮中,一个集高效、安全、便捷于一体的综合解决方案正逐步成为现代园区管理的标配。这一方案旨在解决传统园区面临的智能化水平低、信息孤岛、管理手段落后等痛点,通过信息化平台与智能硬件的深度融合,为园区带来前所未有的变革。 首先,智慧园区综合解决方案以提升园区整体智能化水平为核心,打破了信息孤岛现象。通过构建统一的智能运营中心(IOC),采用1+N模式,即一个智能运营中心集成多个应用系统,实现了园区内各系统的互联互通与数据共享。IOC运营中心如同园区的“智慧大脑”,利用大数据可视化技术,将园区安防、机电设备运行、车辆通行、人员流动、能源能耗等关键信息实时呈现在拼接巨屏上,管理者可直观掌握园区运行状态,实现科学决策。这种“万物互联”的能力不仅消除了系统间的壁垒,还大幅提升了管理效率,让园区管理更加精细化、智能化。 更令人兴奋的是,该方案融入了诸多前沿科技,让智慧园区充满了未来感。例如,利用AI视频分析技术,智慧园区实现了对人脸、车辆、行为的智能识别与追踪,不仅极大提升了安防水平,还能为园区提供精准的人流分析、车辆管理等增值服务。同时,无人机巡查、巡逻机器人等智能设备的加入,让园区安全无死角,管理更轻松。特别是巡逻机器人,不仅能进行360度地面全天候巡检,还能自主绕障、充电,甚至具备火灾预警、空气质量检测等环境感知能力,成为了园区管理的得力助手。此外,通过构建高精度数字孪生系统,将园区现实场景与数字世界完美融合,管理者可借助VR/AR技术进行远程巡检、设备维护等操作,仿佛置身于一个虚拟与现实交织的智慧世界。 最值得关注的是,智慧园区综合解决方案还带来了显著的经济与社会效益。通过优化园区管理流程,实现降本增效。例如,智能库存管理、及时响应采购需求等举措,大幅减少了库存积压与浪费;而设备自动化与远程监控则降低了维修与人力成本。同时,借助大数据分析技术,园区可精准把握产业趋势,优化招商策略,提高入驻企业满意度与营收水平。此外,智慧园区的低碳节能设计,通过能源分析与精细化管理,实现了能耗的显著降低,为园区可持续发展奠定了坚实基础。总之,这一综合解决方案不仅让园区管理变得更加智慧、高效,更为入驻企业与员工带来了更加舒适、便捷的工作与生活环境,是未来园区建设的必然趋势。

最新推荐

recommend-type

零基础使用Python读写处理Excel表格的方法

在Python中处理Excel表格是一项常见的任务,尤其对于数据分析师、程序员以及需要处理大量结构化数据的人来说。本文将详细介绍如何从零基础开始使用Python进行Excel的读写操作。 首先,要进行Excel处理,Python本身...
recommend-type

Python图像处理之直线和曲线的拟合与绘制【curve_fit()应用】

在Python的图像处理中,直线和曲线的拟合与绘制是一项重要的任务,特别是在数据分析和科学计算领域。`curve_fit()` 函数是 `scipy.optimize` 模块中的一个强大工具,用于非线性曲线拟合。它根据给定的数据点找到最佳...
recommend-type

Python中if __name__ == '__main__'作用解析

首先,每一个Python模块都有一个内置的特殊变量 `__name__`,它表示模块的标识符。当你直接运行一个`.py`文件时,`__name__` 的值被设置为 `'__main__'`,这意味着该文件是程序的入口点。相反,如果你通过 `import` ...
recommend-type

python字典键值对的添加和遍历方法

2. **通过`items()`方法进行遍历**:`items()`方法会返回一个包含字典中所有键值对的元组列表,可以使用for循环和序列解包直接遍历键值对。 ```python for key, value in dic.items(): print(f'key is {key}, value...
recommend-type

基于Python的一个自动录入表格的小程序

在这个程序中,作者使用Python语言,结合多种库,实现了从接收到的TXT文本文件中提取信息并将其整理成表格的功能,减轻了手动录入的工作量,特别是在处理大量数据时,效率显著提升。 首先,程序的核心思路是将同学...
recommend-type

掌握Android RecyclerView拖拽与滑动删除功能

知识点: 1. Android RecyclerView使用说明: RecyclerView是Android开发中经常使用到的一个视图组件,其主要作用是高效地展示大量数据,具有高度的灵活性和可配置性。与早期的ListView相比,RecyclerView支持更加复杂的界面布局,并且能够优化内存消耗和滚动性能。开发者可以对RecyclerView进行自定义配置,如添加头部和尾部视图,设置网格布局等。 2. RecyclerView的拖拽功能实现: RecyclerView通过集成ItemTouchHelper类来实现拖拽功能。ItemTouchHelper类是RecyclerView的辅助类,用于给RecyclerView添加拖拽和滑动交互的功能。开发者需要创建一个ItemTouchHelper的实例,并传入一个实现了ItemTouchHelper.Callback接口的类。在这个回调类中,可以定义拖拽滑动的方向、触发的时机、动作的动画以及事件的处理逻辑。 3. 编辑模式的设置: 编辑模式(也称为拖拽模式)的设置通常用于允许用户通过拖拽来重新排序列表中的项目。在RecyclerView中,可以通过设置Adapter的isItemViewSwipeEnabled和isLongPressDragEnabled方法来分别启用滑动和拖拽功能。在编辑模式下,用户可以长按或触摸列表项来实现拖拽,从而对列表进行重新排序。 4. 左右滑动删除的实现: RecyclerView的左右滑动删除功能同样利用ItemTouchHelper类来实现。通过定义Callback中的getMovementFlags方法,可以设置滑动方向,例如,设置左滑或右滑来触发删除操作。在onSwiped方法中编写处理删除的逻辑,比如从数据源中移除相应数据,并通知Adapter更新界面。 5. 移动动画的实现: 在拖拽或滑动操作完成后,往往需要为项目移动提供动画效果,以增强用户体验。在RecyclerView中,可以通过Adapter在数据变更前后调用notifyItemMoved方法来完成位置交换的动画。同样地,添加或删除数据项时,可以调用notifyItemInserted或notifyItemRemoved等方法,并通过自定义动画资源文件来实现丰富的动画效果。 6. 使用ItemTouchHelperDemo-master项目学习: ItemTouchHelperDemo-master是一个实践项目,用来演示如何实现RecyclerView的拖拽和滑动功能。开发者可以通过这个项目源代码来了解和学习如何在实际项目中应用上述知识点,掌握拖拽排序、滑动删除和动画效果的实现。通过观察项目文件和理解代码逻辑,可以更深刻地领会RecyclerView及其辅助类ItemTouchHelper的使用技巧。
recommend-type

【IBM HttpServer入门全攻略】:一步到位的安装与基础配置教程

# 摘要 本文详细介绍了IBM HttpServer的全面部署与管理过程,从系统需求分析和安装步骤开始,到基础配置与性能优化,再到安全策略与故障诊断,最后通过案例分析展示高级应用。文章旨在为系统管理员提供一套系统化的指南,以便快速掌握IBM HttpServer的安装、配置及维护技术。通过本文的学习,读者能有效地创建和管理站点,确保
recommend-type

[root@localhost~]#mount-tcifs-0username=administrator,password=hrb.123456//192.168.100.1/ygptData/home/win mount:/home/win:挂载点不存在

### CIFS挂载时提示挂载点不存在的解决方案 当尝试通过 `mount` 命令挂载CIFS共享目录时,如果遇到错误提示“挂载点不存在”,通常是因为目标路径尚未创建或者权限不足。以下是针对该问题的具体分析和解决方法: #### 创建挂载点 在执行挂载操作之前,需确认挂载的目标路径已经存在并具有适当的权限。可以使用以下命令来创建挂载点: ```bash mkdir -p /mnt/win_share ``` 上述命令会递归地创建 `/mnt/win_share` 路径[^1]。 #### 配置用户名和密码参数 为了成功连接到远程Windows共享资源,在 `-o` 参数中指定 `user
recommend-type

惠普8594E与IT8500系列电子负载使用教程

在详细解释给定文件中所涉及的知识点之前,需要先明确文档的主题内容。文档标题中提到了两个主要的仪器:惠普8594E频谱分析仪和IT8500系列电子负载。首先,我们将分别介绍这两个设备以及它们的主要用途和操作方式。 惠普8594E频谱分析仪是一款专业级的电子测试设备,通常被用于无线通信、射频工程和微波工程等领域。频谱分析仪能够对信号的频率和振幅进行精确的测量,使得工程师能够观察、分析和测量复杂信号的频谱内容。 频谱分析仪的功能主要包括: 1. 测量信号的频率特性,包括中心频率、带宽和频率稳定度。 2. 分析信号的谐波、杂散、调制特性和噪声特性。 3. 提供信号的时间域和频率域的转换分析。 4. 频率计数器功能,用于精确测量信号频率。 5. 进行邻信道功率比(ACPR)和发射功率的测量。 6. 提供多种输入和输出端口,以适应不同的测试需求。 频谱分析仪的操作通常需要用户具备一定的电子工程知识,对信号的基本概念和频谱分析的技术要求有所了解。 接下来是可编程电子负载,以IT8500系列为例。电子负载是用于测试和评估电源性能的设备,它模拟实际负载的电气特性来测试电源输出的电压和电流。电子负载可以设置为恒流、恒压、恒阻或恒功率工作模式,以测试不同条件下的电源表现。 电子负载的主要功能包括: 1. 模拟各种类型的负载,如电阻性、电感性及电容性负载。 2. 实现负载的动态变化,模拟电流的变化情况。 3. 进行短路测试,检查电源设备在过载条件下的保护功能。 4. 通过控制软件进行远程控制和自动测试。 5. 提供精确的电流和电压测量功能。 6. 通过GPIB、USB或LAN等接口与其他设备进行通信和数据交换。 使用电子负载时,工程师需要了解其操作程序、设置和编程方法,以及如何根据测试目的配置负载参数。 文档的描述部分提到了这些资料的专业性和下载人群的稀少。这可能暗示了这些设备的目标用户是具备一定专业知识的工程师和技术人员,因此文档内容将涵盖较为复杂的操作指南和技术细节。 标签中提到了“中文说明书”,表明这些文件是为中文用户提供方便而制作的,这对于不熟悉英语的技术人员来说是非常重要的。这有助于减少语言障碍,使得中文使用者能够更容易掌握这些专业的测试设备使用方法。 综上所述,惠普8594E频谱分析仪和IT8500系列电子负载都是测试设备领域中不可或缺的工具。掌握它们的使用方法和功能对于电子工程师来说是必需的。这些设备在维护和开发电子系统、电源设备以及无线通信设备中起着至关重要的作用。这份文档对于涉及相关领域的工作技术人员,特别是在中国环境下,提供了非常实用和必需的专业知识。
recommend-type

MATLAB与Python在SAR点目标仿真中的对决:哪种工具更胜一筹?

# 摘要 本文系统地探讨了SAR点目标仿真技术,重点分析了MATLAB和Python在这一领域的应用及其潜在价值。首先概述了SAR仿真概念和需求,然后详细介绍了MATLAB在SAR仿真中的功能、信号处理应用以及仿真实例。接着,文章转向Python,分析了其语言特点、生态系统