逐行解释每行代码,最后按照这样说明——从什么文件里进行提取,进行了什么操作,得到了什么文件。注意,每个函数内部也要逐行说明

时间: 2024-10-22 08:26:47 浏览: 73
### 代码逐行解释 #### 导入库 ```python import pandas as pd import json import os import torch from sklearn.decomposition import PCA ``` - `pandas` 用于数据处理和分析。 - `json` 用于处理 JSON 文件。 - `os` 用于文件和目录操作。 - `torch` 用于深度学习(虽然在当前代码中未使用)。 - `PCA` 用于主成分分析(虽然在当前代码中未使用)。 #### 文档目的 ```python """ 本代码的目的是从调度算法得到的log中提取过程数据。 实际操作为分别把WaferInfo, JobList, 已执行的Move提取出来并保存为csv文件。 labels:指new_job_in实际时间。 """ ``` - 这段注释说明了代码的主要目的:从调度算法的日志中提取 WaferInfo、JobList 和已执行的 Move 数据,并将它们保存为 CSV 文件。同时提到 labels 是指新 job 的实际开始时间。 #### 函数定义 ##### `min_max_normalize` ```python def min_max_normalize(data, column): """ 对数据集中指定列进行归一化处理 :param data: pandas DataFrame 对象 :param column: 需要归一化的列名 :return: 归一化后的数据集 """ min_val = data[column].min() max_val = data[column].max() data[column] = (data[column] - min_val) / (max_val - min_val) return data ``` - 定义了一个函数 `min_max_normalize`,用于对数据集中指定列进行归一化处理。 - `min_val` 计算指定列的最小值。 - `max_val` 计算指定列的最大值。 - 将指定列的值归一化为 `[0, 1]` 范围内的值。 - 返回归一化后的数据集。 ##### `get_wafer_info` ```python def get_wafer_info(data, base_path): """ 提取WaferInfo数据 """ df = pd.DataFrame() for item in data: if 'WaferInfo' in item['Info'] and item['Info']['WaferInfo'] != []: RT = item['RealTime'] steps = item['Info']['WaferInfo'] time = item['Info']['Time'] for s in steps: del s['WaferFlows'] s['RealTime'] = RT s['Time'] = time df1 = pd.DataFrame(s, index=[0]) df = pd.concat([df, df1], axis=0, join='outer') save_path = os.path.join(base_path, 'data_w.csv') df.to_csv(save_path, index=False, encoding='utf-8', float_format='%.4f') return df ``` - 定义了一个函数 `get_wafer_info`,用于提取 WaferInfo 数据。 - 初始化一个空的 DataFrame `df`。 - 遍历 `data` 中的每一项 `item`。 - 如果 `item` 中有 `WaferInfo` 且不为空,则提取 `RealTime` 和 `Time`。 - 遍历 `steps` 中的每一个步骤 `s`,删除 `s` 中的 `WaferFlows` 字段,添加 `RealTime` 和 `Time` 字段。 - 将 `s` 转换为 DataFrame 并追加到 `df` 中。 - 保存 `df` 到 `base_path` 下的 `data_w.csv` 文件。 - 返回 `df`。 ##### `get_move_state` ```python def get_move_state(data, base_path): """ 提取已经执行的Move数据 """ df = pd.DataFrame() for item in data: if 'MoveState' in item['Info'] and item['Info']['MoveState'] != []: RT = item['RealTime'] T = item['Info']['Time'] s = item['Info']['MoveState'] for d in s: d['RealTime'] = RT d['Time'] = T df1 = pd.DataFrame(s, index=[0]) df = pd.concat([df, df1], axis=0, join='outer') save_path = os.path.join(base_path, 'data_z.csv') df.to_csv(save_path, index=False, encoding='utf-8', float_format='%.4f') return df ``` - 定义了一个函数 `get_move_state`,用于提取已经执行的 Move 数据。 - 初始化一个空的 DataFrame `df`。 - 遍历 `data` 中的每一项 `item`。 - 如果 `item` 中有 `MoveState` 且不为空,则提取 `RealTime` 和 `Time`。 - 遍历 `s` 中的每一个步骤 `d`,添加 `RealTime` 和 `Time` 字段。 - 将 `s` 转换为 DataFrame 并追加到 `df` 中。 - 保存 `df` 到 `base_path` 下的 `data_z.csv` 文件。 - 返回 `df`。 ##### `get_joblist` ```python def get_joblist(data, base_path): """ 提取JobList数据 """ df = pd.DataFrame() for item in data: if 'JobList' in item['Info'] 和 item['Info']['JobList'] != []: RT = item['RealTime'] steps = item['Info']['JobList'] for s in steps: del s['MatID'] s['RealTime'] = RT df1 = pd.DataFrame(s, index=[0]) df = pd.concat([df, df1], axis=0, join='outer') save_path = os.path.join(base_path, 'data_j.csv') df.to_csv(save_path, index=False, encoding='utf-8', float_format='%.4f') return df ``` - 定义了一个函数 `get_joblist`,用于提取 JobList 数据。 - 初始化一个空的 DataFrame `df`。 - 遍历 `data` 中的每一项 `item`。 - 如果 `item` 中有 `JobList` 且不为空,则提取 `RealTime`。 - 遍历 `steps` 中的每一个步骤 `s`,删除 `s` 中的 `MatID` 字段,添加 `RealTime` 字段。 - 将 `s` 转换为 DataFrame 并追加到 `df` 中。 - 保存 `df` 到 `base_path` 下的 `data_j.csv` 文件。 - 返回 `df`。 ##### `get_state_job` ```python def get_state_job(df1, df2, base_path): """ :param df1: job_df, JobList数据 :param df2: z_df, 已经执行的Move数据 :param base_path: :return: 左连接数据 """ dfr = df2.merge(df1, on='MoveID', how='left') cond1 = dfr['RealTime_x'] > dfr['RealTime_y'] cond2 = dfr['EndTime_x'] == -1 dfr = dfr[cond1 & cond2] idx = dfr.groupby('MoveID')['RealTime_y'].idxmax() dfr = dfr.loc[idx] save_path = os.path.join(base_path, 'data_z_j.csv') dfr.to_csv(save_path, index=False, encoding='utf-8', float_format='%.4f') return dfr ``` - 定义了一个函数 `get_state_job`,用于合并 JobList 数据和已经执行的 Move 数据。 - 将 `df2` 和 `df1` 按 `MoveID` 进行左连接,得到 `dfr`。 - 应用两个条件过滤 `dfr`: - `cond1`:`RealTime_x` 大于 `RealTime_y`。 - `cond2`:`EndTime_x` 等于 `-1`。 - 按 `MoveID` 分组,获取每组中 `RealTime_y` 最大值的索引。 - 保留这些索引对应的行。 - 保存 `dfr` 到 `base_path` 下的 `data_z_j.csv` 文件。 - 返回 `dfr`。 ##### `get_labels` ```python def get_labels(dfr, base_path): """ 提取label数据 """ cond1 = dfr['ModuleName'] == 'FoupRobot' cond2 = dfr['Src'].str.startswith('Buffer') cond3 = dfr['Dest'] == 'Opener2' cond4 = dfr['JobId'] != -1.0 l_df = dfr[cond1 & cond2 & cond3 & cond4] min_indices = l_df.groupby('JobId')['StartTime_x'].idxmin() l_df = l_df.loc[min_indices] save_path = os.path.join(base_path, 'data_labels.csv') l_df.to_csv(save_path, index=False, encoding='utf-8', float_format='%.4f') return l_df ``` - 定义了一个函数 `get_labels`,用于提取标签数据。 - 应用四个条件过滤 `dfr`: - `cond1`:`ModuleName` 等于 `'FoupRobot'`。 - `cond2`:`Src` 以 `'Buffer'` 开头。 - `cond3`:`Dest` 等于 `'Opener2'`。 - `cond4`:`JobId` 不等于 `-1.0`。 - 按 `JobId` 分组,获取每组中 `StartTime_x` 最小值的索引。 - 保留这些索引对应的行。 - 保存 `l_df` 到 `base_path` 下的 `data_labels.csv` 文件。 - 返回 `l_df`。 #### 主程序 ```python if __name__ == "__main__": root_path = 'D:/project/fjsp-drl-main/data/2024_07_29' file_paths = [] for root, dirs, files in os.walk(root_path): for file in files: file_path = os.path.join(root, file) file_paths.append(file_path) for i in range(len(file_paths)): file_path = file_paths[i] with open(file_path, 'r') as file: data = json.load(file) base_path = os.path.join('D:/project/fjsp-drl-main/data/data_07_30', str(i)) if not os.path.exists(base_path): os.mkdir(base_path) # 获取waferinfo文件,为向调度器输入的input信息,被认为表示整个机台状态的数据,df_w state_df = get_wafer_info(data, base_path) # 获取joblist数据,被认为表示调度方案,可表征工序特征,df_j job_df = get_joblist(data, base_path) # 获取执行数据,为向调度器输入的input信息 z_df z_df = get_move_state(data, base_path) # 左连接已执行数据z_df,提取相关job执行信息,df_z_j z_j_df = get_state_job(job_df, z_df, base_path) # 获取标签数据,本项目中为新job的开始时间,可以更换其他时间,df_label label_df = get_labels(z_j_df, base_path) ``` - 设置根目录 `root_path`。 - 遍历 `root_path` 下的所有文件,将文件路径存储在 `file_paths` 列表中。 - 遍历 `file_paths` 中的每一个文件路径 `file_path`。 - 打开文件并加载 JSON 数据到 `data`。 - 创建保存结果的目录 `base_path`。 - 调用 `get_wafer_info` 提取 WaferInfo 数据并保存为 `data_w.csv`。 - 调用 `get_joblist` 提取 JobList 数据并保存为 `data_j.csv`。 - 调用 `get_move_state` 提取 Move 数据并保存为 `data_z.csv`。 - 调用 `get_state_job` 合并 JobList 和 Move 数据并保存为 `data_z_j.csv`。 - 调用 `get_labels` 提取标签数据并保存为 `data_labels.csv`。 ### 总结 - **输入文件**:从 `D:/project/fjsp-drl-main/data/2024_07_29` 目录下的 JSON 文件中读取日志数据。 - **操作**: - 提取 WaferInfo 数据并保存为 `data_w.csv`。 - 提取 JobList 数据并保存为 `data_j.csv`。 - 提取 Move 数据并保存为 `data_z.csv`。 - 合并 JobList 和 Move 数据并保存为 `data_z_j.csv`。 - 提取标签数据并保存为 `data_labels.csv`。 - **输出文件**:所有提取的数据都保存在 `D:/project/fjsp-drl-main/data/data_07_30` 目录下,每个子目录对应一个输入文件。
阅读全文

相关推荐

大家在看

recommend-type

Folder-Lock:这是测试

文件夹锁 这个程序是用 c# 和一个 winform 应用程序编写的。 这是最好的和简单的文件夹锁定应用程序。 您可以使用代码锁定任何文件夹。 您只需要在代码中更改密码即可使用。 编译它,构建它并使用它。 您也可以根据需要对其进行修改。 欢迎反馈。 谢谢你。
recommend-type

omnet++(tictoc 教程中文版)指南

这是个简短的教程,通过一个建模和仿真的实例来引导你入门 OMNET++,同时向你介绍一些广泛使用的 OMNET++特性。 本教程基于一个简单的 Tictoc 仿真样例,该样例保存在 OMNET++安装目录下的 sample/tictoc 子目录,所以你现在就可以试着让这个样例运行,但如果你跟着下面的步骤一步一步来的话,将会收获更多。
recommend-type

实验指导书

单片机课程的实验指导文献,可以帮助同学们指导如何完成
recommend-type

网上选课系统分析与设计(计算机本科毕业设计-UML建模)

主要内容为: 网上选课系统的产生是因为目前高校扩招后,在校学生日益增多。如果仍然通过传统的纸上方式选课,既浪费大量的人力物力,又浪费时间。同时,在人为的统计过程中不可避免出现的错误。因此,通过借助网络系统,让学生只要在电脑中输入自己的个人选课信息来替代有纸化的手工操作成为高校管理的必然趋势。该信息系统能够为学生提供方便的选课功能,也能够提高高等院校对学生和教学管理的效率。 1需求分析 网上选课系统的功能性需求包括以下内容: (1)系统管理员负责系统的管理维护工作,维护工作包括课程的添加、删除和修改,对学生基本信息的添加、修改、查询和删除。 (2)学生通过客户机浏览器根据学号和密码进入选课界面,在这里学生可以进行查询已选课程、指定自己的选修课程以及对自己基本信息的查询。 满足上述需求的系统主要包括以下几个小的系统模块: (1)基本业务处理模块。基本业务处理模块主要用于实现学生通过合法认证登录到该系统中进行网上课程的选择和确定。 (2)信息查询模块。信息查询模块主要用于实现学生对选课信息的查询和自身信息的查询。 (3)系统维护模块。系统维护模块主要用于实现系统管理员对系统的管理和对数据库的维护,系统的管理包括学生信息、课程信息等信息的维护。数据库的维护包括数据库的备份、恢复等数据库管理操作。 2系统建模 2.1创建系统用例模型 2.2创建系统静态模型 2.3创建系统动态模型 2.3.1 创建序列图和协作图 2.3.2 创建活动图 2.3.3 创建状态图 2.4创建系统部署模型
recommend-type

天文算法英文版——jean meeus

accuracey, curve fitting,iteration,sorting numbers,julian day,date of ester....

最新推荐

recommend-type

C++操作文件进行读取、删除、修改指定行

在C++编程中,操作文件是常见的任务,包括读取、删除和修改文件中的特定行。本文将详细讲解如何使用C++实现这些功能,并提供相关的函数实现。 首先,要读取文件中的指定行,可以使用`ifstream`类来打开文件,并通过...
recommend-type

Shell脚本从文件中逐行读取内容的几种方法实例

在Shell脚本中,从文件中逐行读取内容是常见的操作,通常用于处理文本文件。这里我们将详细介绍三种不同的方法:使用for循环、定义代码块并重定向以及使用while循环结合read命令。 **1. 使用for循环从文件中逐行...
recommend-type

C语言从txt文件中逐行读入数据存到数组中的实现方法

在C语言中,从文本文件(如`.txt`文件)中读取数据并存储到数组是一种常见的操作。这里我们将详细探讨如何实现这个过程,特别是在处理包含二维数据的文件时。 首先,我们需要打开文件并检查是否成功打开。使用`...
recommend-type

Java8中使用一行代码读取文件

Java 8 提供了更加简洁和高效的文件读取方式,使得开发者可以在一行代码内完成文件的读取。然而,需要注意的是,这些方法并不适合处理非常大的文件,因为它们可能会消耗大量内存,导致内存溢出(OutOfMemoryError)...
recommend-type

C语言实现修改文本文件中特定行的实现代码

通过`fgets()`函数逐行读取文件`cc.cfg`,然后使用`sscanf()`解析每一行,提取出键值对。 在解析过程中,代码比较`buffer1`与目标字符串"wireless.1.current_state",如果匹配成功,表明找到了需要修改的行。此时,...
recommend-type

易语言例程:用易核心支持库打造功能丰富的IE浏览框

资源摘要信息:"易语言-易核心支持库实现功能完善的IE浏览框" 易语言是一种简单易学的编程语言,主要面向中文用户。它提供了大量的库和组件,使得开发者能够快速开发各种应用程序。在易语言中,通过调用易核心支持库,可以实现功能完善的IE浏览框。IE浏览框,顾名思义,就是能够在一个应用程序窗口内嵌入一个Internet Explorer浏览器控件,从而实现网页浏览的功能。 易核心支持库是易语言中的一个重要组件,它提供了对IE浏览器核心的调用接口,使得开发者能够在易语言环境下使用IE浏览器的功能。通过这种方式,开发者可以创建一个具有完整功能的IE浏览器实例,它不仅能够显示网页,还能够支持各种浏览器操作,如前进、后退、刷新、停止等,并且还能够响应各种事件,如页面加载完成、链接点击等。 在易语言中实现IE浏览框,通常需要以下几个步骤: 1. 引入易核心支持库:首先需要在易语言的开发环境中引入易核心支持库,这样才能在程序中使用库提供的功能。 2. 创建浏览器控件:使用易核心支持库提供的API,创建一个浏览器控件实例。在这个过程中,可以设置控件的初始大小、位置等属性。 3. 加载网页:将浏览器控件与一个网页地址关联起来,即可在控件中加载显示网页内容。 4. 控制浏览器行为:通过易核心支持库提供的接口,可以控制浏览器的行为,如前进、后退、刷新页面等。同时,也可以响应浏览器事件,实现自定义的交互逻辑。 5. 调试和优化:在开发完成后,需要对IE浏览框进行调试,确保其在不同的操作和网页内容下均能够正常工作。对于性能和兼容性的问题需要进行相应的优化处理。 易语言的易核心支持库使得在易语言环境下实现IE浏览框变得非常方便,它极大地降低了开发难度,并且提高了开发效率。由于易语言的易用性,即使是初学者也能够在短时间内学会如何创建和操作IE浏览框,实现网页浏览的功能。 需要注意的是,由于IE浏览器已经逐渐被微软边缘浏览器(Microsoft Edge)所替代,使用IE核心的技术未来可能面临兼容性和安全性的挑战。因此,在实际开发中,开发者应考虑到这一点,并根据需求选择合适的浏览器控件实现技术。 此外,易语言虽然简化了编程过程,但其在功能上可能不如主流的编程语言(如C++, Java等)强大,且社区和技术支持相比其他语言可能较为有限,这些都是在选择易语言作为开发工具时需要考虑的因素。 文件名列表中的“IE类”可能是指包含实现IE浏览框功能的类库或者示例代码。在易语言中,类库是一组封装好的代码模块,其中包含了各种功能的实现。通过在易语言项目中引用这些类库,开发者可以简化开发过程,快速实现特定功能。而示例代码则为开发者提供了具体的实现参考,帮助理解和学习如何使用易核心支持库来创建IE浏览框。
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

STM32F407ZG引脚功能深度剖析:掌握引脚分布与配置的秘密(全面解读)

![STM32F407ZG引脚功能深度剖析:掌握引脚分布与配置的秘密(全面解读)](https://tapit.vn/wp-content/uploads/2019/01/cubemx-peripheral-1024x545.png) # 摘要 本文全面介绍了STM32F407ZG微控制器的引脚特性、功能、配置和应用。首先概述了该芯片的引脚布局,然后详细探讨了标准外设、高级控制以及特殊功能引脚的不同配置和使用方法。在此基础上,文章深入分析了引脚模式配置、高级配置技巧,并提供了实际应用案例,如LED控制和串口通信。在设计方面,阐述了引脚布局策略、多层板设计及高密度引脚应用的解决方案。最后,介绍
recommend-type

给出文档中问题的答案代码

您提到的是需要编写MATLAB代码来实现文档中的实验任务。以下是根据文档内容编写的MATLAB代码示例: ```matlab % 上机2 实验代码 % 读取输入图像 inputImage = imread('your_face_image.jpg'); % 替换为您的图像文件路径 if size(inputImage, 1) < 1024 || size(inputImage, 2) < 1024 error('图像尺寸必须大于1024x1024'); end % 将彩色图像转换为灰度图像 grayImage = rgb2gray(inputImage); % 调整图像大小为5
recommend-type

Docker构建与运行Next.js应用的指南

资源摘要信息:"rivoltafilippo-next-main" 在探讨“rivoltafilippo-next-main”这一资源时,首先要从标题“rivoltafilippo-next”入手。这个标题可能是某一项目、代码库或应用的命名,结合描述中提到的Docker构建和运行命令,我们可以推断这是一个基于Docker的Node.js应用,特别是使用了Next.js框架的项目。Next.js是一个流行的React框架,用于服务器端渲染和静态网站生成。 描述部分提供了构建和运行基于Docker的Next.js应用的具体命令: 1. `docker build`命令用于创建一个新的Docker镜像。在构建镜像的过程中,开发者可以定义Dockerfile文件,该文件是一个文本文件,包含了创建Docker镜像所需的指令集。通过使用`-t`参数,用户可以为生成的镜像指定一个标签,这里的标签是`my-next-js-app`,意味着构建的镜像将被标记为`my-next-js-app`,方便后续的识别和引用。 2. `docker run`命令则用于运行一个Docker容器,即基于镜像启动一个实例。在这个命令中,`-p 3000:3000`参数指示Docker将容器内的3000端口映射到宿主机的3000端口,这样做通常是为了让宿主机能够访问容器内运行的应用。`my-next-js-app`是容器运行时使用的镜像名称,这个名称应该与构建时指定的标签一致。 最后,我们注意到资源包含了“TypeScript”这一标签,这表明项目可能使用了TypeScript语言。TypeScript是JavaScript的一个超集,它添加了静态类型定义的特性,能够帮助开发者更容易地维护和扩展代码,尤其是在大型项目中。 结合资源名称“rivoltafilippo-next-main”,我们可以推测这是项目的主目录或主仓库。通常情况下,开发者会将项目的源代码、配置文件、构建脚本等放在一个主要的目录中,这个目录通常命名为“main”或“src”等,以便于管理和维护。 综上所述,我们可以总结出以下几个重要的知识点: - Docker容器和镜像的概念以及它们之间的关系:Docker镜像是静态的只读模板,而Docker容器是从镜像实例化的动态运行环境。 - `docker build`命令的使用方法和作用:这个命令用于创建新的Docker镜像,通常需要一个Dockerfile来指定构建的指令和环境。 - `docker run`命令的使用方法和作用:该命令用于根据镜像启动一个或多个容器实例,并可指定端口映射等运行参数。 - Next.js框架的特点:Next.js是一个支持服务器端渲染和静态网站生成的React框架,适合构建现代的Web应用。 - TypeScript的作用和优势:TypeScript是JavaScript的一个超集,它提供了静态类型检查等特性,有助于提高代码质量和可维护性。 - 项目资源命名习惯:通常项目会有一个主目录,用来存放项目的源代码和核心配置文件,以便于项目的版本控制和团队协作。 以上内容基于给定的信息进行了深入的分析,为理解该项目的构建、运行方式以及技术栈提供了基础。在实际开发中,开发者应当参考更详细的文档和指南,以更高效地管理和部署基于Docker和TypeScript的Next.js项目。