def load_data(file_name): df = pd.read_csv('data/new_data/' + file_name, encoding='gbk') columns = df.columns df.fillna(df.mean(), inplace=True) return df class MyDataset(Dataset): def init(self, data): self.data = data def getitem(self, item): return self.data[item] def len(self): return len(self.data) def nn_seq_us(B): print('data processing...') dataset = load_data() # split train = dataset[:int(len(dataset) * 0.6)] val = dataset[int(len(dataset) * 0.6):int(len(dataset) * 0.8)] test = dataset[int(len(dataset) * 0.8):len(dataset)] m, n = np.max(train[train.columns[1]]), np.min(train[train.columns[1]]) def process(data, batch_size): load = data[data.columns[1]] load = load.tolist() data = data.values.tolist() load = (load - n) / (m - n) seq = [] for i in range(len(data) - 24): train_seq = [] train_label = [] for j in range(i, i + 24): x = [load[j]] train_seq.append(x) # for c in range(2, 8): # train_seq.append(data[i + 24][c]) train_label.append(load[i + 24]) train_seq = torch.FloatTensor(train_seq) train_label = torch.FloatTensor(train_label).view(-1) seq.append((train_seq, train_label)) # print(seq[-1]) seq = MyDataset(seq) seq = DataLoader(dataset=seq, batch_size=batch_size, shuffle=False, num_workers=0, drop_last=True) return seq Dtr = process(train, B) Val = process(val, B) Dte = process(test, B) return Dtr, Val, Dte, m, n这写代码分别是什么意思
时间: 2024-04-28 15:22:24 浏览: 192
mempool_hook_userdef_0924
这段代码主要是数据处理部分,包括读取数据、分割数据集、归一化、构建数据集和构建数据加载器等。具体解释如下:
- load_data(file_name)函数:读取CSV文件并返回一个DataFrame对象,然后填充缺失值为平均值。
- MyDataset(Dataset)类:定义一个自定义数据集,包含__init__、__getitem__和__len__方法,用于返回数据集中的单个样本和样本数量。
- nn_seq_us(B)函数:主要用于数据处理,包括将数据集分成训练集、验证集和测试集,对数据进行归一化处理,构建数据集和数据加载器。其中,process(data, batch_size)函数用于将数据集转换为模型可以使用的格式,即将前24个数据作为输入序列,第25个数据作为输出标签,最后将处理后的数据集封装为PyTorch的DataLoader对象返回。最后返回训练集、验证集和测试集的DataLoader对象、数据集最大值和最小值。
- Dtr、Val、Dte:分别表示训练集、验证集和测试集的DataLoader对象。
- m、n:表示数据集的最大值和最小值。
阅读全文