# -*- coding: utf-8 -*- """ Transform the data type from ascii to ubyte format (8 bits unsigned binary) and save to new files, which would reduce the data size to 1/3, and would save the data transforming time when read by the python @author: Marmot """ import numpy as np import time from itertools import islice import pandas as pd # data_folder = '../../data/' set_list = ['train','testA','testB'] size_list = [10000,2000,2000] time1= time.time() for set_name,set_size in zip(set_list,size_list): output_file = data_folder + set_name + '_ubyte.txt' f = open(output_file, "w") f.close() Img_ind = 0 input_file = data_folder + set_name +'.txt' with open(input_file) as f: for content in f: Img_ind = Img_ind +1 print('transforming ' + set_name + ': ' + str(Img_ind).zfill(5)) line = content.split(',') title = line[0] + ' '+line[1] data_write = np.asarray(line[2].strip().split(' ')).astype(np.ubyte) data_write = (data_write + 1).astype(np.ubyte) if data_write.max()>255: print('too large') if data_write.min()<0: print('too small') f = open(output_file, "a") f.write(data_write.tobytes()) f.close() time2 = time.time() print('total elapse time:'+ str(time2- time1)) #%% generate train label list value_list =[] set_name = 'train' input_file = data_folder + set_name +'.txt' with open(input_file) as f: for content in f: line = content.split(',') value_list.append(float(line[1])) value_list = pd.DataFrame(value_list, columns=['value']) value_list.to_csv(data_folder + 'train_label.csv',index = False,header = False)

这段代码的主要功能是将数据集中的图像像素值从 ASCII 码转换为无符号 8 位二进制格式，并保存到新文件中，同时生成训练集标签列表。

代码首先定义了一个数据路径列表 `set_list` 和一个数据子集大小列表 `size_list`。然后通过循环遍历每个数据子集，对每个子集执行以下操作：

1. 定义了一个输出文件路径 `output_file`，并创建一个空文件；
2. 读取输入文件 `input_file`，遍历每个图像像素值，并将其转换为无符号 8 位二进制格式；
3. 将转换后的图像像素值写入输出文件中；
4. 遍历完成后，输出文件中将包含整个数据子集的所有图像像素值。

注意，代码中的 `data_folder` 变量指定了数据集所在的文件夹路径。

另外，代码的最后还生成了训练集标签列表。具体来说，代码读取训练集文件 `train.txt`，提取其中的标签信息，并将标签保存到一个 CSV 文件 `train_label.csv` 中，以供后续的模型训练使用。