adult_data = pd.read_csv('dataset/adult.data', header=None, names=headers, sep=',\s', na_values=["?"], engine='python')
时间: 2024-05-23 20:14:08 浏览: 10
这段代码使用 Pandas 库中的 `read_csv` 函数读取了一个名为 `adult.data` 的 CSV 文件,并将其转换为一个 Pandas DataFrame 对象。其中,`header=None` 表示该 CSV 文件没有列名,而 `names=headers` 则指定了 DataFrame 的列名,`sep=',\s'` 表示该 CSV 文件使用逗号和空格作为分隔符,`na_values=["?"]` 指定了将问号(?)视为缺失值,`engine='python'` 则表示使用 Python 解析引擎来解析该 CSV 文件。
相关问题
train_data = pd.read_csv('mnist_dataset/mnist_train.csv') test_data = pd.read_csv('mnist_dataset/mnist_test.csv')对上述mnist数据集进行深度神经网络搭建,标准化和归一化的代码请给出
对MNIST数据集进行深度神经网络搭建时,可以使用以下代码对数据进行标准化和归一化:
```python
import pandas as pd
import numpy as np
from sklearn.preprocessing import StandardScaler, MinMaxScaler
# 加载数据集
train_data = pd.read_csv('mnist_dataset/mnist_train.csv')
test_data = pd.read_csv('mnist_dataset/mnist_test.csv')
# 提取特征和标签
X_train, y_train = train_data.iloc[:, 1:].values, train_data.iloc[:, 0].values
X_test, y_test = test_data.iloc[:, 1:].values, test_data.iloc[:, 0].values
# 标准化
scaler = StandardScaler()
X_train_std = scaler.fit_transform(X_train)
X_test_std = scaler.transform(X_test)
# 归一化
normalizer = MinMaxScaler()
X_train_norm = normalizer.fit_transform(X_train)
X_test_norm = normalizer.transform(X_test)
```
首先通过`pd.read_csv`加载MNIST数据集,然后使用`iloc`方法提取特征和标签。接着使用`StandardScaler`对数据进行标准化处理,或者使用`MinMaxScaler`对数据进行归一化处理。最后得到标准化和归一化后的特征数据`X_train_std, X_test_std, X_train_norm, X_test_norm`。
if __name__ == '__main__': parser = argparse.ArgumentParser() parser.add_argument('--path', type=str, default=r"data/UCI HAR Dataset/UCI HAR Dataset", help='UCI dataset data path') parser.add_argument('--save', type=str, default='data/UCI_Smartphone_Raw.csv', help='save file name') args = parser.parse_args() data_path = args.path # read train subjects train_subjects = pd.read_csv(os.path.join(data_path, 'train/subject_train.txt'), header=None, names=['subject']) # read test subjects test_subjects = pd.read_csv(os.path.join(data_path, 'test/subject_test.txt'), header=None, names=['subject']) # concat subjects = pd.concat([train_subjects, test_subjects], axis=0) # read train labels train_labels = pd.read_csv(os.path.join(data_path, 'train/y_train.txt'), header=None, names=['label']) # read train labels test_labels = pd.read_csv(os.path.join(data_path, 'test/y_test.txt'), header=None, names=['label']) # labels labels = pd.concat([train_labels, test_labels], axis=0) final_dataframe = pd.concat([subjects, labels], axis=1) data = [] for name in COLUMNS: final_dataframe = pd.concat([final_dataframe, read_txt(name)], axis=1) final_dataframe.to_csv(args.save,index=False) 如何将文中txt文件改成mnist数据集数据,其他不做大修改
要将代码修改为使用MNIST数据集而不是txt文件,你需要进行以下修改:
1. 导入所需的库和模块:
```python
import numpy as np
import pandas as pd
from sklearn.datasets import fetch_openml
```
2. 加载MNIST数据集:
```python
mnist = fetch_openml('mnist_784', version=1, cache=True)
```
3. 将图像矩阵和标签分别存储为numpy数组:
```python
X = mnist.data
y = mnist.target
```
4. 创建一个包含所有数据的Pandas数据框:
```python
df = pd.DataFrame(X)
df['label'] = y
```
5. 将数据框保存为CSV文件:
```python
df.to_csv(args.save, index=False)
```
注意,这里我们使用了`args.save`作为保存文件名,这是根据你之前的代码中的`--save`命令行参数来决定的。
除了以上修改,你还需要删除以下代码块,因为MNIST数据集已经包含了图像数据和标签,不需要再读取其他文件:
```python
# read train subjects
train_subjects = pd.read_csv(os.path.join(data_path, 'train/subject_train.txt'), header=None, names=['subject'])
# read test subjects
test_subjects = pd.read_csv(os.path.join(data_path, 'test/subject_test.txt'), header=None, names=['subject'])
# concat
subjects = pd.concat([train_subjects, test_subjects], axis=0)
# read train labels
train_labels = pd.read_csv(os.path.join(data_path, 'train/y_train.txt'), header=None, names=['label'])
# read train labels
test_labels = pd.read_csv(os.path.join(data_path, 'test/y_test.txt'), header=None, names=['label'])
# labels
labels = pd.concat([train_labels, test_labels], axis=0)
final_dataframe = pd.concat([subjects, labels], axis=1)
data = []
for name in COLUMNS:
final_dataframe = pd.concat([final_dataframe, read_txt(name)], axis=1)
```
这些修改后的代码将直接将MNIST数据集转换为CSV文件,并保存到指定的路径中。
相关推荐
![csv](https://img-home.csdnimg.cn/images/20210720083646.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![gz](https://img-home.csdnimg.cn/images/20210720083447.png)