def loadDataset(): filename = "ershoufang_jinan_utf8_clean.csv" names = ["id","communityName","areaName","total","unitPriceValue", "fwhx","szlc","jzmj","hxjg","tnmj", "jzlx","fwcx","jzjg","zxqk","thbl", "pbdt","cqnx","gpsj","jyqs","scjy", "fwyt","fwnx","cqss","dyxx","fbbj", "aa","bb","cc","dd"] miss_value = ["null","暂无数据"] df = pd.read_csv(data_path+filename, header=None,skiprows=[0],names=names,na_values=miss_value) df_latlng = pd.read_csv(data_path +"latlng.csv",skiprows=[0],names=["did","id","communityName","lat","lng"]) del df_latlng["did"] del df_latlng["communityName"] df_merge = pd.merge(df,df_latlng,on="id") data_cluster = df_merge[["id","total","unitPriceValue","jzmj","lat","lng"]] data_cluster = data_cluster.dropna() data_cluster = data_cluster.loc[data_cluster["jzmj"] < 500] data_cluster = data_cluster.loc[data_cluster["total"] < 3000] arr_cluster = np.array(data_cluster).astype(np.float) return arr_cluster data_X = loadDataset() print('data loaded')解释
时间: 2023-07-22 22:10:00 浏览: 440
这段代码定义了一个`loadDataset()`函数,用于加载数据集并进行数据预处理。
首先,函数中定义了一个变量`filename`,表示数据集文件的名称为"ershoufang_jinan_utf8_clean.csv"。然后,定义了一个`names`列表,包含了数据集中的列名。`miss_value`列表表示需要被视为缺失值的特殊值。
接下来,使用`pd.read_csv()`函数读取数据集文件,并设置参数`header=None`表示数据集文件没有列名,`skiprows=[0]`表示跳过第一行(即跳过文件的列名行),`names=names`表示使用之前定义的列名进行命名,`na_values=miss_value`表示将`miss_value`列表中的特殊值视为缺失值。这样就得到了一个包含完整数据的DataFrame `df`。
然后,使用`pd.read_csv()`函数读取名为"latlng.csv"的文件,并设置参数`skiprows=[0]`表示跳过第一行(即跳过文件的列名行),`names=["did","id","communityName","lat","lng"]`表示为这个DataFrame命名列名。接着,通过删除不需要的列来精简DataFrame,即删除了"did"和"communityName"列。
接下来,使用`pd.merge()`函数根据"id"列将两个DataFrame `df`和`df_latlng`合并为一个新的DataFrame `df_merge`。
然后,从合并后的DataFrame `df_merge`中选取所需的特征列,并存储在`data_cluster`中。之后,使用`dropna()`函数删除包含缺失值的行,`loc[]`函数进行数据筛选,保留"jzmj"(建筑面积)小于500且"total"(总价)小于3000的样本。最后,将`data_cluster`转换为Numpy数组,并将其返回给调用者。
最后,通过调用`loadDataset()`函数将加载和预处理之后的数据存储在`data_X`变量中,并打印出"data loaded"表示数据加载完成。
阅读全文