jupyterPCA实验:对data.csv文件中的数据实现PCA操作并实现维度恢复

时间: 2024-03-03 11:52:38 浏览: 80
好的,这是对数据集进行 PCA 操作并实现维度恢复的完整代码: ```python import numpy as np import pandas as pd import matplotlib.pyplot as plt # 1. 数据读取及处理 data = pd.read_csv("data.csv", header=None) X = data.values.T m, n = X.shape # 2. 特征归一化 def feature_normalize(X): mu = np.mean(X, axis=1) sigma = np.std(X, axis=1, ddof=1) X_norm = (X - mu.reshape(-1, 1)) / sigma.reshape(-1, 1) return X_norm, mu, sigma X_norm, mu, sigma = feature_normalize(X) # 3. 计算协方差矩阵 Sigma Sigma = 1 / m * X_norm.dot(X_norm.T) # 4. 奇异值分解[U, S, V] = svd(Sigma) U, S, V = np.linalg.svd(Sigma) # 5. 选择前 k 个主成分 k = 1 U_reduce = U[:, :k] # 6. 维度恢复 Z = U_reduce.T.dot(X_norm) X_rec = U_reduce.dot(Z) # 绘制原始数据和恢复后的数据的散点图 fig, ax = plt.subplots(figsize=(12, 8)) ax.set_aspect('equal') ax.scatter(X[0], X[1], c='blue', marker='o') ax.scatter(X_rec[0], X_rec[1], c='red', marker='o') plt.xlabel('x1') plt.ylabel('x2') plt.title('Original Data Points vs. PCA Recovered Data Points') plt.show() ``` 请注意,我将 k 设置为 1,因此维度恢复到了 1 维。如果您想恢复到其他维度,请相应地更改 k 的值。
阅读全文

相关推荐

import pandas as pd import numpy as np from sklearn.decomposition import PCA from sklearn.preprocessing import StandardScaler import matplotlib.pyplot as plt # 读取数据 data = pd.read_csv('D:\\pythonProject\\venv\\BostonHousing2.csv') # 提取前13个指标的数据 X = data.iloc[:, 5:18].values # 数据标准化 scaler = StandardScaler() X_scaled = scaler.fit_transform(X) # 主成分分析 pca = PCA() X_pca = pca.fit_transform(X_scaled) # 特征值和特征向量 eigenvalues = pca.explained_variance_ eigenvectors = pca.components_.T # 碎石图 # variance_explained我给你放到下一个cell里面了,这里用eigenvalues代替variance_explained plt.plot(range(1, 14), eigenvalues, marker='o') plt.xlabel('Number of Components') plt.ylabel('Cumulative Proportion of Variance Explained') plt.title('Scree Plot') plt.show() # 选择主成分个数 variance_explained = np.cumsum(eigenvalues / np.sum(eigenvalues)) n_components = np.sum(variance_explained <= 0.95) + 1 # 前2个主成分的载荷图 loadings = pd.DataFrame(eigenvectors[:, 0:2], columns=['PC1', 'PC2'], index=data.columns[0:13]) plt.figure(figsize=(10, 6)) plt.scatter(loadings['PC1'], loadings['PC2'], alpha=0.7) for i, feature in enumerate(loadings.index): plt.text(loadings['PC1'][i], loadings['PC2'][i], feature) plt.xlabel('PC1') plt.ylabel('PC2') plt.title('Loading Plot') plt.grid() plt.show() # 主成分得分图 scores = pd.DataFrame(X_pca[:, 0:n_components], columns=['PC{}'.format(i+1) for i in range(n_components)]) plt.figure(figsize=(10, 6)) plt.scatter(scores['PC1'], scores['PC2'], alpha=0.7) for i, label in enumerate(data['medv']): plt.text(scores['PC1'][i], scores['PC2'][i], label) plt.xlabel('PC1') plt.ylabel('PC2') plt.title('Scores Plot') plt.grid() plt.show() # 综合评估和排序 data['PC1_score'] = X_pca[:, 0] sorted_data = data.sort_values(by='PC1_score') # 主成分回归模型 from sklearn.linear_model import LinearRegression Y = data['medv'].values.reshape(-1, 1) X_pca_regression = X_pca[:, 0].reshape(-1, 1) regression_model = LinearRegression() regression_model.fit(X_pca_regression, Y) # 回归方程 intercept = regression_model.intercept_[0] slope = regression_model.coef_[0][0] equation = "medv = {:.2f} + {:.2f} * PC1".format(intercept, slope) print("Regression Equation:", equation) # 最小二乘估计结果 from statsmodels.api import OLS X_const = np.concatenate((np.ones((506, 1)), X_pca_regression), axis=1) ols_model = OLS(Y, X_const).fit() print("OLS Regression Summary:") print(ols_model.summary())

from pyspark.ml.feature import PCA, VectorAssembler from pyspark.ml.classification import LinearSVC from pyspark.ml.tuning import CrossValidator, ParamGridBuilder from pyspark.ml.evaluation import BinaryClassificationEvaluator from pyspark.sql import Row , SparkSession from pyspark import SparkConf # 1.创建spark对象 spark = SparkSession.builder.config(conf = SparkConf()).getOrCreate() # fnlwgt : final-weight 样本权重 # 2.读取数据集 dataPath = "file:///home/adult.data" data = spark.read.format("csv").option("header", "true").load(dataPath) # continuous_vars = ["age","fnlwgt","education-num","capital-gain","capital-loss","hours-per-week"] # 3.数据集预处理(将六个连续型变量提取出来并转化为特征向量) assembler = VectorAssembler(inputCols=["age", "fnlwgt", "education-num", "capital-gain", "capital-loss", "hours-per-week"], outputCol="features") data = assembler.transform(data) # 4.主成分分析 pca = PCA(k=3, inputCol="features", outputCol="pca_features") model = pca.fit(data) data = model.transform(data) # 5.划分训练集和测试集 train_data, test_data = data.randomSplit([0.8, 0.2], seed=123) # 6.构建 svm 模型 svm = LinearSVC(labelCol="label", featuresCol="pca_features") # 7.参数调优 evaluator = BinaryClassificationEvaluator(rawPredictionCol="rawPrediction", labelCol="label", metricName="areaUnderROC") paramGrid = ParamGridBuilder().addGrid(svm.regParam, [0.1, 0.01]).addGrid(svm.maxIter, [10, 100]).addGrid(pca.k, [2, 3]).build() cv = CrossValidator(estimator=svm, evaluator=evaluator, estimatorParamMaps=paramGrid, numFolds=3) cv_model = cv.fit(train_data)

library(splines) library(Matrix) library(fds) library(rainbow) library(MASS) library(pcaPP) library(RCurl) library(fda) library(ggplot2) data<-read.table("D:/CPCI/ECG200/ECG200_TEST.txt") data <- data[, -1] #导入数据的时候第一列是当时已经分好的类,不需要 #######定义了一个计算函数型数据马氏距离的函数 Ma_distance <-function(data,M,H,param){ ###data:导入数据;M:B样条基个数;H:主成分个数;param:控制平滑程度 knee= t(data) t=ncol(data) #使用前需要把data转置 #调参 time = seq(0,1,len=t) smoothing.parameter = param #控制平滑程度(原来是1e-15 Lfdobj = int2Lfd(2) kneebasis = create.bspline.basis(nbasis=M) #选择多少个B样条基(原来给的是20个 kneefdPar = fdPar(kneebasis, Lfdobj, smoothing.parameter) knee.fd = smooth.basis(time, knee, kneefdPar) kn.pcastr = pca.fd(knee.fd$fd, H, kneefdPar,centerfns=TRUE) kneescores = kn.pcastr$scores ##主成分得分 lambda = kn.pcastr$varprop #lambda a=nrow(data) #获取样本个数 b=ncol(kneescores) #获取主成分个数 Mdis=matrix(0,nrow = a,ncol = a) for (i in 1:a) { for (j in 1:a) { l = as.matrix(kneescores[i,]-kneescores[j,]) #主成分得分的第i行-第J行,两个主成分得分向量相减得到的向量 dim(l) = c(1,H) #将向量l的维度由(1,t)设置为(1,H) b = 1/lambda #lambda的向量,维度为(1,H) dim(b)=c(H,1) #将向量lambda的维度改成(1,H) Mdis[i,j]=sqrt((l^2)%*%b) #矩乘 } } return(Mdis) } write.csv (Mdis, file ="D:/CPCI/D.csv")

大家在看

recommend-type

基于自适应权重稀疏典范相关分析的人脸表情识别

为解决当变量个数离散时,典型的相关分析方法不能称为一个稳定模型的问题,提出了一种基于自适应权值的稀疏典型相关分析的人脸表情识别方法。系数收敛的约束,使基向量中的某些系数收敛为0,因此,可以去掉一些对表情识别没有用处的变量。同时,通常由稀疏类别相关分析得出,稀疏权值的选择是固定的在Jaffe和Cohn-Kanade人脸表情数据库上的实验结果,进一步验证了该方法的正确性和有效性。
recommend-type

香港地铁的安全风险管理 (2007年)

概述地铁有限公司在香港建立和实践安全风险管理体系的经验、运营铁路安全管理组织架构、工程项目各阶段的安全风险管理规划、主要安全风险管理任务及分析方法等。
recommend-type

彩虹聚合DNS管理系统V1.3+搭建教程

彩虹聚合DNS管理系统,可以实现在一个网站内管理多个平台的域名解析,目前已支持的域名平台有:阿里云、腾讯云、华为云、西部数码、CloudFlare。本系统支持多用户,每个用户可分配不同的域名解析权限;支持API接口,支持获取域名独立DNS控制面板登录链接,方便各种IDC系统对接。 部署方法: 1、运行环境要求PHP7.4+,MySQL5.6+ 2、设置网站运行目录为public 3、设置伪静态为ThinkPHP 4、访问网站,会自动跳转到安装页面,根据提示安装完成 5、访问首页登录控制面板
recommend-type

一种新型三维条纹图像滤波算法 图像滤波算法.pdf

一种新型三维条纹图像滤波算法 图像滤波算法.pdf
recommend-type

节的一些关于非传统-华为hcnp-数通题库2020/1/16(h12-221)v2.5

到一母线,且需要一个 PQ 负载连接到同一母线。图 22.8 说明电源和负荷模 块的 22.3.6 发电机斜坡加速 发电机斜坡加速模块必须连接到电源模块。电源模块掩模允许具有零或一个输入端口。 输入端口只用在连接斜坡加速模块;不推荐在电源模块中留下未使用的输入端口。图 22.9 说明了斜坡加速模块的用法。注意:发电机斜坡加速数据只有在与 PSAT 图形存取方法接口 (多时段和单位约束的方法)连用时才有效。 22.3.7 发电机储备 发电机储备模块必须连接到一母线,且需要一个 PV 发电机或一个平衡发电机和电源模 块连接到同一母线。图 22.10 说明储备块使用。注意:发电机储备数据只有在与 PSAT OPF 程序连用时才有效。 22.3.8 非传统负载 非传统负载模块是一些在第 即电压依赖型负载,ZIP 型负 载,频率依赖型负载,指数恢复型负载,温控型负载,Jimma 型负载和混合型负载。前两个 可以在 “潮流后初始化”参数设置为 0 时,当作标准块使用。但是,一般来说,所有非传 统负载都需要在同一母线上连接 PQ 负载。多个非传统负载可以连接在同一母线上,不过, 要注意在同一母线上连接两个指数恢复型负载是没有意义的。见 14.8 节的一些关于非传统 负载用法的说明。图 22.11 表明了 Simulink 模型中的非传统负载的用法。 (c)电源块的不正确 .5 电源和负荷 电源块必须连接到一母线,且需要一个 PV 发电机或一个平衡发电机连接到同一 负荷块必须连接 用法。 14 章中所描述的负载模块, 图 22.9:发电机斜坡加速模块用法。 (a)和(b)斜坡加速块的正确用法;(c)斜坡加速块的不正确用法; (d)电源块的不推荐用法

最新推荐

recommend-type

python实现PCA降维的示例详解

这段代码首先读取CSV文件中的数据,然后使用`PCA`类创建一个对象,设定降维的目标为2维。`fit_transform`方法会计算特征值、特征向量,并执行降维操作。最后,降维后的数据被保存到新的CSV文件中。 PCA在很多实际...
recommend-type

CarSim、MATLAB、PreScan,提供车辆动力学、运动控制联合仿真软件安装激活服务,可远程 内容包括: MATLAB R2018b win64 MATLAB R2020a win64 Pre

CarSim、MATLAB、PreScan,提供车辆动力学、运动控制联合仿真软件安装激活服务,可远程 内容包括: MATLAB R2018b win64 MATLAB R2020a win64 PreScan.8.5.0 TruckSim_2019.0 CarSim 2016.1 【其它问题】 打包文件含安装文件和教程,需要点“加好友”吧,需要远程的话20rmb,需要哪款软件可私信我,24h内发。 本人已实现上述软件联合仿真,如需技术指导请私信我^_^
recommend-type

包含300个可选插件rails git macOS hub docker homebrew node php pyth.zip

python
recommend-type

springboot116基于java的教学辅助平台.zip

1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md或论文文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。 5、资源来自互联网采集,如有侵权,私聊博主删除。 6、可私信博主看论文后选择购买源代码。
recommend-type

Terraform AWS ACM 59版本测试与实践

资源摘要信息:"本资源是关于Terraform在AWS上操作ACM(AWS Certificate Manager)的模块的测试版本。Terraform是一个开源的基础设施即代码(Infrastructure as Code,IaC)工具,它允许用户使用代码定义和部署云资源。AWS Certificate Manager(ACM)是亚马逊提供的一个服务,用于自动化申请、管理和部署SSL/TLS证书。在本资源中,我们特别关注的是Terraform的一个特定版本的AWS ACM模块的测试内容,版本号为59。 在AWS中部署和管理SSL/TLS证书是确保网站和应用程序安全通信的关键步骤。ACM服务可以免费管理这些证书,当与Terraform结合使用时,可以让开发者以声明性的方式自动化证书的获取和配置,这样可以大大简化证书管理流程,并保持与AWS基础设施的集成。 通过使用Terraform的AWS ACM模块,开发人员可以编写Terraform配置文件,通过简单的命令行指令就能申请、部署和续订SSL/TLS证书。这个模块可以实现以下功能: 1. 自动申请Let's Encrypt的免费证书或者导入现有的证书。 2. 将证书与AWS服务关联,如ELB(Elastic Load Balancing)、CloudFront和API Gateway等。 3. 管理证书的过期时间,自动续订证书以避免服务中断。 4. 在多区域部署中同步证书信息,确保全局服务的一致性。 测试版本59的资源意味着开发者可以验证这个版本是否满足了需求,是否存在任何的bug或不足之处,并且提供反馈。在这个版本中,开发者可以测试Terraform AWS ACM模块的稳定性和性能,确保在真实环境中部署前一切工作正常。测试内容可能包括以下几个方面: - 模块代码的语法和结构检查。 - 模块是否能够正确执行所有功能。 - 模块与AWS ACM服务的兼容性和集成。 - 模块部署后证书的获取、安装和续订的可靠性。 - 多区域部署的证书同步机制是否有效。 - 测试异常情况下的错误处理机制。 - 确保文档的准确性和完整性。 由于资源中没有提供具体的标签,我们无法从中获取关于测试的详细技术信息。同样,由于只提供了一个文件名“terraform-aws-acm-59-master”,无法得知该模块具体包含哪些文件和代码内容。然而,文件名暗示这是一个主版本(master),通常意味着这是主要的、稳定的分支,开发者可以在其上构建和测试他们的配置。 总之,terraform-aws-acm-59是Terraform的一个AWS ACM模块的测试版本,用于自动化管理和部署SSL/TLS证书。这个模块能够简化证书生命周期的管理,并提高与AWS服务的集成效率。测试工作主要是为了验证版本59的模块是否正常工作,并确保其在真实场景中可靠地执行预期功能。"
recommend-type

【HS1101湿敏电阻全面解析】:从基础知识到深度应用的完整指南

# 摘要 HS1101湿敏电阻作为湿度监测的重要元件,在环境监测、农业、工业等多个领域都有广泛应用。本文首先对湿敏电阻的基本概念及其工作原理进行了概述,接着详细探讨了其特性参数,如响应时间、灵敏度以及温度系数等,并针对HS1101型号提供了选型指南和实际应用场景分析。文章还深入讨论了HS1101湿敏电阻在电路设计中的要点和信号处理方法,提供了实践案例来展示其在智能湿度调节器和农业自动灌溉系统中的应用。最后,本文给出了湿敏电阻的维护保养技巧和故障排除方法,以帮助用户确保湿敏电阻的最佳性能和使用寿命。 # 关键字 湿敏电阻;HS1101;特性参数;电路设计;信号处理;环境监测;故障排除 参考资
recommend-type

MATLAB在一个图形窗口中创建一行两列的子图的代码

在MATLAB中,可以使用`subplot`函数在一个图形窗口中创建多个子图。对于一行两列的子图,可以使用以下代码: ```matlab % 创建第一个子图 subplot(1, 2, 1); plot([1, 2, 3], [4, 5, 6]); title('子图1'); % 创建第二个子图 subplot(1, 2, 2); plot([1, 2, 3], [6, 5, 4]); title('子图2'); ``` 这段代码的详细解释如下: 1. `subplot(1, 2, 1);`:创建一个1行2列的子图布局,并激活第一个子图。 2. `plot([1, 2, 3], [4,
recommend-type

Doks Hugo主题:打造安全快速的现代文档网站

资源摘要信息:"Doks是一个适用于Hugo的现代文档主题,旨在帮助用户构建安全、快速且对搜索引擎优化友好的文档网站。在短短1分钟内即可启动一个具有Doks特色的演示网站。以下是选择Doks的九个理由: 1. 安全意识:Doks默认提供高安全性的设置,支持在上线时获得A+的安全评分。用户还可以根据自己的需求轻松更改默认的安全标题。 2. 默认快速:Doks致力于打造速度,通过删除未使用的CSS,实施预取链接和图像延迟加载技术,在上线时自动达到100分的速度评价。这些优化有助于提升网站加载速度,提供更佳的用户体验。 3. SEO就绪:Doks内置了对结构化数据、开放图谱和Twitter卡的智能默认设置,以帮助网站更好地被搜索引擎发现和索引。用户也能根据自己的喜好对SEO设置进行调整。 4. 开发工具:Doks为开发人员提供了丰富的工具,包括代码检查功能,以确保样式、脚本和标记无错误。同时,还支持自动或手动修复常见问题,保障代码质量。 5. 引导框架:Doks利用Bootstrap框架来构建网站,使得网站不仅健壮、灵活而且直观易用。当然,如果用户有其他前端框架的需求,也可以轻松替换使用。 6. Netlify就绪:Doks为部署到Netlify提供了合理的默认配置。用户可以利用Netlify平台的便利性,轻松部署和维护自己的网站。 7. SCSS支持:在文档主题中提及了SCSS,这表明Doks支持使用SCSS作为样式表预处理器,允许更高级的CSS样式化和模块化设计。 8. 多语言支持:虽然没有在描述中明确提及,但Doks作为Hugo主题,通常具备多语言支持功能,这为构建国际化文档网站提供了便利。 9. 定制性和可扩展性:Doks通过其设计和功能的灵活性,允许用户根据自己的品牌和项目需求进行定制。这包括主题颜色、布局选项以及组件的添加或修改。 文件名称 'docs-main' 可能是Doks主题的核心文件,包含网站的主要内容和配置。这个文件对于设置和维护文档网站来说是至关重要的,因为它包含了网站的主要配置信息,如导航结构、品牌设置、SEO配置等。开发者在使用Doks主题时,将重点调整和优化这个文件以满足具体的项目需求。"
recommend-type

E9流程表单前端接口API(V5):前端与后端协同开发的黄金法则

![E9流程表单前端接口API(V5):前端与后端协同开发的黄金法则](https://opengraph.githubassets.com/4b7b246f81a756c8056ca0f80a5b46fad74e128b86dec7d59f1aeedb4b99c6a7/sotiriosmoustogiannis/process-json-format) # 摘要 本文全面介绍了E9流程表单API(V5)的开发与应用,阐述了协同开发理论基础和前端实践,并结合案例分析展示了API在企业流程自动化中的实战应用。文章首先概述了E9流程表单API(V5)的核心概念,然后详细探讨了前后端协同开发的重要
recommend-type

c#获取路径 Microsoft.Win32.SaveFileDialog saveFileDialog = new Microsoft.Win32.SaveFileDialog();

在 C# 中,`Microsoft.Win32.SaveFileDialog` 是一个用于弹出保存文件对话框的类,允许用户选择保存位置和文件名。当你想要让用户从系统中选择一个文件来保存数据时,可以按照以下步骤使用这个类: 首先,你需要创建一个 `SaveFileDialog` 的实例: ```csharp using System.Windows.Forms; // 引入对话框组件 // 创建 SaveFileDialog 对象 SaveFileDialog saveFileDialog = new SaveFileDialog(); ``` 然后你可以设置对话框的一些属性,比如默认保