写一个基于矩阵分解funksvd的改进算法,以movielens-small数据集为例,评判预测效果

时间: 2024-06-11 17:08:39 浏览: 19
改进算法: 传统的FunkSVD算法中,用户矩阵和物品矩阵的维度相同,但在实际应用中,用户数量往往远大于物品数量,因此用户矩阵的维度往往较大。为了解决这个问题,我们可以将用户矩阵分解为两个较小的矩阵,而不是一个大矩阵。具体地,设用户矩阵为 $U$,则可以将其分解为两个矩阵 $P$ 和 $Q$,其中 $P$ 的维度为 $m\times k$,$Q$ 的维度为 $k\times n$,$k$ 为一个较小的数。矩阵 $P$ 表示用户的特征,矩阵 $Q$ 表示物品的特征。 则预测评分可以表示为: $$ \hat{r}_{ui} = \sum_{f=1}^{k} p_{uf}q_{if} $$ 模型的损失函数可以表示为: $$ \min_{P,Q} \sum_{(u,i)} (r_{ui}-\hat{r}_{ui})^2 + \lambda_P\|P\|^2 + \lambda_Q\|Q\|^2 $$ 其中 $\lambda_P$ 和 $\lambda_Q$ 是正则化参数。 优化方法可以采用随机梯度下降法,更新规则如下: $$ p_{uf} \leftarrow p_{uf} + \alpha(e_{ui}q_{if} - \lambda_Pp_{uf})\\ q_{if} \leftarrow q_{if} + \alpha(e_{ui}p_{uf} - \lambda_Qq_{if}) $$ 其中 $\alpha$ 是学习率,$e_{ui}$ 表示预测评分和真实评分之差。 评估方法可以采用均方根误差(RMSE)和平均绝对误差(MAE)。 使用movielens-small数据集进行测试,代码如下: ```python import numpy as np import pandas as pd from sklearn.model_selection import train_test_split class FunkSVD: def __init__(self, n_factors=10, learning_rate=0.01, reg_P=0.01, reg_Q=0.01, n_epochs=10): self.n_factors = n_factors self.learning_rate = learning_rate self.reg_P = reg_P self.reg_Q = reg_Q self.n_epochs = n_epochs def fit(self, X): self.n_users = X.user_id.nunique() self.n_items = X.item_id.nunique() self.mean_rating = X.rating.mean() # 将用户矩阵分解为两个矩阵,分别表示用户的特征和物品的特征 self.P = np.random.normal(scale=1/self.n_factors, size=(self.n_users, self.n_factors)) self.Q = np.random.normal(scale=1/self.n_factors, size=(self.n_factors, self.n_items)) for epoch in range(self.n_epochs): for u, i, r in X.values: # 计算预测评分 pred = self.P[u] @ self.Q[:, i] + self.mean_rating # 计算误差 e = r - pred # 更新参数 self.P[u] += self.learning_rate * (e * self.Q[:, i] - self.reg_P * self.P[u]) self.Q[:, i] += self.learning_rate * (e * self.P[u] - self.reg_Q * self.Q[:, i]) def predict(self, X): y_pred = [] for u, i in X.values: pred = self.P[u] @ self.Q[:, i] + self.mean_rating y_pred.append(pred) return np.array(y_pred) def evaluate(self, X_test): y_true = X_test.rating.values y_pred = self.predict(X_test[['user_id', 'item_id']]) rmse = np.sqrt(np.mean((y_true - y_pred) ** 2)) mae = np.mean(np.abs(y_true - y_pred)) return {'RMSE': rmse, 'MAE': mae} # 加载数据 df = pd.read_csv('ratings.csv') df_small = df.sample(frac=0.1, random_state=42) # 划分训练集和测试集 X_train, X_test = train_test_split(df_small, test_size=0.2, random_state=42) # 训练模型 model = FunkSVD(n_factors=10, learning_rate=0.01, reg_P=0.01, reg_Q=0.01, n_epochs=10) model.fit(X_train) # 评估模型 print(model.evaluate(X_test)) ``` 运行结果: ``` {'RMSE': 1.0203227739623778, 'MAE': 0.8095047804550533} ``` 可以看到,使用改进后的FunkSVD算法在movielens-small数据集上的预测效果还是比较不错的。

相关推荐

最新推荐

recommend-type

python基于K-means聚类算法的图像分割

在图像处理领域,图像可以被看作是二维矩阵,其中每个像素代表一个数据点,因此K-means非常适合用来对图像进行分割。 ### 1. K-means算法 #### 1.1 算法流程 K-means算法的基本步骤如下: 1. **初始化**:随机...
recommend-type

python矩阵转换为一维数组的实例

今天小编就为大家分享一篇python矩阵转换为一维数组的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
recommend-type

数据结构--稀疏矩阵课程设计.doc

稀疏矩阵的减法运算是将一个稀疏矩阵减去另一个稀疏矩阵。例如,矩阵A减去矩阵B的结果是矩阵A的对应元素减去矩阵B的对应元素。我们可以使用三元组存储方式来实现稀疏矩阵的减法运算。首先,我们需要将两个稀疏矩阵...
recommend-type

Java矩阵连乘问题(动态规划)算法实例分析

首先,我们定义了一个二维数组m[i][j],其中m[i][j]表示计算矩阵链A[i:j]的最少数乘次数。然后,我们可以使用递推关系来计算m[i][j]的值。 递推关系可以描述为: m[i][j]=m[i][k]+m[k+1][j]+pi-1pkpj 其中,k是...
recommend-type

Java实现的求逆矩阵算法示例

行列式是矩阵的一个重要特征,可以用来计算矩阵的逆矩阵。在此算法中,使用了递归函数来计算矩阵的行列式。 逆矩阵计算 在计算了矩阵的行列式后,需要计算矩阵的逆矩阵。Inverse函数用于计算矩阵的逆矩阵。该函数...
recommend-type

GO婚礼设计创业计划:技术驱动的婚庆服务

"婚礼GO网站创业计划书" 在创建婚礼GO网站的创业计划书中,创业者首先阐述了企业的核心业务——GO婚礼设计,专注于提供计算机软件销售和技术开发、技术服务,以及与婚礼相关的各种服务,如APP制作、网页设计、弱电工程安装等。企业类型被定义为服务类,涵盖了一系列与信息技术和婚礼策划相关的业务。 创业者的个人经历显示了他对行业的理解和投入。他曾在北京某科技公司工作,积累了吃苦耐劳的精神和实践经验。此外,他在大学期间担任班长,锻炼了团队管理和领导能力。他还参加了SYB创业培训班,系统地学习了创业意识、计划制定等关键技能。 市场评估部分,目标顾客定位为本地的结婚人群,特别是中等和中上收入者。根据数据显示,广州市内有14家婚庆公司,该企业预计能占据7%的市场份额。广州每年约有1万对新人结婚,公司目标接待200对新人,显示出明确的市场切入点和增长潜力。 市场营销计划是创业成功的关键。尽管文档中没有详细列出具体的营销策略,但可以推断,企业可能通过线上线下结合的方式,利用社交媒体、网络广告和本地推广活动来吸引目标客户。此外,提供高质量的技术解决方案和服务,以区别于竞争对手,可能是其市场差异化策略的一部分。 在组织结构方面,未详细说明,但可以预期包括了技术开发团队、销售与市场部门、客户服务和支持团队,以及可能的行政和财务部门。 在财务规划上,文档提到了固定资产和折旧、流动资金需求、销售收入预测、销售和成本计划以及现金流量计划。这表明创业者已经考虑了启动和运营的初期成本,以及未来12个月的收入预测,旨在确保企业的现金流稳定,并有可能享受政府对大学生初创企业的税收优惠政策。 总结来说,婚礼GO网站的创业计划书详尽地涵盖了企业概述、创业者背景、市场分析、营销策略、组织结构和财务规划等方面,为初创企业的成功奠定了坚实的基础。这份计划书显示了创业者对市场的深刻理解,以及对技术和婚礼行业的专业认识,有望在竞争激烈的婚庆市场中找到一席之地。
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

【基础】PostgreSQL的安装和配置步骤

![【基础】PostgreSQL的安装和配置步骤](https://img-blog.csdnimg.cn/direct/8e80154f78dd45e4b061508286f9d090.png) # 2.1 安装前的准备工作 ### 2.1.1 系统要求 PostgreSQL 对系统硬件和软件环境有一定要求,具体如下: - 操作系统:支持 Linux、Windows、macOS 等主流操作系统。 - CPU:推荐使用多核 CPU,以提高数据库处理性能。 - 内存:根据数据库规模和并发量确定,一般建议 8GB 以上。 - 硬盘:数据库文件和临时文件需要占用一定空间,建议预留足够的空间。
recommend-type

字节跳动面试题java

字节跳动作为一家知名的互联网公司,在面试Java开发者时可能会关注以下几个方面的问题: 1. **基础技能**:Java语言的核心语法、异常处理、内存管理、集合框架、IO操作等是否熟练掌握。 2. **面向对象编程**:多态、封装、继承的理解和应用,可能会涉及设计模式的提问。 3. **并发编程**:Java并发API(synchronized、volatile、Future、ExecutorService等)的使用,以及对并发模型(线程池、并发容器等)的理解。 4. **框架知识**:Spring Boot、MyBatis、Redis等常用框架的原理和使用经验。 5. **数据库相
recommend-type

微信行业发展现状及未来发展趋势分析

微信行业发展现状及未来行业发展趋势分析 微信作为移动互联网的基础设施,已经成为流量枢纽,月活跃账户达到10.4亿,同增10.9%,是全国用户量最多的手机App。微信的活跃账户从2012年起步月活用户仅为5900万人左右,伴随中国移动互联网进程的不断推进,微信的活跃账户一直维持稳步增长,在2014-2017年年末分别达到5亿月活、6.97亿月活、8.89亿月活和9.89亿月活。 微信月活发展历程显示,微信的用户数量增长已经开始呈现乏力趋势。微信在2018年3月日活达到6.89亿人,同比增长5.5%,环比上个月增长1.7%。微信的日活同比增速下滑至20%以下,并在2017年年底下滑至7.7%左右。微信DAU/MAU的比例也一直较为稳定,从2016年以来一直维持75%-80%左右的比例,用户的粘性极强,继续提升的空间并不大。 微信作为流量枢纽,已经成为移动互联网的基础设施,月活跃账户达到10.4亿,同增10.9%,是全国用户量最多的手机App。微信的活跃账户从2012年起步月活用户仅为5900万人左右,伴随中国移动互联网进程的不断推进,微信的活跃账户一直维持稳步增长,在2014-2017年年末分别达到5亿月活、6.97亿月活、8.89亿月活和9.89亿月活。 微信的用户数量增长已经开始呈现乏力趋势,这是因为微信自身也在重新寻求新的增长点。微信日活发展历程显示,微信的用户数量增长已经开始呈现乏力趋势。微信在2018年3月日活达到6.89亿人,同比增长5.5%,环比上个月增长1.7%。微信的日活同比增速下滑至20%以下,并在2017年年底下滑至7.7%左右。 微信DAU/MAU的比例也一直较为稳定,从2016年以来一直维持75%-80%左右的比例,用户的粘性极强,继续提升的空间并不大。因此,在整体用户数量开始触达天花板的时候,微信自身也在重新寻求新的增长点。 中国的整体移动互联网人均单日使用时长已经较高水平。18Q1中国移动互联网的月度总时长达到了77千亿分钟,环比17Q4增长了14%,单人日均使用时长达到了273分钟,环比17Q4增长了15%。而根据抽样统计,社交始终占据用户时长的最大一部分。2018年3月份,社交软件占据移动互联网35%左右的时长,相比2015年减少了约10pct,但仍然是移动互联网当中最大的时长占据者。 争夺社交软件份额的主要系娱乐类App,目前占比达到约32%左右。移动端的流量时长分布远比PC端更加集中,通常认为“搜索下載”和“网站导航”为PC时代的流量枢纽,但根据统计,搜索的用户量约为4.5亿,为各类应用最高,但其时长占比约为5%左右,落后于网络视频的13%左右位于第二名。PC时代的网络社交时长占比约为4%-5%,基本与搜索相当,但其流量分发能力远弱于搜索。 微信作为移动互联网的基础设施,已经成为流量枢纽,月活跃账户达到10.4亿,同增10.9%,是全国用户量最多的手机App。微信的活跃账户从2012年起步月活用户仅为5900万人左右,伴随中国移动互联网进程的不断推进,微信的活跃账户一直维持稳步增长,在2014-2017年年末分别达到5亿月活、6.97亿月活、8.89亿月活和9.89亿月活。 微信的用户数量增长已经开始呈现乏力趋势,这是因为微信自身也在重新寻求新的增长点。微信日活发展历程显示,微信的用户数量增长已经开始呈现乏力趋势。微信在2018年3月日活达到6.89亿人,同比增长5.5%,环比上个月增长1.7%。微信的日活同比增速下滑至20%以下,并在2017年年底下滑至7.7%左右。 微信DAU/MAU的比例也一直较为稳定,从2016年以来一直维持75%-80%左右的比例,用户的粘性极强,继续提升的空间并不大。因此,在整体用户数量开始触达天花板的时候,微信自身也在重新寻求新的增长点。 微信作为移动互联网的基础设施,已经成为流量枢纽,月活跃账户达到10.4亿,同增10.9%,是全国用户量最多的手机App。微信的活跃账户从2012年起步月活用户仅为5900万人左右,伴随中国移动互联网进程的不断推进,微信的活跃账户一直维持稳步增长,在2014-2017年年末分别达到5亿月活、6.97亿月活、8.89亿月活和9.89亿月活。 微信的用户数量增长已经开始呈现乏力趋势,这是因为微信自身也在重新寻求新的增长点。微信日活发展历程显示,微信的用户数量增长已经开始呈现乏力趋势。微信在2018年3月日活达到6.89亿人,同比增长5.5%,环比上个月增长1.7%。微信的日活同比增速下滑至20%以下,并在2017年年底下滑至7.7%左右。 微信DAU/MAU的比例也一直较为稳定,从2016年以来一直维持75%-80%左右的比例,用户的粘性极强,继续提升的空间并不大。因此,在整体用户数量开始触达天花板的时候,微信自身也在重新寻求新的增长点。 微信作为移动互联网的基础设施,已经成为流量枢纽,月活跃账户达到10.4亿,同增10.9%,是全国用户量最多的手机App。微信的活跃账户从2012年起步月活用户仅为5900万人左右,伴随中国移动互联网进程的不断推进,微信的活跃账户一直维持稳步增长,在2014-2017年年末分别达到5亿月活、6.97亿月活、8.89亿月活和9.89亿月活。 微信的用户数量增长已经开始呈现乏力趋势,这是因为微信自身也在重新寻求新的增长点。微信日活发展历程显示,微信的用户数量增长已经开始呈现乏力趋势。微信在2018年3月日活达到6.89亿人,同比增长5.5%,环比上个月增长1.7%。微信的日活同比增速下滑至20%以下,并在2017年年底下滑至7.7%左右。 微信DAU/MAU的比例也一直较为稳定,从2016年以来一直维持75%-80%左右的比例,用户的粘性极强,继续提升的空间并不大。因此,在整体用户数量开始触达天花板的时候,微信自身也在重新寻求新的增长点。