用梯度下降法求解:f(x1,x2)=x1^2+25*y^2的极小值点,并绘出二维图像。

时间: 2024-06-09 09:09:35 浏览: 145
RAR

梯度下降实现计算f=x^2+y^2最小值

首先,我们需要计算函数 $f(x_1,x_2)=x_1^2+25x_2^2$ 的梯度向量: $$\nabla f(x_1,x_2) = \begin{bmatrix}\frac{\partial f}{\partial x_1} \\ \frac{\partial f}{\partial x_2}\end{bmatrix} = \begin{bmatrix}2x_1 \\ 50x_2\end{bmatrix}$$ 然后,我们可以使用梯度下降法来求解极小值点。具体来说,我们可以从任意初始点 $(x_{1,0}, x_{2,0})$ 开始,不断沿着负梯度方向更新参数: $$\begin{bmatrix}x_{1,t+1} \\ x_{2,t+1}\end{bmatrix} = \begin{bmatrix}x_{1,t} \\ x_{2,t}\end{bmatrix} - \alpha \nabla f(x_{1,t},x_{2,t})$$ 其中,$\alpha$ 是学习率(learning rate),用于控制更新步长的大小。较小的学习率会使更新步长较小,但需要更多的迭代次数才能收敛;较大的学习率会使更新步长较大,但可能会导致算法发散。 下面是 Python 代码实现: ```python import matplotlib.pyplot as plt import numpy as np def f(x1, x2): return x1**2 + 25*x2**2 def grad_f(x1, x2): return np.array([2*x1, 50*x2]) def gradient_descent(x1_0, x2_0, lr, num_iters): x1, x2 = x1_0, x2_0 history = [(x1, x2)] for i in range(num_iters): grad = grad_f(x1, x2) x1 -= lr * grad[0] x2 -= lr * grad[1] history.append((x1, x2)) return history # 梯度下降法求极小值点 history = gradient_descent(1.0, 1.0, 0.1, 100) # 绘制函数图像 x1 = np.linspace(-5, 5, 100) x2 = np.linspace(-5, 5, 100) X1, X2 = np.meshgrid(x1, x2) Y = f(X1, X2) plt.contour(X1, X2, Y, levels=50, cmap='jet') # 绘制梯度下降的轨迹 history = np.array(history) plt.plot(history[:, 0], history[:, 1], 'ro-', label='lr=0.1') plt.legend() plt.xlabel('x1') plt.ylabel('x2') plt.show() ``` 运行结果如下图所示: ![gradient_descent.png](https://img-blog.csdn.net/20180408172721938?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvTW9uaWNhbF9DYXJvbGluZw==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/q/85)
阅读全文

相关推荐

#外点法(能运行出来) import math import sympy import numpy as np from matplotlib import pyplot as plt from mpl_toolkits.mplot3d import Axes3D plt.ion() fig = plt.figure() ax = Axes3D(fig) def draw(x,index,M): # F = f + MM * alpha # FF = sympy.lambdify((x1, x2), F, 'numpy') Z = FF(*(X, Y,M)) ax.plot_surface(X, Y, Z, rstride=1, cstride=1, cmap='rainbow',alpha=0.5) ax.scatter(x[0], x[1], FF(*(x[0],x[1],M)), c='r',s=80) ax.text(x[0], x[1], FF(*(x[0],x[1],M)), 'here:(%0.3f,%0.3f)' % (x[0], x[1])) ax.set_zlabel('F') # 坐标轴 ax.set_ylabel('X2') ax.set_xlabel('X1') plt.pause(0.1) # plt.show() # plt.savefig('./image/%03d' % index) plt.cla() C = 10 # 放大系数 M = 1 # 惩罚因子 epsilon = 1e-5 # 终止限 x1, x2 = sympy.symbols('x1:3') MM=sympy.symbols('MM') f = -x1 + x2 h = x1 + x2 - 1 # g=sympy.log(x2) if sympy.log(x2)<0 else 0 g = sympy.Piecewise((x2-1, x2 < 1), (0, x2 >= 1)) # u=lambda x: alpha = h ** 2 + g ** 2 F = f + MM * alpha # 梯度下降来最小化F def GD(x,M,n): # F = f + M * alpha # delta_x = 1e-11 # 数值求导 # t = 0.0001 # 步长 e = 0.001 # 极限 # my_print(e) np.array(x) for i in range(15): t = sympy.symbols('t') grad = np.asarray( [sympy.diff(F, x1).subs([(x1, x[0]), (x2, x[1]),(MM,M)]), sympy.diff(F, x2).subs([(x1, x[0]), (x2, x[1]),(MM,M)])]) # print('g',grad) # print((x-t*grad)) # print(F.subs([(x1,(x-t*grad)[0]),(x2,(x-t*grad)[1])])) t = sympy.solve(sympy.diff(F.subs([(x1, (x - t * grad)[0]), (x2, (x - t * grad)[1]),(MM,M)]), t), t) print('t',t) x = x - t * grad print('x', x) # print('mmm',M) draw(x,n*10+i,M) # my_print(np.linalg.norm(grad)) # print(type(grad)) if (abs(grad[0]) < e and abs(grad[1]) < e): # print(np.linalg.norm(grad)) print('g', grad) break return list(x) pass x = [-0.5, 0.2] X = np.arange(0, 4, 0.25) Y = np.arange(0, 4,

最新推荐

recommend-type

Python实现多元线性回归方程梯度下降法与求函数极值

上述代码展示了如何绘制三维曲面图以及如何用Python实现梯度下降法求解函数极值。`f2` 函数定义了一个二次函数,`X1` 和 `X2` 分别是自变量的范围,`Y` 是根据 `f2` 计算出的因变量值。接着,代码创建了一个三维图形...
recommend-type

基于java的房地产销售管理系统的开题报告.docx

基于java的房地产销售管理系统的开题报告
recommend-type

小程序 SKU 组件.zip

小程序 SKU 组件小程序 SKU 组件项目依赖了 Vant Weapp 的 Popup、Stepper 等组件和 miniprogram-computed 实现小程序 computed 计算属性代码参考自 Vant 的 SKU 组件源码查看效果运行克隆仓库,导入到微信开发者工具安装依赖npm i开发者工具中的菜单栏工具 -> 构建 npm代码示例<sku show="{{ showSku }}" sku-tree="{{ skuTree }}" sku-list="{{ skuList }}" picture="{{ skuPicture }}" price="{{ skuPrice }}" stock="{{ skuStock }}" bind:close="onCloseSku" bind:add-cart="onSkuAddCart" bind:buy="onSkuBuy"/>Page({ data: { showSku: true, skuTree: [ // 数据结构见
recommend-type

海洋温度变化下鲭鱼与鲱鱼迁徙预测模型

内容概要:本文旨在预测全球变暖背景下鲱鱼与鲭鱼因温度升高而可能发生的迁徙情况。基于过去五十年的全球海表温度数据,采用移动平均滤波法减少随机干扰,构建线性预测模型预测未来五十年海洋温度变化。据此得出最优栖息地预测位置为苏格兰海岸附近的特定经纬度坐标。运用基于细胞自动机模型预测小渔业公司的难捕捞时间,并用模糊综合评价方法评估了渔业公司应对迁徙鱼群的各种策略的有效性。 适合人群:对于气候变化及其对生物种群影响感兴趣的科研工作者和环境保护人士。 使用场景及目标:适用于研究气候变迁导致的生态位移以及相关企业经济活动规划的研究项目。旨在为渔业管理者提供科学依据,帮助制定合理的管理政策。 其他说明:文章还讨论了将部分渔产从捕鱼转向加工的可能性,并提出了一个新思路——在鱼类进入他国水域时尝试加工而非捕捞。实验结果显示,在加入5%的随机干扰后,模型最大相对误差仅为3.98%,证明了模型的稳定性。
recommend-type

账号助手微信小程序.zip

账号助手微信小程序账号助手微信小程序一个用于存储账号和密码的小程序,使用微信小程序云开发,免服务器。功能介绍小程序支持云端存储和本地存储,云端存储数据支持SM4和AES加密,同时支持用户管理,以便授权其他人使用云端存储权限。體驗部署注册程序在project.config.json里补充小程序的appid开通云开发,在miniprogram/env.js里填写云环境ID在云开发后台创建用户、账户和应用集合在cloudfunctions/users/目录下运行npm i(运行前需要安装node和npm)运行测试后,在users集合里自己的账号信息记录中手动添加对应角色字段,值为admin提交审核,大功告成!本人开发的其他小程序(可售源码)【拍拖吧】,一个关于恋爱聊天搭讪的小程序【公号留言助手】,解决新注册公众号没有留言功能的烦恼,并增加粉丝互动,提升运营收入(小程序广告)【王者礼包机器人】,王者相关小程序技术支持麾下本开源项目采用GPLv3许可证“……”如果对你有用,请我吃根冰激凌吧(微信扫一扫)其他欢迎提问和贡献
recommend-type

Python中快速友好的MessagePack序列化库msgspec

资源摘要信息:"msgspec是一个针对Python语言的高效且用户友好的MessagePack序列化库。MessagePack是一种快速的二进制序列化格式,它旨在将结构化数据序列化成二进制格式,这样可以比JSON等文本格式更快且更小。msgspec库充分利用了Python的类型提示(type hints),它支持直接从Python类定义中生成序列化和反序列化的模式。对于开发者来说,这意味着使用msgspec时,可以减少手动编码序列化逻辑的工作量,同时保持代码的清晰和易于维护。 msgspec支持Python 3.8及以上版本,能够处理Python原生类型(如int、float、str和bool)以及更复杂的数据结构,如字典、列表、元组和用户定义的类。它还能处理可选字段和默认值,这在很多场景中都非常有用,尤其是当消息格式可能会随着时间发生变化时。 在msgspec中,开发者可以通过定义类来描述数据结构,并通过类继承自`msgspec.Struct`来实现。这样,类的属性就可以直接映射到消息的字段。在序列化时,对象会被转换为MessagePack格式的字节序列;在反序列化时,字节序列可以被转换回原始对象。除了基本的序列化和反序列化,msgspec还支持运行时消息验证,即可以在反序列化时检查消息是否符合预定义的模式。 msgspec的另一个重要特性是它能够处理空集合。例如,上面的例子中`User`类有一个名为`groups`的属性,它的默认值是一个空列表。这种能力意味着开发者不需要为集合中的每个字段编写额外的逻辑,以处理集合为空的情况。 msgspec的使用非常简单直观。例如,创建一个`User`对象并序列化它的代码片段显示了如何定义一个用户类,实例化该类,并将实例序列化为MessagePack格式。这种简洁性是msgspec库的一个主要优势,它减少了代码的复杂性,同时提供了高性能的序列化能力。 msgspec的设计哲学强调了性能和易用性的平衡。它利用了Python的类型提示来简化模式定义和验证的复杂性,同时提供了优化的内部实现来确保快速的序列化和反序列化过程。这种设计使得msgspec非常适合于那些需要高效、类型安全的消息处理的场景,比如网络通信、数据存储以及服务之间的轻量级消息传递。 总的来说,msgspec为Python开发者提供了一个强大的工具集,用于处理高性能的序列化和反序列化任务,特别是当涉及到复杂的对象和结构时。通过利用类型提示和用户定义的模式,msgspec能够简化代码并提高开发效率,同时通过运行时验证确保了数据的正确性。"
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

STM32 HAL库函数手册精读:最佳实践与案例分析

![STM32 HAL库函数手册精读:最佳实践与案例分析](https://khuenguyencreator.com/wp-content/uploads/2020/07/bai11.jpg) 参考资源链接:[STM32CubeMX与STM32HAL库开发者指南](https://wenku.csdn.net/doc/6401ab9dcce7214c316e8df8?spm=1055.2635.3001.10343) # 1. STM32与HAL库概述 ## 1.1 STM32与HAL库的初识 STM32是一系列广泛使用的ARM Cortex-M微控制器,以其高性能、低功耗、丰富的外设接
recommend-type

如何利用FineReport提供的预览模式来优化报表设计,并确保最终用户获得最佳的交互体验?

针对FineReport预览模式的应用,这本《2020 FCRA报表工程师考试题库与答案详解》详细解读了不同预览模式的使用方法和场景,对于优化报表设计尤为关键。首先,设计报表时,建议利用FineReport的分页预览模式来检查报表的布局和排版是否准确,因为分页预览可以模拟报表在打印时的页面效果。其次,通过填报预览模式,可以帮助开发者验证用户交互和数据收集的准确性,这对于填报类型报表尤为重要。数据分析预览模式则适合于数据可视化报表,可以在这个模式下调整数据展示效果和交互设计,确保数据的易读性和分析的准确性。表单预览模式则更多关注于表单的逻辑和用户体验,可以用于检查表单的流程是否合理,以及数据录入
recommend-type

大学生社团管理系统设计与实现

资源摘要信息:"基于ssm+vue的大学生社团管理系统.zip" 该系统是基于Java语言开发的,使用了ssm框架和vue前端框架,主要面向大学生社团进行管理和运营,具备了丰富的功能和良好的用户体验。 首先,ssm框架是Spring、SpringMVC和MyBatis三个框架的整合,其中Spring是一个全面的企业级框架,可以处理企业的业务逻辑,实现对象的依赖注入和事务管理。SpringMVC是基于Servlet API的MVC框架,可以分离视图和模型,简化Web开发。MyBatis是一个支持定制化SQL、存储过程以及高级映射的持久层框架。 SpringBoot是一种全新的构建和部署应用程序的方式,通过使用SpringBoot,可以简化Spring应用的初始搭建以及开发过程。它使用了特定的方式来进行配置,从而使开发人员不再需要定义样板化的配置。 Vue.js是一个用于创建用户界面的渐进式JavaScript框架,它的核心库只关注视图层,易于上手,同时它的生态系统也十分丰富,提供了大量的工具和库。 系统主要功能包括社团信息管理、社团活动管理、社团成员管理、社团财务管理等。社团信息管理可以查看和编辑社团的基本信息,如社团名称、社团简介等;社团活动管理可以查看和编辑社团的活动信息,如活动时间、活动地点等;社团成员管理可以查看和编辑社团成员的信息,如成员姓名、成员角色等;社团财务管理可以查看和编辑社团的财务信息,如收入、支出等。 此外,该系统还可以通过微信小程序进行访问,微信小程序是一种不需要下载安装即可使用的应用,它实现了应用“触手可及”的梦想,用户扫一扫或者搜一下即可打开应用。同时,它也实现了应用“用完即走”的理念,用户不用关心是否安装太多应用的问题。应用将无处不在,随时可用,但又无需安装卸载。 总的来说,基于ssm+vue的大学生社团管理系统是一款功能丰富、操作简便、使用方便的社团管理工具,非常适合大学生社团的日常管理和运营。