吉林大学计算机学院：最优化理论与机器学习实例研讨会

吉林大学计算机学院的硕士研究生课程涵盖了深入的最优化理论内容，该PPT文档由机器学习研究室于2019年4月整理，旨在为学生提供坚实的数学基础和实用的优化技术。课程内容包括以下几个核心部分： 1. 数值优化 (Numerical Optimization)：这是最优化理论的基础，涉及数值求解最优化问题的算法和技术，如梯度下降法、牛顿法等，对于理解复杂模型的参数估计和问题求解至关重要。 2. 凸优化 (Convex Optimization)：凸优化强调的是目标函数的凸性，这类问题具有全局最优解，且易于求解。它在机器学习中的应用广泛，例如在支持向量机、神经网络和数据挖掘中优化模型参数。 3. 运筹学 (Operations Research)：运筹学是系统分析和决策科学的重要分支，通过优化模型解决实际问题，如生产计划、物流调度等，涉及线性规划、整数规划等方法。 4. 数学规划 (Mathematical Programming)：包括线性规划、非线性规划以及多目标优化，是优化问题的标准表述方式，用于描述和求解实际问题中的资源分配和决策问题。 5. 孙延风教授分享了相关的学术资源，如Neural-Style项目，展示了如何利用卷积神经网络结合内容和风格进行图像转换，以及LipNet深度学习读唇程序，展示了深度学习在语音识别领域的高精度。 6. 还介绍了使用DeepQ-Network玩FlappyBird的示例，展示了优化理论在游戏AI中的应用，并鼓励学生们阅读经典的最优化理论著作，如陈宝林的《最优化理论与算法》和袁亚湘、孙文瑜的《最优化理论与方法》，以及更专业的最新教材如Jorge Nocedal和Stephen Wright的《数值优化》和Stephen Boyd和Lieven Vandenberghe的《凸优化》。 此外，课程强调了良好的学习习惯，如保持手机通讯工具在上课时关闭或静音、保证出勤、按时完成作业、主动提问以及必备的数学基础知识，如微积分、线性代数和数值计算，以及高级语言程序设计能力，这些都是最优化理论学习过程中不可或缺的部分。 吉林大学计算机学院的最优化理论课程不仅涵盖了理论知识，还通过实际案例和实践项目让学生理解和掌握这些理论在现代信息技术领域的应用，为他们今后的研究和职业生涯打下坚实基础。