COURSERA机器学习笔记：从线性回归到归一化

"这是一份基于COURSERA平台Andrew Ng教授的机器学习课程的视频笔记，由RyanCheung整理，涵盖了课程的主要内容，包括机器学习基础、线性回归、多项式回归、逻辑回归以及归一化等核心概念。" 这份笔记详细介绍了机器学习的基本概念，从机器学习的定义开始，阐述了机器学习的两种主要类型：监督学习和非监督学习。监督学习是指通过已知的输入-输出对来训练模型，让模型能够预测新的输出。而非监督学习则是在没有标签数据的情况下，让模型自行发现数据中的结构和模式。 接下来，笔记详细讲解了单变量和多变量线性回归。线性回归是预测连续数值型变量的常用方法。在单变量线性回归中，笔记解释了模型表示、代价函数和梯度下降算法的使用，这些都是求解最优参数的关键步骤。对于多变量线性回归，增加了对多个特征的处理，探讨了多变量梯度下降法和特征缩放的重要性，同时提到了学习率的概念，它是控制模型学习速度的关键参数。 笔记还介绍了多项式回归，这是一种扩展线性回归以适应非线性关系的方法，通过添加多项式项来构建更复杂的模型。此外，还讲解了正规方程，它提供了一个直接计算最优参数的闭式解，尤其适用于特征数量相对较小的情况。 在逻辑回归部分，笔记详细讨论了分类问题，特别是二分类问题的建模和判定边界的构建。逻辑回归通过Sigmoid函数将线性回归的结果转换为概率，适合处理分类问题。笔记还涉及了多类分类，即逻辑回归如何扩展到处理多个类别的情况。 最后，笔记深入探讨了归一化，这是防止过拟合的重要技术。过拟合是指模型过于复杂，对训练数据过度拟合，导致在新数据上的泛化能力降低。通过添加正则化项到代价函数，可以控制模型复杂度，提高模型的泛化性能。笔记详细介绍了归一化线性回归和对应的正则化成本函数。 这份笔记提供了机器学习初学者全面理解基础概念和技术的良好资源，涵盖了从基础的预测模型到复杂的模型调整策略，是学习机器学习的一份宝贵资料。