机器学习笔试题目解析：过拟合与欠拟合、交叉验证

"这份资料包含了30道机器学习笔试题目，主要针对Python面试，涵盖了模型拟合、交叉验证、极大似然估计等核心概念。" 文章内容: 在机器学习领域，选择合适的模型参数至关重要。例如，在回归模型中，多项式阶数（A）对权衡欠拟合和过拟合的影响最大。过高的多项式阶数可能导致模型过度复杂，从而在训练数据上表现优异但对新数据（测试数据）的预测效果差，即过拟合。相反，较低的多项式阶数可能导致模型过于简单，无法捕捉数据的复杂性，产生欠拟合。因此，选择适当的模型复杂度是优化模型性能的关键。 留一法（Leave-One-Out，LOO）是一种常用的交叉验证技术，如题中所述，用于评估模型的性能。例如，如果有三个样本点，LOO会进行三次训练和测试，每次将一个样本作为测试数据，其余两个作为训练数据。通过计算三次训练得到模型在测试样本上的误差，并取平均值，得到LOO的均方误差。在本题中，根据提供的信息，可以计算出总误差并选择正确答案C。 极大似然估计（MLE）是参数估计的一种方法，它通过最大化观察数据出现的概率来估计模型参数。选项A和C正确，因为MLE可能存在且其解可能不唯一。在某些情况下，极大似然函数可能没有导数，或者存在多个极大值点，导致MLE无法确定或不唯一。 对于线性回归模型，如果模型完美地拟合了训练样本，即训练误差为零，这并不意味着测试样本误差也为零。实际上，这样的情况可能导致过拟合，即模型对训练数据过度适应，对未见过的数据（测试数据）的泛化能力降低。因此，选项C是正确的。 在使用R平方（R-Squared）度量模型拟合度时，如果增加一个特征而模型不变，R-Squared可能会增加，表明新增特征改善了模型对训练数据的解释能力。但这并不总是意味着模型的泛化性能有所提升，可能仅仅是增加了模型复杂度，导致过拟合的风险增加。 这些题目涉及了机器学习中的关键概念，包括模型选择与复杂度控制、交叉验证、参数估计以及模型评估。理解并掌握这些概念对于在Python面试中成功应对机器学习相关问题至关重要。