小样本迁移学习支持向量回归机：提升泛化能力

"基于小样本SVR的迁移学习及其应用.pdf" 本文主要探讨了在机器学习领域中，尤其是在样本数量有限且应用场景单一的情况下，如何提高模型的泛化能力。传统支持向量回归机(SVR)作为一类有良好泛化性能的回归算法，在小样本数据集上可能无法达到理想效果。针对这一挑战，作者提出了一种基于小样本数据的迁移学习支持向量回归机算法。 该算法的核心是将加权ε支持向量回归机作为Bagging算法的基础学习器。Bagging，即Bootstrap Aggregating，是一种集成学习方法，它通过重复采样生成多个子样本集，并基于这些子样本构建多个弱学习器，最终通过整合这些学习器的结果来提升整体预测性能。在本文中，加权ε支持向量回归机被用作基础的弱学习器，而不是传统的单一模型。 作者利用与目标任务相关联的源域数据，通过自助采样技术创建多个子回归模型。自助采样允许在不增加额外样本的情况下，通过重采样已有样本创建新的训练集。这样生成的多个子回归模型各自具有不同的学习特点，有助于减少过拟合并提高模型的稳定性和泛化能力。 最后，文章采用了简单平均法将这些子模型的预测结果进行合成，得到一个总回归模型。这种方法可以有效融合各个子模型的预测，进一步增强模型的整体预测精度。 实验部分，作者在UCI数据集和实际的玉米棒与花生粒储藏环节损失数据集上对比了所提方法与标准ε-SVR算法以及改进的RMTL算法。结果显示，本文提出的小样本数据迁移学习支持向量回归机算法在处理小样本数据时，具有更好的泛化能力。 文章由易未、郑沫利、赵艳轲、毛力和孙俊共同完成，他们在计算机应用、粮食经济学以及人工智能、机器学习等领域有深入研究。该研究受到国家公益性行业科研专项（201513004）及课题五(201513004-6)的资助，展示了在小样本学习问题上，结合迁移学习的SVR模型在解决实际问题中的潜力和优势。