优化神经网络结构与训练策略：降低误差至0.178

本报告由钟诚（ChengZhong16307110259）于2020年4月17日完成，主要关注神经网络和深度学习项目中的改进策略。报告分为两部分，探讨了如何通过调整网络结构和训练过程来提升模型性能。 1. 基线模型：首先，作者对基本的神经网络进行了测试，随着迭代次数的增加，训练误差和验证误差均呈现下降趋势。在训练105轮后，得到的最佳测试误差为0.507，这为后续优化提供了基准。图1展示了基线结果，显示了训练过程的稳定性和收敛性。 2. 改变网络结构：为了提高模型表现，作者尝试改变隐藏单元的数量，通过调整超参数nHidden。在图3中，当隐藏单元从1逐渐增加到200时，可以观察到训练误差和验证误差在达到105轮迭代后有所下降。在193个隐藏单元时，验证误差降到了最低，为0.178，对应的测试误差为0.196。因此，钟诚选择了193个隐藏单元作为后续实验中的理想配置。 3. 改变训练过程：接着，作者探索了修改步长序列或学习率策略对训练效果的影响。这部分未在提供的部分内容中详细描述，但可以推测这可能是关于学习率衰减（如Weight Decay）或者其他优化算法的调整，目的是使模型能够更有效地找到全局最优解，或者避免过拟合。 通过这两个方面的改进，报告显示出对网络结构和训练策略深入理解的重要性，以及如何通过细微的调整来显著提升模型的泛化能力。这些发现对于后续的深度学习项目具有实际指导意义，尤其是在处理类似问题时，可以通过类似的优化方法进行模型的调优。