斯坦福CS231n：卷积神经网络与训练技巧

"CS231n是斯坦福大学开设的一门关于计算机视觉识别的课程，由知名AI专家李飞飞教授主讲，重点探讨卷积神经网络（CNN）在视觉识别中的应用。课程内容涵盖神经网络训练的基础知识，包括线性评分函数、深度学习模型以及卷积层的工作原理。" 在这一讲座中，李飞飞教授和她的团队讨论了神经网络训练的第一部分。首先，他们提到了项目提案的提交截止日期，要求每个小组至少有一人提交，并标记所有组员。此外，还提醒学生注意作业A2已经发布，截止日期为5月6日，推荐使用Colab平台，特别是对于使用Windows系统的用户，因为Colab提供了便捷的在线编程环境。 接着，课程回顾了之前的学习内容，如合页损失函数（Hinge Loss）和计算图的概念。这些是优化神经网络性能和理解梯度下降等训练算法的基础。然后，引入了线性评分函数，这是一个简单的两层神经网络，输入是特征向量，通过权重矩阵W1和W2进行变换，最终得到分类得分。 课程进一步深入到卷积神经网络（CNN）的主题。通过展示LeCun等人在1998年的研究，强调了CNN在处理图像数据上的优势。CNN的核心是卷积层，如图所示，一个32x32x3的图像与5x5x3的滤波器进行卷积，滤波器在图像的所有空间位置上滑动，生成激活图，结果是一个28x28的特征映射。这种局部连接和权值共享的方式大大减少了参数数量，提高了模型的效率和泛化能力。 这堂课是深度学习和计算机视觉领域的精华，讲解了从基础的神经网络架构到复杂CNN的训练和工作原理，为理解和实现视觉识别任务提供了坚实的理论基础。