cs231n作业2BN
时间: 2023-10-15 21:05:21 浏览: 182
cs231n:cs231n作业
cs231n作业2中的BN是指Batch Normalization,它是一种用于加速深度神经网络训练的技术。在cs231n课程中,通过修改FullyConnectedNet中的实现,可以将批归一化(Batch Normalization)应用于全连接神经网络。
Batch Normalization解决了深度神经网络中内部协变量偏移的问题,从而加速了训练过程。它通过在每个小批量训练样本上进行归一化操作,来保持网络中间层的输入分布稳定。具体而言,它计算每个特征的均值和标准差,并将输入进行线性变换和缩放,以使其均值为0,方差为1。这样可以使得网络更容易训练,避免梯度消失或梯度爆炸问题。
在cs231n作业2中,需要在FullyConnectedNet的实现中添加Batch Normalization。具体来说,需要修改fc_net.py文件,按照作业要求,在前向传播和反向传播过程中添加Batch Normalization的计算和更新参数的操作。
阅读全文