dropout和正则化的区别和详解

dropout和dropblock都是防止过拟合的方法，但是具体实现和效果略有不同。dropout是将一部分神经元按照一定概率随机去掉，不参与当前的正向传播和反向传播，从而减少神经元之间的相互依赖，让网络更具有泛化性。而dropblock是在特征层级上随机去掉一定区域的特征，相当于对特征进行粗粒度的屏蔽，从而增加了特征之间的独立性，减少过拟合。相比之下，dropblock更适用于高分辨率图像的任务，而dropout更适用于较小的网络和自然语言处理任务。