残差网络是由什么发展而来的

残差网络（Residual Network，简称ResNet）是由微软亚洲研究院的何凯明等人在2015年提出的一种深度神经网络结构。ResNet的提出是为了解决深度神经网络在训练过程中出现的梯度消失问题，即在网络层数增加时，模型的表现并没有随之提高，反而出现了性能下降的情况。

ResNet的设计思想是通过添加“残差块”（Residual Block）来构建深度神经网络。残差块中引入了跨层连接（Shortcut Connection），使得前一层的输出可以直接传递到后面的层中，从而使得神经网络可以更加深层次地进行信息传递，并且避免了梯度消失的问题。

ResNet的提出极大地推动了深度学习的发展，也成为了目前应用最广泛的深度神经网络结构之一。