神经网络学习笔记：概率转正与多分类方法详解

神经网络学习笔记1深入探讨了神经网络和深度学习的基本概念，特别是其在人工智能领域中的应用。首先，介绍了神经网络的核心功能，包括分类和回归任务。分类问题如图像识别，目标是确定样本属于哪个预定义类别，如男女识别；回归问题则预测连续数值，如根据图像预测人的体重。 感知器作为神经网络的基础模型，模仿了人脑神经元的工作方式。它接受输入信号，通过内部计算判断输出，通常输出是0-1的连续或离散值。四种简单感知器——AND、OR、NOT和NOR，分别对应逻辑门操作，其中NOR感知器可以通过组合其他三种感知器实现异或功能。 感知器算法的核心是梯度下降法，通过不断调整模型参数，使分类错误的样本与理想分类线之间的距离减小，直至达到最优解。为了处理非线性问题，误差函数被引入，要求其连续且可微分，以便于计算梯度。例如，对于多分类问题，误差函数可能采用交叉熵损失函数，配合softmax函数来计算每个类别的概率。 在多分类场景下，softmax函数被广泛应用于输出层，它将每个节点的输出转换为概率分布，每个概率值表示该类别发生的可能性。此外，one-hot编码是一种常用的处理多分类问题的方法，它将类别转换为数字向量，如大象（100）、河马（010）和蚂蚁（001），便于模型理解和处理非数字形式的输入。 这篇笔记提供了神经网络基础理论、算法流程以及关键工具的概述，强调了分类、回归任务的区别，以及如何通过优化方法解决复杂问题，如多类别分类和概率估计。通过理解和掌握这些概念，读者能够更好地入门神经网络的学习和实践。