阈值函数：人工神经网络的基石

本讲义聚焦于神经网络中的关键概念——激活函数，特别是阈值函数。阈值函数是一种非线性函数，其核心特点是根据输入信号的大小决定输出结果。当输入神经元的加权和（neti）大于0时，输出yi被设为1；当输入小于0时，输出为0；而当输入等于0时，输出保持不变。这种函数的性质使得它在处理二分类问题时非常有效，因为它可以清晰地将信号分割为两个类别。 随着λ（通常表示学习率或阈值函数的灵敏度）的增加，阈值函数逐渐逼近一个零阈值，即对于任何输入，只要不等于零，都会产生一个确定的输出。这种函数在早期神经网络设计中较为常见，但现代神经网络更多采用其他非线性激活函数，如sigmoid、ReLU和Leaky ReLU，它们提供了更广泛的动态范围和避免梯度消失的能力。 本讲义可能围绕着《人工神经网络导论》这本书展开，它是神经网络领域的经典教材，由蒋宗礼所著，由高等教育出版社出版。讲义引用了多部相关书籍作为参考资源，包括Philip D. Wasserman的《Neural Computing: Theory and Practice》，以及胡守仁、余少波和戴葵的《神经网络导论》等，这些著作深入浅出地介绍了神经网络的基本理论和实践应用。 课程的目的和要求是让学生对人工神经网络有初步认识，了解其基本工作原理和网络模型，掌握如何设计和应用神经网络解决实际问题。通过这门课程，学生应能理解阈值函数在构建简单神经网络中的作用，并为进一步学习其他激活函数和复杂的神经网络架构打下基础。