深度学习入门：学习资源与数学基础

"dlbook_cn_public" 这是一本关于深度学习的中文教材，源自于https://github.com/exacity/deeplearningbook-chinese 的开源项目，仅供学习，不可用于商业用途。书中涵盖了深度学习的基础知识和最新发展，旨在帮助读者理解和掌握这一领域的核心概念。 在前言部分，作者介绍了本书的目标读者群体，包括对深度学习感兴趣的学者和实践者，并概述了深度学习的历史发展趋势。书中特别提到了神经网络的不同名称和历史变迁，强调了数据量、模型规模、精度和现实世界影响的持续增长。 第一部分“应用数学与机器学习基础”是理论基石，首先从线性代数开始讲解。线性代数是理解深度学习中权重矩阵和向量运算的关键。这部分详细阐述了标量、向量、矩阵和张量的概念，以及它们的乘法操作，如矩阵乘法、单位矩阵和逆矩阵。还涉及了线性相关性、范数、特殊矩阵（如对角矩阵、正交矩阵等）、特征分解、奇异值分解(SVD)、Moore-Penrose伪逆和一些实际应用，如主成分分析(PCA)。 接下来是概率与信息论章节，这是机器学习中不可或缺的部分。这部分解释了为什么我们需要使用概率来建模不确定性和复杂系统，介绍了随机变量和各种概率分布，包括离散型和连续型。讨论了边缘概率、条件概率、链式法则、独立性和条件独立性，以及期望、方差和协方差等统计量。此外，还列举了一些常见的概率分布，如伯努利分布、多努利分布和高斯分布，这些都是构建概率模型时常用的分布。 这些章节的内容构成了深度学习的基础，后续章节可能会进一步深入到神经网络的结构、优化算法、损失函数、卷积神经网络(CNN)、循环神经网络(RNN)、生成对抗网络(GAN)、强化学习等领域。通过学习这些内容，读者可以逐步建立起对深度学习体系的理解，并具备解决实际问题的能力。