LaTeX经典ML方程集锦：助力论文与博客写作

资源摘要信息:"LaTeX中的经典ML方程集合" 在学术写作中，尤其是在机器学习（ML）领域，LaTeX是一个强大的工具，它允许作者清晰、精确地表达数学方程和理论。在LaTeX中编写ML方程可以确保格式的统一和专业，同时也可以方便地引用和管理复杂表达式。本文档“ml_equations_latex”收集了一系列经典的ML方程，并对部分方程附上了简单的注释和相关链接，旨在帮助撰写论文和博客。 1. 基本机器学习概念 - sigmod: 指数函数，用于计算概率，常用于二分类问题中的输出层激活函数。 - softmax: 多分类问题中常用的一种激活函数，将输出转换为概率分布。 - relu: 激活函数，用于隐藏层，具有抑制神经元输出负值的功能，提升非线性。 2. 损失函数 - 失利: 可能是指"损失"的错误表述，损失函数用于度量模型预测值与真实值之间的差异。 - 回归损失函数: - 平均绝对误差（MAE）: 预测值与实际值差的绝对值的平均。 - 均方误差（MSE）: 预测值与实际值差的平方的平均。 - Huber损失: 结合了MAE和MSE的优点，对异常值的敏感度低。 - 分类损失函数: - 交叉熵: 用于衡量两个概率分布之间的差异。 - 负对数似然: 在分类问题中，作为交叉熵的一种表述形式。 - 铰链损失: 也称对偶损失，常用于支持向量机中。 - KL / JS分歧: 用于衡量两个概率分布之间的差异，KL是Kullback-Leibler散度，JS是Jensen-Shannon散度。 3. 正则化技术 - L1正则化: 模型中引入权重的L1范数，鼓励模型学习到稀疏的权重矩阵。 - L2正则化: 模型中引入权重的L2范数，减少权重的大小，防止过拟合。 4. 模型性能指标 - 分类问题指标: - 精度、精确度: 正确预测的比例。 - 召回率: 真实正例被正确预测的比例。 - F1分数: 精确度和召回率的调和平均。 - 敏感性（召回率）、特异性: 常用于医学领域，描述模型识别出正例和负例的能力。 - AUC: ROC曲线下方的面积，衡量分类器区分正负样本的能力。 - 回归问题指标: - 通常使用MSE或者MAE等损失函数作为评价指标。 5. 聚类和推荐系统指标 - 规范化的相互信息（NMI）: 聚类问题中用于评估聚类质量的指标。 - 平均准确度（MAP）: 信息检索和推荐系统中衡量准确度的指标。 6. 相似性/相关性 - 余弦相似度: 度量两个向量的夹角，常用于衡量文本数据的相似性。 - 贾卡德指数: 用于衡量两个集合相似度的指标。 - 逐点相互信息（PMI）: 度量词语共现的概率与各自独立出现的概率之比。 7. 神经网络模型 - RNN（LSTM，GRU）: 循环神经网络（RNN）及其两种变种长期短期记忆（LSTM）和门控循环单元（GRU），用于处理序列数据。 - 编码器隐藏状态和解码器隐藏状态: 在序列到序列（seq2seq）模型中的重要组成部分，编码器处理输入数据并传递给解码器进行输出。 本资源集合提供了一个完整的LaTeX模板，用于在科研论文或技术博客中展示这些经典的ML方程，不仅方便了学术交流，也为学习者和研究人员提供了一个宝贵的学习资源。