log softmax

Log softmax 是 softmax 函数的一种改进形式，它在深度学习中的应用十分广泛。softmax 函数可以将一个向量的每个元素压缩到 [0,1] 的区间内，且所有元素的和为 1，用于表示概率分布。而 log softmax 函数则是在 softmax 函数的基础上取对数，将概率值转换为对数概率值，这样可以解决在计算过程中出现的数值不稳定性问题。

具体地，对于一个长度为 n 的向量 x，其 log softmax 函数为：
$$\log(\operatorname{softmax}(x)_i) = \log \frac{\exp(x_i)}{\sum_{j=1}^n \exp(x_j)}$$

这里 $\operatorname{softmax}(x)_i$ 表示向量 x 经过 softmax 函数后第 i 个元素的值。使用 log softmax 函数可以避免计算指数过程中出现的数值不稳定问题，并且由于对数函数是单调递增的，因此可以保证概率值的大小关系不变。