softmax激活函数公式
时间: 2023-05-08 08:58:30 浏览: 138
关于tensorflow softmax函数用法解析
5星 · 资源好评率100%
softmax激活函数是一种常用的分类器函数,常用于多类别分类问题中。其公式如下:
$$
\sigma(z)_j = \frac{e^{z_j}}{\sum_{k=1}^{K} e^{z_k}}, \ j=1,2,...,K
$$
其中,$z$为输入向量,$K$为分类的总数,$e$为自然常数。
对于输入向量$z$中的每一个元素$z_j$,通过指数函数将它们映射成正数,并除以所有元素的指数函数之和,最终得到一个概率分布向量$\sigma(z)$,其中每个元素值表示样本属于相应类别的概率。
该函数具有以下特点:
1. 所有类别概率之和为1,可以作为概率分布使用。
2. 随着输入向量中的每个元素的值的变化,输出向量中的每个元素的值也会相应地变化。因此,该函数对输入向量的微小变化非常敏感。
3. 该函数处理多维输入向量的能力强,可以作为深度神经网络的输出层激活函数使用。
阅读全文