第一部分：计算与证明 ：
1.
考虑一个三层网络进行分类，隐藏层中有 个结点，输出层中有 c 个结点。
模式（也称为样本）在 d 维空间中。 隐藏层中结点的激活函数（或传递函数）
为 sigmoid 型函数。 不同地，输出层中的结点将采用以下 softmax 操作作为其激
活函数：
其中， 代表输出层中第 j 个结点的加权和。
(a) 如果每个样本的标准函数是平方误差的和，则在反向传播框架下推导学习规
则，即分析每一层权重的更新方法）:
其中, 是输出层中第 个结点处的样本的已知目标值。
解：上标 表示第 个样本：
对第 个样本，隐含层 结点的输入加权和为：
经过激励，隐含层 结点的输出：
剩余18页未读，继续阅读
评论0