规范一下以下语句为了进行比较,我们选择了各种表现良好的竞争对手,包括基于MLP的方法,基于神经切线核(NTK)回归的方法,稀疏诱导半定规划(SDP)方法[18],期望条件最大化(ECM)方法和集中式最小二乘(LS)方法[9]。请注意,我们选择 MLP 来演示添加归一化相邻矩阵所带来的性能改进一个ˆTh在每一层中。此外,我们使用基于 NTK 的回归来模拟超宽 MLP 和随机初始化,其基础定理是,通过梯度下降训练的足够宽且随机初始化的 MLP 等效于 NTK 的核回归预测器
时间: 2023-06-18 22:06:52 浏览: 177
基于树莓派与Opencv和MLP神经网络搭建的自动驾驶小车
为了进行比较,我们选择了多个表现良好的竞争对手,包括基于MLP的方法、基于神经切线核(NTK)回归的方法、稀疏诱导半定规划(SDP)方法[18]、期望条件最大化(ECM)方法和集中式最小二乘(LS)方法[9]。需要注意的是,我们选择使用 MLP 来演示添加归一化相邻矩阵所带来的性能改进,这种性能改进在每一层中都可以体现。此外,我们还使用基于 NTK 的回归来模拟超宽 MLP 和随机初始化。基于 NTK 的回归的基础定理是,通过梯度下降训练的足够宽且随机初始化的 MLP 等效于 NTK 的核回归预测器。
阅读全文