神经生物学度量评估下的神经网络模型搜索 - CSDN文库

PDF格式 | 12.49MB | 更新于2025-01-16 | 128 浏览量 | 举报

收藏

1

5404

0

神经网络模型搜索的神经生物学评估度量

0

NathanielBlanchard

计算机科学与工程学院圣母大学

0

nblancha@nd.edu

0

JefferyKinnison

计算机科学与工程学院圣母大学

0

jkinniso@nd.edu

0

BrandonRichardWebster

计算机科学与工程学院圣母大学

0

brichar1@nd.edu

0

PouyaBashivan

McGovern大脑研究所和脑与认知科学系MIT

0

bashivan@mit.edu

0

WalterJ.Scheirer计算机科学与工程学院

圣母大学

0

walter.scheirer@nd.edu

0

摘要

0

神经科学理论认为，大脑的视觉系统通过神经激活模式来粗

略地识别广泛的物体类别，类似的物体产生类似的神经反应

。人工神经网络在对刺激作出反应时也有内部激活行为。我

们假设表现出类似大脑激活行为的网络将表现出类似大脑的

特征，例如更强的泛化能力。在本文中，我们引入了一种人

-模型相似度（HMS）度量，用于量化人类fMRI和网络激活

行为的相似性。为了计算HMS，我们创建了表示性差异矩阵

（RDMs），作为激活行为的抽象，通过激活对刺激对的相

关性来衡量。HMS是fMRI

RDM和神经网络RDM在所有刺激对之间的相关性。我们在

无监督的预测编码网络上测试了该度量标准，并在大范围的

超参数上评估了该度量标准的统计显著性。我们的实验表明

，具有增加的人-模型相似性的网络与两个计算机视觉任务

的更好性能相关：下一帧预测和物体匹配准确性。此外，H

MS还可以作为训练过程中的早停机制。

0

图1.

生物启发的深度学习工作的一个主要目标是实现更接近生物大脑的

泛化能力。在这方面，我们提出神经网络训练的模型搜索框架可以

通过人-模型相似度度量来进行引导。该度量标准将人脑和神经网络

在共享刺激上的内部激活行为进行相关性比较。在本研究中，我们

研究了fMRI记录[23]和预测编码网络[29]的具体情况。通过测量两

个刺激之间激活的差异来衡量内部行为。人-模型相似度是大脑和模

型在一个刺激集上的内部行为的比较，较高的相似度意味着更好的

模型泛化能力。

下载后可阅读完整内容，剩余9页未读，立即下载

cpongm

粉丝: 6

最新资源