大型语言模型研究：词序的不变性和语法角色的关键性

+v：mala2277获取更多论文在对语法角色进行分类时，BERT并不关心词序。. . 除非有关系伊莎贝尔·帕帕迪米特里乌斯坦福大学isabelvp@stanford.edu理查德·富特雷尔加州大学欧文rfutrell@uci.edu摘要凯尔·马霍瓦尔德德克萨斯大学奥斯汀分校mahowald@utexas.edu1.00因为意义通常可以单独从词汇语义中推断出来，所以词序在自然语言中通常是一个多余的线索。例如，单词chopped、chef和onion更可能用于表达最近的研究表明，大型语言模型具有令人惊讶的词序不变性，0.750.500.250.00词0123456789 101112语法角色Subject对象原型非原型至关重要的是，他在很大程度上考虑了自然的原型输入，嵌入层大多符合词汇预期。为了克服这一困惑，我 们探 讨 语 法角 色 表 征在 英 语 BERT和GPT- 2，在词汇的期望是不够的情况下，词序知识是必要的正确分类。这样的非原型实例是自然出现的具有无生命主体或有生命物体的英语句子，或者是我们系统地交换论点以形成句子的句子，如“洋葱切碎了厨师”。我们发现，虽然早期的层嵌入主要是词汇，词序实际上是至关重要的，在语义上的非原型位置的话，在定义后一层表示。我们的实验隔离了词序对语境化过程的影响，并强调了模型如何在不常见但关键的情况下使用语境。1导言和先前工作大型语言模型在其输入中创建单词的上下文嵌入，从每个标记的静态嵌入开始，并逐步在每个 层 中 添 加 更 多 的 上 下 文 信 息 （ Devlin etal. ， 2019; Brown et al. ， 2020; Manningetal. ，2020）。虽然这些上下文嵌入模型通常因捕获丰富的语法结构而受到称赞，但最近的大量工作表明，它们对打乱词序具有惊人的不变 性 （ Sinha et al. ， 2021; Hes-selandSchofield，2021; Pham et al. ，2021年;古普塔图1：训练用于区分BERT嵌入中的对象和主体的探测器的概率。我们通过原型性（prototypality）来分离我们的评估示例：地面真实语法角色是否是我们在上下文之外所期望的单词。大多数自然例子都是典型的（实线），因此如果我们对所有情况进行平均，我们无法看到在词汇信息是非典型的情况下，语法信息是在网络的前半部分逐渐获得的。GPT-2的等效数字见附录A。等人，2021; O 'Connor和Andreas，2021），并且语法知识，如词性，通常归因于上下文嵌入，实际上也被固定嵌入捕获（Pimentel etal. ，2020）。这些结果指出了一个难题：当单词本身而不是它们的顺序才是重要的时候，句法语境信息怎么会对语言理解很重要呢？我们认为这种明显的悖论是由于语言本身的冗余结构造成的. 词汇分布信息本身固有地捕获 了 大 量 的 含 义 （ Erk ， 2012; Mitchell 和Lapata，2010; Tal和Arnon，2022），并且通常人类和机器都可以在单词的局部混乱下重新构 建 句 子 的 含 义 （ Mollica et al. ， 2020;Cloudman et al. ，2021年）。在本文中，我们研究模型的行为的情况下，词序是翔实的，是不是冗余的词汇信息。arXiv：[中文2022年3月Avg.探头P（受试者）+v：mala2277获取更多论文我们着重讨论了语法角色的特点（名词是从句的主语还是宾语）。 大多数自然分句都是原型的：在像“厨师切碎了洋葱”这样的句子中，厨师和洋葱的语法角色对人类来说是很清楚的，只从单词本身，没有词序或上下文（见Mahowald et al. ，2022，在英语和俄语的实验中，人类参与者在没有词序和上下文信息的情况下成功地猜出两个名词中的哪一个是主语，哪一个是简单及物从句的宾语）。这意味着句法语序往往是多余的词汇语义。无论是手工构建的还是基于语料库的，大多数探索语境表征的研究都使用原型句子作为输入，其中句法语序可能没有太多信息来贡献单词本身之外的核心意义。然而，人类语言可以使用语法来偏离词汇产生的期望：我们也可以理解一个罕见的非原型句子的荒谬含义，如“洋葱切碎了厨师”（加勒特，1976 ;吉布森等人。，2013）。这种语法词序的使用对预训练模型有用吗在本文中，我们在BERT和GPT-21的嵌入空间上训练语法角色探测器，并在这些罕见的非原型示例上对其进行评估，其中单词在上下文中的含义与我们单独查看单词所期望的含义不同。我们探讨语法角色，因为它是一个句子的基本 组 成 语 义 结 构 的 关 键 （ 狄 克 逊 ， 1979年;Comrie，1989年;克罗夫特，2001年）。虽然固定词汇语义包含语法角色的信息（有生命的名词可能是主语等），但英语中单词的语法角色最终由句法词序决定探索语法角色可以让我们通过模型层来考察句法语序和法律语义在形成成分意义中的相互作用对于我们所有的实验，我们用标准数据训练语法角色探测器，并在原型案例或非原型案例（词序很重要）上测试它们，以了解正常情况下的语法嵌入是否对词序敏感。我们的实验揭示了三个关键发现：1两个模型的结果相似，因此我们在这里可视化BERT结果，并在附录A中包括GPT-2图。1. 词汇语义在组织嵌入空间方面起着关键作用，在早期层表示中，非词汇成分特征在后期层中逐渐表达，如对非原型句子的探测性能所示（实验1，图1）。2. 嵌入表示的意义仅由句法语序、覆盖词汇和分布线索来传达。当我们通过在参数交换的句子上评估我们的探测器来控制分布共现因素时（如3. 句法语序的重要性不仅仅在于局部连贯性：当我们在局部打乱的句子上测试我们的探测器时，句法语序的组成信息丢失了，这些句子保持了局部词汇连贯性，但破坏了急性句法关系（图3）。更一般地说，我们强调了使用非原型示例检查模型的重要性，这不仅是为了理解上下文嵌入中词汇影响的强度，而且是为了准确地隔离语法处理。22为什么非原型探测？与更一般的句法探测任务（例如，语法角色是一个在句法和语义上都具有重要意义的语言学任务。因此，我们可以选择这些语言学上知情的非原型示例集合，其中词汇语义与句法所暗示的成分含义不非典型的例子给我们提供了一个独特的视角，即句法机制如词或- der如何独立于词汇语义影响组合意义的表征。探测研究通过用实词代替临时词来控制词汇语义（“jabberwocky”句子 ， 如 Hall Maudslay 和 Cotterell ， 2021 ;Goodwin et al. ，2020）或随机的真实单词（2 运 行 我 们 实 验 的 代 码 在 https ： //github 。com/toizzy/except-when-it-matters+v：mala2277获取更多论文→如在Gulordava et al. ，2018）。一个折衷的办法是，这些方法会导致分布外的句子，这些句子的单词不太可能自然地共同出现而不是漂白词汇语义的影响，我们的设置让我们检查词汇语义和句法表征之间的相互作用最近关于表征探测的工作集中在改进探测方法上，以确保提取的信息不是虚假的或不仅仅是词汇的（Hewitt和Liang，2019; Be-linkov，2022; Voita 和 Titov ， 2020; Hewitt 等 人 。 ，2021; Pimentel et al. ，2020）。我们的实验是一种互补的方法，我们使用标准的探测方法，但使用语言信息的数据选择来解决分类器提取的模糊性。3实验1：语法主体性探究在实验1中，我们评估了语法角色探针的原型实例，语法角色与词汇期望一致，非原型实例，它不一致。3.1方法我们训练了一个具有64个隐藏单元的2级感知器分类器探测器，以区分作为传递性主语的名词与作为传递性宾语的名词的层嵌入，如Papadim-itriou等人（2021）。我们为每个模型层训练一个单独的分类器，以及在没有添加位置嵌入的模型的静态单词嵌入空间上训练一个分类器（在第0层之前）。探测分类器是二元的，采取一个名词的层嵌入，并预测它是一个及物主语或及物宾语。探测训练数据来自通用语义树库：我们通过模型传递来自树库的单个句子，并使用依赖性标记来标记每个层嵌入，以确定它是否表示传递性主语、传递性宾语或两者都不表示（不包括在训练中）。训练集是平衡的，由864个主语名词嵌入和864个宾语名词嵌入组成。我们训练所有的探测器20个时期，为了一致性。我们使用的嵌入模型是bert-base-uncased和gpt 2。为了我们的分析，我们称一个名词为原型主语，如果探测词其单词嵌入（前层0）的概率大于0。5，如果它更少，则是原型对象。3.2结果原型参数和非原型参数在跨层探测行为方面有所不 同， 如图 1所示 。对 于原 型实 例（实线），句法信息与类型级别信息合并，因此从层0（单词嵌入+位置嵌入）开始，探测准确性很高，并且在整个网络中保持一致然而，当我们观察非原型实例（虚线）时，我们看到层与层之间的嵌入具有非常不同的语法编码，类型级别的语义在早期层中占主导地位，而更一般的语法知识只有在后面的层中才能被我们的探测器提取。至关重要的是，由于原型示例在任何语料库中的频率都占主导地位，因此所有示例的平均探测准确度对于所有层都很高，并且主体性的语法编码（仅在模型的中间层之后才准确）将被隐藏。分离出非原型的例子说明了一个短语的语法如何通过Transformer层独立于类型级别的信息产生，同时也展示了词汇语义在形成网络前半部分的嵌入空间几何结构中的重要性4实验2：通过交换主体和客体来在实验1中，我们发现，语境化过程包括逐步的语法信息增益的非典型的例子，即使这是在很大程度上被掩盖在大多数亲典型的例子，词汇语义也包含准确的句法信息。在这个实验中，我们问：这种关于语法角色的语境化信息是源于词序和句法，还是源于看到句子中所有单词时我们通过创建示例对来回答这个问题，在示例对中，我们通过保持所有单词相同来控制分布信息这样的一对类型+v：mala2277获取更多论文1.000.750.500.250.00局部混排句的训练与评价词01234567891011 12原型非原型嵌入层图2：参数交换测试集的平均探测概率我们可视化的概率相同的话，当他们是一个原始的树库句子的对象（如。“The chef chopped the “The 当探讨语法角色的几何结构时，由于句法语序的影响，在BERT层的上下文化过程中，相同分布上下文中的相同单词（2）具有相同的分布信息。为了准确地对这两种句子中的语法角色进行分类，我们正在探索的模型4.1方法我们使用实验1中相同的探测分类器，并在一个特殊的测试集上进行评估，该测试集由一个子句的主语和直接宾语交换的成对句子组成。为了创建交换的句子，我们在UD树库中搜索具有词汇、非代词直接主语和直接宾语的动词，检查主语和宾语是否具有相同的数字（单数或复数），还检查它们是否都不是复合词的一部分，也不是将被分离的平面依赖词如果一个句子包含一个动词，其论元满足所有这些要求，我们交换主语和宾语的位置，以创建第二个交换的句子，并将句子对（原始和交换）添加到我们的评估集3。我们交换的句子的随机样本在附录B中。3.在这个过程中，我们不过滤原型主语和宾语，因为我们评估的是所有分布信息的效果：像“The onion madethe chef cry”这样的句子中图3：探测精确度的句子，其中的单词已经被本地打乱，这样就没有单词移动超过2个插槽。非原型句子的探测性能接近偶然，表明一般位置信息（在局部置乱后仍然可用）不足以恢复语法角色。然而，在这些混乱的例子中，词汇语义是通过层次来保存的，这一点可以从原型句子的稳定探测性能中得到证明。4.2结果当测试我们的探针对正常和交换的句子，我们发现，我们的探针从实验1正确分类正常和交换的句子，在较高的层次具有较高的准确性。由于我们在具有相同分布信息的受控对上测试我们的探测器，我们可以分离句法语序在影响意义表征中的作用。这在图2中得到了证明，其中，在相同的分布上下文中，对同一组单词的我们的研究结果表明，与分布效应无关，模型已经学会了表示句法语序独立影响意义的方式。4.3这些结果仅仅是由于一般的位置信息吗？实验2的结果表明，即使在词汇和分布信息保持不变的情况下，句法语序信息也会影响词义的模型还有一个问题：图2所示的差异是源于语序影响英语句法的细粒度为了进一步研究这一点，我们在传感器上训练和测试探针Avg.探头P（正确）+v：mala2277获取更多论文词序被局部打乱的时态，使得没有词移动超过2个槽，并且因此保持了一般的首位性和局部的连贯性。如图3所示，在这些局部混洗的句子上训练的探测器在非原型示例上的表现并不比随机好。虽然原型词汇信息可以帮助分类（实线），但一般的首位信息不足以克服词汇线索，并导致我们在图2中展示的词序依赖表示。5讨论虽然最近的工作表明，大型语言模型在很大程度上依赖于分布语义信息，但我们考虑模型研究表明，模型依赖于词汇和分布信息，这与我们的发现并不矛盾，这是可以被推翻的。事实上，即使人类能够准确地理解非原型句子，人类的句法处理也经常受到单词的词汇语义的影响，这一点在对人类受试者的研究中得到了证实（Frazier和Rayner，1982; Rayner et al. ，1983;Ferreira andHenderson，1990）以及人类语言中受词汇影响的句法过程，如区别对象标记（Aissen，2003）--一种标记非原型语法对象的现象。更一般地说，虽然我们已经表明，一个简单的探测方法很容易得出结论，语法角色信息可用于BERT的最低层，但分别分析原型和非原型参数可以清楚地看出，情况更加复杂。在较低层，BERT表示通常可以对主体和对象进行分类，但是当表达非原型意义时，直到更高层才能进行我们认为，考虑这些非原型的情况下探测性能是至关重要的。人类语言的一个关键设计特征是能够谈论不存在或不存在的事物因此，考虑平均任务的探测精度可能会产生误导。能够理解非原型意义是一个标志，由于这些意义可能以系统的方式不同于原型意义，因此考虑这些情况对于理解语言模型如何表示语言至关重要。6致谢这项工作得到了国家自然科学基金资助号。2104995到KM，没有。1947307到RF，和研究生研究奖学金到IP。我们感谢Dan Jurafsky和Adina Williams 进 行 了 有 益 的 讨 论 ， 感 谢KaitlynZhou 、 DallasCard 和 J.AdolfoHermosillo对草案提出的意见。引用朱迪思·艾森。2003.区别对象标记：象似性与经济性。自然语言语言学理论，21（3）：435尤纳坦·贝林科夫2022. 探测分类器：承诺，短，和进步。Computa- tional Linguistics，48（1）：1Tom B Brown ， Benjamin Mann ， Nick Ryder ，MelanieSubbiah ， JaredKaplan ， PrafullaDhariwal，Arvind Neelakantan，Pranav Shyam，Girish Sastry，Amanda Askell，et al. 2020.语言模型是少数成功的学习者。arXiv预印本arXiv：2005.14165。诺姆·乔姆斯基1957. 句法结构。沃尔特·德·格鲁伊特路易斯·克劳奇，普拉萨纳·帕萨萨拉蒂，阿迈勒·祖瓦克和萨拉特·萨拉尔。2021.揭开神经语言模型arXiv预印本arXiv：2107.13955。伯纳德·科姆里。1989. 语言普遍性和语言类型学，第二版。芝加哥大学出版社，芝加哥。William A.克罗夫特2001.语法的功能方法。在NeilJ. Smelser和Paul B. Baltes，editors，InternationalEncyclopediaoftheSocialandBehavioralSciences，pages 6323Elsevier Sciences，Oxford.Jacob Devlin，Ming-Wei Chang，Wendon Lee，andKristina Toutanova. 2019. BERT：语言理解的深度双向转换器的预训练。 在计算语言学协会北美分会2019年会议论文集：人类语言技术，第1卷（长论文和短论文），第4171-4186页，明尼阿波利斯，明尼苏达州。计算语言学协会。Robert M. W.狄克逊1979.作格性。Language，55：59-138.+v：mala2277获取更多论文卡特琳·埃尔克2012.词义和短语意义的向量空间模型：综述. Language and Linguistics Compass，6（10）：635Fernanda Ferreira和John M Henderson。1990.句法分析中动词信息的使用：来自眼动和逐字自定阅读的证据。Journal of Experimental Psychology：Learning，Memory，and Cognition，16（4）：555.林恩·弗雷泽和基思·雷纳。1982.句子理解过程中的错 误 产 生 和 纠 正 ： 结 构 歧 义 句 子 分 析 中 的Cognitive Psychology，14（2）：178Merrill F.加勒特1976.句子产生中的句法过程。《语言机制的新方法》，第231-255页。北荷兰，阿姆斯壮。作 者 ： Edward Gibson ， Steven T. Piantadosi ，Kimberly Brink，Leon Bergen，Eunice Lim，andRebecca Saxe.2013.跨语言语序变化的噪声通道解释。Psychological Science，24（7）：1079-1088.艾米丽·古德温，库斯图夫·辛哈，蒂莫西·J·奥唐纳。2020. 探索语言的系统性。在计算语言学协会第58届年会的会议记录中，第1958-1969页，在线。计算语言学协会。Kristina Gulordava ， Piotr Bojanowski ， EdouardGrave，Tal Linzen，and Marco Baroni. 2018. 无色绿色循环网络分层梦想。在计算语言学协会北美分会2018年会议记录：人类语言技术，第1卷（长文），第1195-1205页，路易斯安那州新奥尔良。计算语言学协会。Ashim Gupta，Giorgi Kvernadze和Vivek Sriku-2021年3月。BERT家庭吃单词沙拉：文本理解实验。arXiv预印本arXiv：2101.03453。罗恩·霍尔·莫兹雷和瑞安·科特雷尔。2021. 语法探测器探测语法吗？炸脖龙探测实验。在计算语言学协会北美分会2021年会议记录：人类语言技术，第124计算语言学协会.杰克·赫塞尔和亚历山德拉·斯科菲尔德2021. 没有单词排序的BERT有多有效？语言理解和数据隐私的含义。在第59届计算语言学协会年会和第11届自然语言处理国际联合会议中，第204-211页。John Hewitt，Kawin Ethayarajh，Percy Liang，andChristopher Manning. 2021. 条件探测：测量超出基线的可用信息。在2021年自然语言处理经验方法会议论文集，第1626-1639页，在线和蓬塔卡纳，多米尼加共和国。计算语言学协会。约翰·休伊特和珀西·梁2019. 设计和解释具有控制任务的探头。在2019年自然语言处理经验方法会 议 和 第 九 届 自 然 语 言 处 理 国 际 联 合 会 议（EMNLP-IJCNLP）的会议中，第2733计算语言学协会。Charles F. Hockett 1960.语言的起源。美国科学，203（3）：88凯尔·马霍瓦尔德，叶夫根尼娅·迪亚切克，爱德华·吉布森，伊芙琳娜·费多连科，理查德·富特雷尔. 2022.在自然语言中，语法线索在很大程度上，但不是完全，与词义冗余。arXiv预印本arXiv：2201.12911。克里斯托弗·D·曼宁，凯文·克拉克，约翰·休伊特，乌尔瓦什·坎德尔瓦尔和奥默·利维。2020.自我监督训练的人工神经网络中的新兴语言结构 。 Proceedings of the National Academy ofSciences，117（48）：30046杰夫·米切尔和米雷拉·拉帕塔2010.分布式语义模型中的复合。Cognitive Sci-ence，34（8）：1388Francis Mollica，Matthew Siegelman，Evgeniia Di-achek，Steven T Piantadosi，Zachary Mineroff，Richard Futrell ， Hope Kean ， Peng Qian ， andEvelina Fedorenko.2020. 写作是语言选择网络的核 心 驱 动 力 。 Neurobiology of Language ， 1（1）：104乔·奥康纳和雅各布·安德烈亚斯2021. Transformer语言模型可以使用哪些上下文特性？ 在第59届计算语言学协会年会和第11届自然语言处理国际联合会议（第1卷：长文）的会议记录中，第851-864页，在线。计算语言学协会。Isabel Papadimitriou ， Ethan A. Chi ， RichardFutrell，and Kyle Mahowald. 2021. 深度主体性：多语言BERT。在计算语言学协会欧洲分会第16次会议的会议记录，第2522-2532页计算语言学协会。Thang Pham ， Trung Bui ， Long Mai ， and AnhNguyen. 2021. 无序：在自然语言理解任务中，句子中单词的顺序有多重要？ 在计算语言学协会的调查结果：ACL-IJCNLP 2021中，+v：mala2277获取更多论文第1145计算语言学协会蒂亚戈·皮门特尔、约瑟夫·瓦尔沃达、罗文·霍尔·莫兹莱、兰·兹米格罗德、阿迪娜·威廉姆斯和瑞安·科特雷尔。2020. 语言结构的信息论探索。在计算语言学协会第58届年会的会议记录中，第4609计算语言学协会基思·雷纳，玛西亚·卡尔森，和林恩·弗雷泽。1983.句子加工过程中句法和语义的相互作用：语义偏向句子分析中的眼动。语言杂志1.000.750.500.250.00(gpt−2）字012345678910 11 12语法角色主题对象原型非原型Learning and Verbal Behavior，22（3）：358嵌入层Koustuv Sinha，Robin Jia，Dieuwke Hupkes，JoellePineau，Adina Williams，and Douwe Kiela. 2021.MaskedLanguageModelingandtheDistributionalHypothesis ： Order Word Matterspre-training forlittle.在2021年自然语言处理中的Em-pesticide方法会议论文集，第2888-2913页，在线和蓬塔卡纳，多米尼加共和国。计算语言学协会。Shira Tal和Inbal Arnon2022年词汇可以有效地学习：来自词序和格标记的证据。《认知》卷二二四，第105055页。埃琳娜·沃伊塔和伊凡·蒂托夫。2020. 最小描述长度的信息论探测.在2020年自然语言处理经验方法会议（EMNLP）的会议记录中，第183-196页计算语言学协会。AGPT-2实验图我们在BERT和GPT-2嵌入上进行了实验，这两种模型都有我们在论文中讨论的为了清楚起见，本文中的图仅可视化BERT结果，我们图4显示了图1的GPT-2结果，图5显示了图2的GPT-2结果，图6显示了图3的GPT-2结果。B变元交换句子示例我们的参数交换计算集的随机样本（不是精选的），其中子句的主语和宾语自动交换。原来的主语是粗体，原来的宾语是粗体和斜体。创建这些句子的过程在第4.1节中详细介绍图4：与主论文中的图1等效，关于GPT-2嵌入.图5：等价于主论文中的图2，关于GPT-2嵌入。GPT-2嵌入的语法表示在相同的分布上下文中对于相同的词也是不同的。.图6：等价于主论文中的图3，关于GPT-2嵌入。如虚线所示，在词汇语义没有帮助的非原型情况下，语法角色信息不能从局部混洗的句子中提取.(gpt−2）原句和交换句中相同单词的推进1.000.75原创，0.50作为对象交换，作为主体0.250.00字01234567891011 12嵌入层(gpt−2）在本地混洗句子上训练和评估的探针1.000.750.50原型非原型0.250.00词01234567891011 12嵌入层Avg.探头P（正确）Avg.探头P（受试者）Avg.探头P（受试者）+v：mala2277获取更多论文星期四，距离2014年俄罗斯索契冬季残奥会开幕还有110天，教授采访了华盛顿州立大学教育领导、体育研究和教育/咨询心理学助理维基新闻记者SimonLiC.C. Simon ，了解美国对残奥会的态度这种方法显示了一个更现实的视频玩魁地奇。其次，聚合视图仅提供了一个领域的高级信息，这可能使调查因果关系变得困难[23]。一只手举起她的女孩。密西西比河流域的破坏和河口湿地的破坏使得新奥尔良周围的变化异常容易受到自然力量的众所周知，运动的能量在获得高度时将其动能转换为势能因此，当ACPeds在2016年发表声明谴责性别重置手术时[21]，许多人误以为该组织他的画把美术和中国书法完美地结合在一起.当英寸变成几棵植物高，它们的叶子成熟时，就自电视剧开始以来，AV俱乐部的评论为每集写了两个