建构主义机器学习：解读人类认知机制的最新前沿

解构人工智能的最后前沿：建构主义机器学习托马斯·施密特Uni versitaüt Leipzig德国莱比锡Augustusplatz 10，D-04109schmid@informatik.uni-leipzig.de摘要人类认知的模糊性和多样性可以被视为开发人工智能等效系统的最后前沿。尽管取得了惊人的成就，但现代机器学习算法仍然仅仅是自适应系统。例如，深度神经网络通过复杂连接来表示复杂性，但不能允许对可解释知识进行抽象和区分，即，人类认知的关键机制。像支持向量机、随机森林和其他统计动机算法一样，它们既不反映也不产生人类思维的结构和策略。因此，我们建议重新调整现有机器学习工具的使用，使其与人类学习和专业教学中的关键概念--机器学习主义的哲学范式相一致。基于分类器等学习单元可以被认为是有效性有限的模型的想法，我们制定了五个原则来指导建构主义机器学习。我们描述了如何定义这样的模型和模型的限制，如何将它们联系起来，以及关系如何允许抽象和区分模型。为此，我们建议使用Meta数据的分类器和其他模型。此外，我们认为，这种基于Meta数据的机器学习会产生一个知识库，这个知识库既可以通过自动化的方式创建，也可以为人类解释。在过去的十年中，它已被广泛接受，以解决计算系统的智能。不仅是记者，而且科学家也在他们的出版物中采用了这种习惯。事实上，许多经典的工程任务，如监控或调节，都受益于机器学习的应用（Abellan-NebotandRomeroSubiro'n2010; Mohanraj ， Jayaraj ， andMuraleedharan 2012）。模式识别也是如此，最突出的是自动图像和视频分析（Zafeiriou，Zhang 和Zhang2015; Yang et al. 2011）。即使像臭名昭著的图灵测试这样的终极挑战仍然不令人满意（You 2015），但在玩围棋等专业任务中的一些特殊结果（Silver et al.2016）使当前的学习机器在人类水平上看起来很聪明版权归作者所有。以.马丁，K. Hinkelmann，A. Gerber，D.Lenat，F.van Harmelen，P.Clark（Eds.），AAAI 2019春季研讨会将机器学习与知识工程相结合斯坦福大学，帕洛阿尔托，加利福尼亚州，美国，2019年3月25日至27日。然而，学习系统的最后一个前沿是在不同的个体集合中或从模糊的刺激中观察到的替代认知功能的多样性（Korn- meier and Bach 2012）。虽然在过去的几十年里，哲学已经承认并接受了人类认知的主观性和局限性特别是，既定的算法既不能对模糊环境带来的挑战提供令人信服的答案;也不能提供明确允许与社会感知差异相比较的矛盾判断的概念。这个缺点的主要原因是，到目前为止，算法和研究人员都未能纳入建构主义的观点。建构主义不仅意味着认知是一种高度个体化的现象，而且意味着人类在感知世界的过程中发挥着积极的作用，然而，旨在预测自然规律以外事物的算法和应用程序，恰恰隐含地建立在这种过时的假设之上。在下文中，我们将介绍允许机器学习遵循建构主义原则的公理这种方法的主要特征是使用来自经验科学的现代工具，面向模型的学习，处理歧义的能力，将监督和无监督学习集成到统一框架中的能力，创建个人知识库的能力以及自动提取，区分或丢弃学习知识的能力1. 认知功能的关键组成部分是模型。自 从 人 工 神 经 网 络 作 为 一 个 理 论 概 念 被 引 入（McCulloch和Pitts 1943）以来，许多数学家和计算机科学家都认为神经元是学习系统的关键组成部分。然而，在教育学和心理学中，认知功能通常被视为个体获得和暴露的某些技能或能力，并以能力概念等术语描述，例如， 广泛应用于现代欧洲教育体系（M e'haut和Winch2012）。功能主义心理学通过心理模型的概念来解释人类的认知功能（Rouse和Mor，VVV VVRIS 1986）。最初，心智模型被用于理解运动控制，例如，（Veldhuyzen和Stassen 1977）。然而，在更一般的意义上，心智模型被描述为它也被假定，这样的模型 不 能 是 静 态 的 性 质 ， 而 是 连 续 的 修 改 （ Oatley1985）。哲 学 家 也 认 为 模型 是 人 类 获 取 知 识 的 重 要 工具（ Klaus 1967 ， p.412 ） ， 甚 至 是 唯 一 的 工 具（Stachowiak 1973，p.56）。虽然存在不同的和一致的理论定义，大多数模型概念假设一个图像，图像的起源和它们之间的关系这个定义是，例如，与海因里希·赫兹和其他人提出的数学建模思想相匹配（赫兹1894;汉密尔顿1982）。随着机器人技术和人工智能的兴起，工程师们通过假设控制论模型的概念来适应和扩展这一想法，该模型涉及模型的广义主体和对象（Rose 2009）。然而，控制论既不反映与时间有关的方面，也不反映与个别模型主体有关的问题。赫伯特·斯塔乔维亚克（Herbert Stachowiak）在发展他的通用模型理论（Hof2018）时受到控制论的影响。他假设任何模型都限于特 定 的 主 题 ， 特 定 的 时 间 范 围 和 特 定 的 目 的（Stachowiak 1973，p. 103）。133）。为此目的，限制因此，这种模型通过将具有未知有效性限制的其他模糊模型视为多个有限有效性的模型来规避模糊性。2. 学习是通过构建、重建或解构模型来实现的。现代教育被建构主义和建构主义学习的思想所主导（Fox 2001）。这种方法的核心是基于这样一种假设，即人类通过被称为建构、重建和解构的过程积极地、个体地获取知识和能力建构与创造、创新和生产相关，并意味着寻求知识的变化、组合或转移（Reich2004，第145页）。类似地，重建与应用、重复或模仿有关，并意味着寻找秩序、模式或模型（Reich 2004，第145页）。解构是在建构主义的背景下，与重新思考，怀疑和修改有关，并意味着寻找遗漏，补充和后天知识的缺陷部分（Reich 2004，p. 10）。145）。半个世纪以来，学习算法一直用于将样本数据转换为数学意义上的模型，即：转换为图像和原点之间的广义数学关系。两种主要的方法或目标，称为监督和无监督学习，要么需要或不需要给定的目标参数。人工神经网络及其亲属是最流行和最突出的学习算法之一，给定目标参数（Singh，Thakur和Sharma 2016），但统计动机的方法，如支持向量机（Cristianini和Shawe-Taylor 2000）或随机森林（Breiman 2001）也被广泛用于监督学习;监督学习的一个专门领域是再强化学习，它在机器人技术中很流行。（Kober和Peters 2012）和自适应控制（Lewis，Vrabie和Vamvoudakis 2012）。对于无监督学习，也采用了生物逻辑启发的方法，如自组织映射（Ko-honen 2001）以及统计动机的方法，如k-means（Jain 2010）。在某种程度上，机器学习与现代教育理念相似。建构主义意义上的建构过程可以通过无监督学习来匹配，即，识别聚类或降维，并且可以，例如，可以使用自组织映射、k均值、自动编码器或特征聚类来实现（Schmid 2018）。建构主义意义上的重建过程可以通过监督学习来匹配，即，分类或回归任务，例如，使用人工神经网络或随机森林实现（Schmid 2018）。然而， 很少有研 究者讨论 机器学 习的建构 主义方法（Drescher 1989; Quartz 1993），更不用说如何设计解构过程了。虽然存在具有手动重新工程选项的特定领域应用程序（Herbst和Karagiannis 2000），但据我们所知，目前只有一种算法解构过程的工作实现（Schmid2018）。3. 在计算上解构模型需要基于模型的Meta数据。为了自动化和实现解构过程，必须保持成功学习的模型可用于比较或重新训练。此外，与新模型的可能匹配必须分别通过计算或逻辑运算以明确的方式识别。对于Stachowiak模型，关于有效性限制的特征存在于所采用的任何模型中，这允许区分模型。在这里，我们概述了如何为机器学习创建的模型识别这些Meta数据。机器学习意味着从称为训练向量的示例中学习例如，对于由传感器数据产生的监督训练向量，这意味着V=（I，O）（1）=（i0，.，i m−1，o0，...，（2）第一个条件：具有m维输入I和n维输出O。此外，一个类似Stachowiak的训练载体将具有三个语用特征：V=（V，TV，ZV）（3）与TV=τ（4）中国（5）ZVZ （6）其中，T是时间上的一个点τ，而τ和Z是模型主体和模型目的的无限集合MMMMMMMMMMMn−1MMΣZ，分别。当使用传感器数据作为训练数据时，每个向量的T和Z可以由传感器Meta数据给出，并且由数据集合的应用上下文给出。如果基于机器学习的模型M被认为是n个训练向量V的近似，其中M{V0，...， Vn−1}（7）然后Stachowiak类模型M的Meta数据，M=（M，TM，M，ZM）（8）可以从潜在的n个 Stachowiak类火车推导出来ing vectorsV（Schmid 2018）by：模型的目的，但不同的主观有效性，要么促进一个模型c的主体间有效性T的解构留下了两个与T相关的模型a和b。相反，它将根据他们的输出构建新的模型，产生更高级别的模型。这仅仅是因为a和b共享一致的时间有效性和共同的模型主体集合，而在它们的模型目的上不同总之，T语言解构过程可以被视为一种自动抽象或概括知识的方式。TM=TVmin（TV0Ω，. ，TM=Vn−1 ），max（TV0，. ，TVn−1 ）（9）（十）5.一个层次有序的模型集构成了一个丰富的知识库。由机器学习算法创建的任何一组模型i=0in−1表示在基础训练中继承的信息ZM=i=0ZVi（十一）数据，因此可以被认为是一个知识库。在通过为机器学习算法学习的每个模型提取和管理这些Meta数据，学习的模型变得可辨别。最重要的是，模型有效性中的重叠或矛盾由此变得可识别，并且可以通过算法来解决。4. 解构模型意味着要么抽象，区分或丢弃它们。利用Stachowiak类模型的语用特征T、Z、Z作为Meta数据，可以自动匹配和区分机器学习生成的模型。特别是，这允许通过对给定模型的解构来实现学习。关于由各个模型暴露的Meta数据匹配的程度，这里将区分四种类型的解构操作。两个给定的Stachowiak类模型Ma和Mb之间的关系度被称为1. 完成，如果TMa=TMb，则TMa=TMb，ZMa=ZMb。2. 主观故意（Subjective-intentional，然而，在建构主义方法中，这样的集合的每个模型具有明确的有效性限制，这贡献了额外的知识和复杂性。知识库中的时间空白，例如，因此可以明确识别分层排序还指示抽象的热点，即，更高层次的模型。这种知识库中的抽象和区分程度可以通过评估模型的数量、平均时间有效性等来量化。或者，这可以通过构建和可视化基于Meta数据的排序来实现除了它们的时间有效性之外，这样的集合的模型也可以分别根据它们的模型目的或抽象级别来排序。对于统一的模型主题或相同的学习算法，三维图可以可视化时间扩展和成功抽象的扩展。此外，每个单独的模型表示监督学习应用，即，分类器或回归器，并且可以在建立知识库之后使用。为此，由建构主义机器学习创建的分层有序的模型集不仅继承了结构化，若TMaTMb，则TMa=TMb，ZMa=ZMb;也包括实用知识。匹配给定测试样本3. 时间-意图（TZ），若TMa=TMb，则TMa/=TMb，ZMa=ZMb;4. 时间-主观（T），若TMa=TMb，则ZMa=/ZMb;对两个完全相关的模型进行解构，基本上可以确认两个模型的一致性和有效性，也可以使两个模型都失效，从而导致两个模型都被抛弃。作为第三种选择，这种解构过程允许测试两种模型的组合是否可以分为两个时间有效性更有限的子模型。两个与Z相关的模型a和b具有一套共同的示范主体和示范目的，但在时间有效性方面有所不同。因此，ZeroZ解构构建并评估a和b的时间联合;通过这种方式，初始模型要么被具有更大时间有效性的统一模型所取代，要么保持不变。解构两个TZ相关模型a和b，它们具有一致的时间有效性和公共集合可以通过简单地匹配Meta数据来识别。因此，在没有知识可用的情况下，可以拒绝知识库的应用结论在目前的工作中，我们建议的原则，使用现有的机器学习算法方面的建构主义理论的人类学习。基于这里介绍的五个公理，可以实现创建可解释知识的建构主义方法这种方法允许，特别是，创建一个无歧义的知识库。虽然对建构主义机器学习的潜在应用没有限制，但需要避免模糊知识和结果的任务可能会从这种学习范式中获益最多。这种方法的未来工作将专注于构造主义机器学习的并行化策略，以及开发与人类认知功能的面向任务的比较。引用Abellan-Nebot ， J.五， 和 RomeroSubi ro'n ， F. 2010年。基于人工智能过程模型的加工监控系统综述。国际先进制造技术杂志47（1）：237-257。布雷曼湖 2001. 随机森林 机器学习45（1）：5-32。克里斯蒂安尼尼，N.，Shawe-Taylor，J. 2000. 介绍支持向量机和其他基于核的学习方法。北京：清华大学出版社. chapter 6，93Drescher，G. L. 1989. 虚构的头脑：人工智能的建构主义方法。博士论文。Duffy，T. M.，和Jonassen，D. H. 1992.建构主义：教学技术的新含义。在达菲，T. M.，和Jonassen，D. H、编辑，建构主义与教学技术Hillsdale，NJ：Erlbaum. 1比16福克斯河2001.建构主义考察牛津教育评论27（1）：23-35。汉密尔顿，A. G. 1982. 数字，集合和公理：数学的仪器。北京：清华大学出版社.Herbst，J.，和Karagiannis，D. 2000.集成机器学习和工作流管理，以支持工作流模型的获取和适应。会计、财务和管理中的智能系统9（2）：67-92。Hertz，H. 1894.机械原理在新的设计中是很重要的。在赫兹，H.，ed.，Gesammelte Werke，第三卷。莱比锡：巴特。霍夫湾E. 2018.控制论的“一般模型理论”：统一科学还是认识的变化？Perspectives on Science26（1）：76-96.贾恩A.K. 2010年。数据聚类：超越k-means的50年Pattern Recognition Letters31（8）：651-666.Klaus，G.一九六七年Woürterbuc hderKybernetik.柏林：迪茨。Kober，J.，Peters，J. 2012.机器人中的强化学习：综述。在M. Wiering和van Otterlo，M.，编辑，强化学习。斯普林格。chapter 18，579Kohonen，T. 2001年 自组织地图，第30卷Springer Series in Information Sciences. Springer ， 第 3版。Kornmeier，J.，和Bach，M. 2012.模糊图-当感知改变而刺激不变时，大脑中会发生什么。人类神经科学前沿6.Lewis，F.; Vrabie，D.;和Vamvoudakis，K. 2012.再学习与反馈控制：利用自然决策方法设计最优自适应控制器。IEEE Control Systems32（6）：76-105.McCulloch，W.美国，和Pitts，W. 1943.对神经活动中不可或缺的观念的逻辑演算Bulletin of MathematicalBiology5（4）：115-113.我的上帝，P.， 和Winch，C. 2012年。欧洲资格框架：技能、能力还是知识？欧洲教育研究杂志11（3）：369-381。Mohanraj ， M.;Jayaraj ， S.; 和 Muraleedharan ， C.2012年。人工神经网络在制冷、空调、制冷系统中空调和热泵系统a审查。可再生和可持续能源评论16（2）：1340-1358。Oatley，K. 1985.对物质世界和社会世界的再现。在Oatley，D.一、ed.，大脑和思想。London：London. 32比58普拉瓦特河美国，和Floden，R. E. 1994.建构主义学习观的哲学透视。教育心理学家29（1）：37-48。Quartz，S. R. 1993.神经网络、先天主义与建构主义的可解释性。认知48（3）：223-242。Rasmussen，J.一九七九年论知识的结构--人机系统背景下金属模型的技术报告Riso-M-2192，Riso国家实验室，Roskilde，丹麦。Reich，K. 2004. Konstruktivistische Didaktik.来自国际贸易的法律和法规。慕尼黑：Luchterhan，第二版。Reich，K. 2009.建构主义：方法的多样性和与实用主义的联系。在希克曼湖，一、Neu- bert，S.;和Reich，K.，编辑，杜威在实用主义与建构主义之间.北京：清华大学出版社.Rose，J. 2009年。早年：关于控制论的起源和概念的Kybernetes38（1/2）：20-24.劳斯B、和Morris，N. M. 1986.探究黑箱：寻找心智模型的前景和局限。Psychological Bulletin100（3）：349-363.Schmid，T. 2018. 机械零件结构动力学特性的自动分析.博士论文，莱比锡。Silver，D.; Huang，A.;麦迪逊角J.道：Guez，A.;先生L.的; van den Driessche，G.; Schrittwieser，J.;安东诺格鲁岛; Panneershelvam，V.; Lanctot，M.; Dieleman，S.;Grewe，D.; Nham，J.; Kalchbrenner，N.; Sutskever，I.;Lillicrap，T.; Leach，M.; Kavukcuoglu，K.; Graepel，T.;和Hassabis，D. 2016.用深度神经网络和树搜索掌握围棋游戏。Nature529：484-489.辛格，A.; Thakur，N.;和Sharma，A. 2016.有监督机器学习算法综述。2016年第三届国际计算促进全球可持续发展会议（INDIACom），1310Stachowiak，H. 1973. 一般模型理论斯普林格。Veldhuyzen，W.，Stassen，H. G. 1977.内部模型概念：大型船舶人控建模的应用。人的因素：人的因素和人体工程学学会杂志19（4）：367-380。威肯斯角D. 2000. 工程心理学与人类行为New Jersey：Prentice Hall，3rd edition.杨，H.;邵，L.;郑，F.;王，L.;和宋，Z。2011年。视觉跟踪的最新进展和趋势：综述。神经计算74（18）：3823-3831。你J2015.超出 图灵测试科学347（6218）：116-116.Zafeiriou，S.; Zhang，C.;和Zhang，Z. 2015.野外人脸检测综述：过去、现在和未来。计算机视觉和图像理解138：1-24。