人工代理需要注意力：有意行动的案例

0人工代理需要注意力：故意行动的案例�0Paul Bello，Kevin O’Neill和Will Bridewell0美国海军研究实验室，华盛顿特区20375，美国 {paul.bello，kevin.oneill，will.bridewell }@nrl.navy.mil0摘要。构建一个人工代理是什么意思？在之前的工作中，我们已经详细阐述了人工智能的承诺对我们社会的影响，这需要重新思考这个问题[1]。我们主张我们通常能够认识到的形式的代理需要有意识地支持理性选择（同上）。在这篇简短的论文中，我们进一步主张，意识或类似意识的存在通常也对有意行动至关重要，并通过思想实验和计算建模来探索它们之间的联系。0关键词：注意力 ∙ 有意识的行动 ∙ 人工代理01 动机0想象一个傲慢的侄子，多年来一直期望继承富有的叔叔的财产，然而他最终得知自己被从叔叔的遗嘱中剔除了。他非常愤怒，他把步枪放在车里，跳进车里，向叔叔的房子飞驰而去。在路上，他满脑子想着朝叔叔开枪和由此产生的血腥屠杀。当他的车撞上一名不知名的行人时，他突然从幻想中醒来。下车后，他意识到自己撞死的竟然是他的叔叔！那么问题是这个杀人行为是有意的吗？让我们重新进行这个思想实验，但是考虑到环境中的某个显著因素重新引导侄子的注意力，使他在撞击之前认出行人并明确地认出行人是他的叔叔。此时，侄子决定修改自己的意图，改为用车撞死叔叔。假设他这样做了。在这个情节的版本中，侄子有意杀害了他的叔叔吗？对于愤怒的侄子来说，直觉表明第一个变体是无意杀人，而第二个变体则是典型的有意杀人。对意图的推断取决于读者知道侄子在第一个变体中分心，因此不知道自己在做什么，而在第二个变体中，他专注于驾驶，认出了行人是他的叔叔，并决定用撞倒他的方式来修改自己的意图。在这种情况下，侄子故意杀害了他的叔叔吗？0�作者们对美国海军研究办公室在奖励N0001418WX00166下的慷慨支持表示感谢。本文的观点仅代表作者，不应被视为美国政府或国防部的官方政策或立场。1这个例子是对[4]中提出的原始思想实验的一个变体02 P. Bello等人0发生。缺乏意识是可以破坏主体控制的一个关键因素，或者说是主体适当引导行动的能力。02 注意力和有意识的行动0我们选择从注意力开始，而不是直接涉足意识的混沌领域，因为注意力与意识意识有着密切的关系[5]。为了开始对有意行动进行计算描述，我们借鉴了哲学家WayneWu的工作，他将注意力定位为在拥有意图和成功实现有意行动之间起到中介作用的因素[7]。这样做可以为主体控制留出空间，这样一个主体仅仅具有适当的信念、欲望和意图在某些情况下并不足以实现有意行动的成功。相反，为了有意成功实现自己的目标，必须适当地关注手头的任务，就像愤怒的侄子的案例中所展示的那样。在Wu的工作基础上，我们在ARCADIA计算认知系统中开发了一种新颖的意图计算方法，将意图部分地构成了注意力优先级的集合。每个意图由描述其概念内容的高级语义信息（即，所意图行动的语言描述）、上述提及的注意力优先级集合和一组刺激-反应（S-R）链接组成，这些链接是用于执行所意图任务的过程知识。当意图被采纳时，它被加载到任务内存中。尽管任务内存可以容纳多个意图以促进多任务处理和甚至在执行中适度并发，但一次只有一个意图是占主导地位的。意图在任务内存中占主导地位，仅仅意味着它的注意力优先级当前正在引导系统的注意力焦点。保持一个意图占主导地位是定期关注它的问题。我们在系统中实现了内部语音的功能，这样当意图的名称或语义相关的内容被默读时，意图仍然保持活跃。切换意图是非占主导意图获得焦点，并且使其注意力优先级指导系统行为的问题。就像注意力优先级将注意力焦点引导到外部特征、区域、物体和事件一样，它们在很大程度上决定了ARCADIA短期记忆存储的内容。短期记忆中的项目大致对应于NedBlock所称之为“接入意识”内容，他将其描述为在思维和行动的理性控制中可能被使用的内容[2]。综上所述，在ARCADIA中，占主导地位的意图部分地构建了（接入）意识，因为它们与注意力的关系相连。我们已经将所有这些功能应用于开发一个简单的代理，该代理对应于前面详细描述的情节中的愤怒的侄子。最初，该代理有三个意图：计划谋杀的细节，开车去他叔叔的家，最后杀死他的叔叔。因为ARCADIA支持多个活动意图，所以代理能够同时开车（虽然开得不好）并进行计划。与驾驶相关联的S-R链接直接响应环境的某些方面，这些方面在注意力焦点之外被处理，直到粗粒度语义级别。在第一个变体中，计划占主导地位，代理忽略了定期切换回关注驾驶，导致代理无意中撞倒了其叔叔。在第二个变体中，代理同样专注于计划，但是一块闪闪发光的红色停车标志吸引了代理的注意力，促使其切换回驾驶。一旦代理专注于驾驶，就会发现叔叔。认出叔叔提供了一个机会，通过使用汽车撞倒叔叔来完善计划，而不是之前考虑的开枪或刺伤。计划完成后，代理再次专注于驾驶，并立即撞倒叔叔，故意杀害他。0富有的人工代理需要有意识的参与 303 最后的思考0与其他人一样[6,5]，我们认识到任何试图计算模拟我们通常所认为的意识的努力都需要处理感知和注意力。当然，人们可以想象构建一个纯粹的笛卡尔人工智能，但这样的机器与外部世界没有实质性的联系。最终，我们所考虑的代理类型存在于世界中，持续感知并频繁行动。选择性注意力既构成了接入意识又构成了现象意识：当我们移动眼睛时，周围的物体变得详细清晰，之前焦点中的物体的细节在某种程度上变得模糊，除非短期记忆中编码了某些细节。理解和建模有意识的认知最终是一个系统级的企业，涉及感知、知觉、注意力、记忆、推理和行动。虽然在澄清这些不同能力与意识之间的关系方面仍然需要大量的实证研究工作，但可以毫不否认的是，一个丰富的注意力模型是它们的核心，并且对于我们所有寻求机器和人类受相同社会和文化规范约束的未来来说，这是意识引起的代理的一种必要条件[1]。0参考文献01. Bello, P., Bridewell, W.：没有注意力就没有机构。AI杂志38（4）（2017）2. Block,N.：关于意识作用的混淆。大脑与行为科学18（2），227-247（1995年）3. Bridewell, W.,Bello,P.：认知系统的注意力理论。第四届认知系统进展年会。第4卷，第1-16页。伊凡斯顿，伊利诺伊州（2016年）4. Chisholm, R.：自由和行动。在：Lehrer,K.（编）自由与决定论。兰登书屋（1966年）5. Prinz, J.：有意识的大脑。Oup Usa（2012年）6.Watzl, S.：构建思维：注意力的本质及其塑造意识。牛津大学出版社（2017年）04 P. Bello等人07. 吴，W.：专家和异类：代理控制的故事（2015年）。https://doi.org/10.1111/phpr.12170