机器人的意识和自我建构

自我意识暗示人类和机器人的意向行为Cristiano Castelfranchi和Rino FalconeISTC-CNR，罗马意大利（cristiano.castelfranchi，rino.falcone）@istc.cnr.it抽象。 在本文中，我们提出了一个具体的分析意识主题。特别是，我们感兴趣的是识别意识是如何与有意的行动（包括个人和社会行动）和自我的构建相关的。所有这些方面对于理解如何建造机器人，或者更一般的自主人工智能体，能够实现深度和智能交互都非常重要关键词：意识，意向性行动，意向性社会行动。1介绍1.1我们的主张和“意识”的模糊性本文的目的是阐明一些关于“意识”（一个多义词1）的关键形式的明确论点(1) 一个真正的(2) 一个有意识的(3) 自我的建构，主体及其身份的表征，必然需要自我意识。由于机器人应该能够进行真正的有意（深思熟虑）的行动（不仅仅是自动行为），以及真正的类似人类的交互（至少与人类），因此（以及其他原因）它们也必须建立和工作于自我表征并具有某种形式的身份，因此机器人也应该具有这些形式的自我意识。1.2意识不同于主观经验，不同于心灵更确切地说，在这里我们不会把意识等同于或简化为这是一个重要的问题，假设-在我们看来-一个功能主义理论的[1]用Chella和Manzotti的话来说，这是“一种难以捉摸的、有争议的现象”。并涵盖各种独立的现象也见（15，3）。2在人工生命中可以实现。然而，由于哲学、心理学的“先验”框架、心理模拟观等原因，这一问题虽然是一种流行的、新潮的兴趣，但我们并不打算关注1.3其他形式的意识和人工建模让我们把现象经验的人工建模问题放在一边，感受质，并强调建模的其他“概念”的“意识”的优先权- 自我意识：我们的自我形象（9，12）和表征;“身份”（作为我们在社会关系中的认知表征：我们的成员身份，我们的特征和品质，我们的（比较）评价;我们的传记和叙述，以及我们的群体;我们对未来的表征：不可能放弃的欲望，计划和野心，希望和期望;我们的我们的展览和维护这些陈述等）;以及我们对它的推理（这是元认知的一种形式和用途;见下文）;以及我们对它的情感依恋。- 元认知过程：a）我们的心理表征和加工的表征和加工。如隐含的元信号和元操作：如与意识相关的，关于精神状态的明确的元表征和元推理，以及对它们的元行动，为了改变我们自己的目标和意图，改变我们自己的信念;能够真正拥有“意志”和“力量”;能够将意图强加给我们自己，排除或阻止冲动或先前的意图;能够争论和说服自己;等等。2“故意”代理人所需的自我意识让我们集中在这篇论文中的关系，一个真正的“认知目的性”，“故意”的行为和形式的意识必要的2.1我可以，我知道，我必须，...一个真正的让任何真正的3认知主体的意识和自我意识的形式和组成部分：关于自我的自反信念和目标。特别是，为了决定去做某件事，为了把一个目标成我的此外，我必须相信，（b）否则，我不会否则我就放弃这个目标仅仅拥有这种能力是不够的，我们还需要知道我们拥有这种能力;对我们的权力、我们的自主性的意识，是真正拥有和行使这些权力、成为自主的一个条件这些都是目标处理过程中的关键步骤，从欲望开始，产生意图。Toa) 当我们在世界上做一件事时，我们会看到我们是否真的知道在任何行动中也有一个认知目标（不一定是有意的和意识到的，但一个功能），以获得关于世界和我们的知识有时我们只是有时候尝试只是为了学习，只是一个实验。b) 通过行动，我们也发出了一个关于我们自己的信号（意图，假设，价值观，能力，权力等）。不仅是对其他人，也是对我们自己。为了看看我们是否有能力和成功，而是为了2.2元决策的意识自我意识对于某些特定层次和类型的决策也至关重要。事实上，我们也有关于决定或不决定的元决定。例如，我们可以决定（选择）或不决定某事。这不是简单地不到达一个决定，因为算法没有达到足够的水平值的差异，或暂停决策，因为有一些重要的缺乏数据。这可能只是一个步骤，一个决定程序的出口。我们指的是真正的元决策，它基于对决定与否的利弊的评估。例如，一个经典的案例是决定不决定，以避免内疚，错误决定或承担风险的责任，以及自责。请注意，在一个给定的决策中，个人“承担”（而不仅仅是“招致”）风险的风险在4A我们“承担”A风险，而选择B我们“承担”B风险。如果我们想要一边是冒险，另一边是拒绝冒险。因此，为了采取这种元决策，需要一种严肃的意识形式;不仅是元表征，对我们的认知决策过程的自我意识，而且是关于可能受到责备和自责的对象的自我表征，具有不受责备的目标，我们对我们的决定的后果“负责”的想法我们的机器人能决定还是不能决定？我们认为，这是自主决策者的关键能力，特别是在授权关系中，以及谈判授权级别。因此，我们认为我们必须在我们的机器人中建立这些意识方面（8）。3社会互动中的意识，社会意图让我们专注于我们的第二个论点。认知社会性必然意味着意识（和身份;与“他者”的区别）的某些关键和高级方面事实上，为了与Y互动、协调和合作，我们需要代表（归因于）他的精神状态（他相信什么、想要什么），也需要他对我们心灵的代表：他相信什么、我们相信什么、想要什么;这可能是某种象征性的形式。此外，我们必须将这些关于我们的心理内容的表征他明白我们在做什么吗？我欺骗Y成功了吗因此，合理地，我们需要以与Y的精神状态的表示相同的格式（可比较的）来也就是说，我们需要将我们在社交中使用的“读心术”或”描述”应用到自己身上显然，这是元认知的一种特殊形式（和原始形式）（对于潜在的自我影响等），识机器人将精神状态归因于自己会是“错误的”吗？它的反身读心术会出错吗？机器人如何3.1自我意识、行为规范和信任关于HRI的一个相关问题-严肃的研究对象-是关于机器人对人类（或其他机器人）的论证和解释的需要，人们声称--我们认为这基本上是正确的--这种认知和沟通能力对于信任机器人至关重要。我们能信任一个我们不理解的代理人吗？我们只想强调，这5作品;它的这往往是不可能的，也不是必要的，甚至是错误的，适得其反（正如我们在（5）中所论证的）。我们必须了解它是如何工作的，以依赖它和使用它;它的启示，可靠性和有效性。我们知道自动门的真正原理吗这是信任他们并决定尝试通过的必要条件没有;但我们有必要了解，它打开，肯定和安全，如果/当一个人正在接近，它保持开放足够的时间通过它。所以，我们不了解它的“机制”，但我们有一个“心理模型”，它是如何工作的现在，为了依赖我们所依赖的我们必须依靠它的认知能力。对于社会互动和协调，我们需要一些有时候我们无法理解其他人在做什么或为什么;这将是最糟糕的“人工”智能。因此，机器人向我们“解释”它在想什么、在做什么（这是一个目标概念，而不是一个观察概念）以及为什么这样做的能力将非常重要然而，问题是，为了向我们提供关于它的存在的这种解释，机器人必须描述它的心理内容和过程。换句话说，这将需要一个令人印象深刻的元认知，自我表征（以目标处理步骤的简化模型为例，从激活到真正的意图制定。为了向别人（和我自己）解释！我应该能够意识到、提醒和交流至少12个信念和几个积极的目标，并就这些目标的主观价值和我的偏好进行辩论。这种至关重要的信任--机器人必须能够回答这样的问题：“谁做了这件事？为了回答这个问题，机器人必须有一个代表自己的代理人，以区别于“其他人”;但我们然而，为了回答像“你为什么这绝对是一种“意识”。更严重的问题是回答：能够区分没有选择的命令和它自己的决定;能够说：但这需要一个非常分析的表征/解释（和记忆），它自己的心理过程出来，在这个行动;一个非常6有意识的元观察我们怎么能相信一个不知道是谁“决定”了它在做什么的机器人呢？它是不是真的能够自觉自主？4结论在这篇文章中，我们主要讨论了那些与意向性和认知目的性行为有关的意识形式。我们详细分析了不同类型的意识，特别是：自我意识和元认知过程。让我们以一系列与《机器人》中的意识问题密切相关的问题作为结论A) 对机器人来说有个“我”可能很有用 为了在一个共同的计划上进行协作，有必要分配角色：“你”（“不是我”）做101;“我”做102。因此，为了与机器人合作，机器人必须有一个“我/我”的概念，或者更好地说，“自我”的表征但是，真的有必要有一个自我建构，一个“自我”的表征，这似乎是对“自我”的一种仅仅是程序性的、不明确的认同。机器人被编程为执行在这样的R24中提到的所有动作就足够了，并且当当前计划/程序指定现在存在R24的动作，而不是R7或H2时，它“执行”该动作：不是真正的“我”，它似乎足以以第三人称表示“自我”。随着时间的推移，单独执行的计划可能也是如此：“我”现在行动，但我也指望下个月的“我的”行动来“完成”我投资的计划：我在未来建立了一个“我”的代表，我依赖于这个代表。同样，有项目和“未来的我”的野心：是“我”还是另一个？什么样的代表是必要的？B) “我”的统一性是什么？不与自己合作。也许这是其他形式的意识的结果，如主观经验和区分“内部”世界和我“感觉到”的东西以及我感觉到和看到的外部世界。事实上，如果我（R24）意识到自己是R24，那么我知道我必须/能够与R24的内心世界保持联系，并从那个内心世界作为现实的表征系统来这与完全阅读R24内部世界并相应行动的人不同，但也有自己的倾向，态度，决定（我们必须考虑这些态度的影响，尽管它试图减少它）。C) 机器人有真正的自主目标意味着什么？一个有趣的问题是现有机器的动机自主性降低。我们可以设计出具有“自己”和自主目标的机器人，即为自己的目标（自利的、自我激励的，不要与自私混淆）和如何追求这些目标（子目标）而决定做或不做的机器人2[2]然而，它们所追求的这些（非工具性的）最终目标的自主性是有限度的，因为它们是“天生的”。不同的是，动机不是设计出来的，而是通过进化而来的。7有一个层次，“自主目标/目的”意味着我自己的目标，内部目标;不是远程控制，没有命令或注射。它不会改变任何东西，如果它给了我（或者在我们的情况下给了机器人）自然选择或上帝（以及你如何知道这一点有分歧），或者人工选择或设计师，或者我在世界上的经验它们是我的内生目标/目的，它们并不都来自身体。代理人的自主性问题总之，我们可以说，在这项工作中讨论的意识类型（自我意识，元认知过程），如果在机器人中表现出来，不仅有趣，而且有用。对机器人来说，阅读我的想法是不够的（也许是为了更好地帮助我），还要把我的想法和它的想法进行比较。引用1. Bratman，M.意图、计划和实际原因。Cambridge，MA：Harvard University.2. Castelfranchi，C..自我意识：心灵内社会互动的计算理论笔记。In G. Trautteur（ed.），Consciousness，Napoli，Bibliopolis，pp. 55-80. （1995年）3. 卡斯泰尔弗兰基角意识还是意识？为解缠建模。International Journal of MachineConsciousness，2009，1，n°2.4. 卡斯泰尔弗兰奇角2012年《我的心》。反身性社会性及其认知工具。In Paglieri（2012），John Bejiennis，pp. 一百二十五至一百五十5. Castelfranchi C.，法尔科内河，《信任理论：一个社会认知和计算模型》，约翰·威利父子出版社，2010年4月。6. Chella A.， 曼佐蒂河（编辑）人工意识安德鲁斯英国有限公司，2013年。7. 丹尼特，哥伦比亚特区，（1971）“意向系统”，《哲学杂志》，第68卷，第100期。4，（1971年2月25日），第87 -106页8. 法尔科内河，卡斯泰尔弗兰奇角（2000），The Human in the Loop of a DelegatedAgent：The Theory of Adjustable Social Autonomy，IEEE Transactions on Systems，Man ， and Cybernetics ， Part A ： Systems and Humans ， Special Issue on“SociallyIntelligent Agents - the Human in the Loop，Volume 31，Number 5，September 2001，pp. 四零六至四一八9. 詹姆斯威廉1890. 心理学原理。纽约：亨利·霍尔特。10. 旋钮J.（2003）。日常语言中的故意行为和副作用。分析，6311. Kohlberg，Lawrence.“对道德判断最高阶段的道德判断的要求”。哲学杂志。《哲学杂志》，第70卷，第18期。70（18）：630-64612. 马 库 斯 黑 兹 尔 1977. 自 我 图 式 与 自 我 信 息 处 理 Journal of Personality and SocialPsychology35（2）：6313. 帕列里湾（编）。（2012）“意识的互动：自然和社会背景在塑造意识的作用”。约翰·贝吉，2012年14. Piaget J.，（1932）《儿童的道德判断》。Oxford，England：Harcourt.15. 斯洛曼河（2010）机器意识工作的另一种选择International Jour-nal of MachineConsciousnessVol. 2，No. 1（2010）118.选择学习这将是一个更加激进的自治。这是“自然主义”的另一个限制，但它并没有停止研究非常重要的自主性，自我调节，甚至“意识”。