意识和人工智能在人工智能伦理推理中的挑战

意识和人工智能在人工智能伦理推理中John P. SullinsSonoma State University，Rohnert Park CA，美国johnsullins.com抽象。phronopsis是一个哲学术语，指有意识的道德理性或实践智慧。有人认为，在大多数成年人中，这种能力在高层次的道德推理中起着主要作用。如果我们希望人工智能系统有能力以一种功能上等同于有能力的人类的方式来推理伦理问题，那么我们就需要创造出在与人类代理的互动中展示phronopsis或实践智慧的机器。这里有人认为，这是人工智能伦理的最高目标，但这不是一个微不足道的问题，因为它可能首先需要解决人工意识的问题。实现人工智能是必要的，因为为了在人工智能或机器人系统的用户中建立道德信任，需要道德和伦理能力。关键词：人工智能，人工智能意识，人工智能伦理，人工智能信任，机器人信任1Phronopsis，Artificial and Otherwise一方面，意识是最容易体验的东西，因为意识对于丰富的、完全经验的知觉是必要的，我们人类通常拥有这种知觉。因此，绝大多数阅读这篇文章的人可能是有意识的（至少在某些时候），并且完全意识到有意识是什么样的另一方面，意识是一种众所周知的现象，很难用一种允许计算机工程师建造一台有意识的机器的方式来完全解释，即使在我们最近的历史上已经有几十年的英勇尝试由于意识研究的状况仍处于探索状态，我试图避免在我早期关于人工智能和机器人伦理学的著作中提及它。然而，在本文件中，我将这样做，尽管是以谨慎的方式。在人工智能和机器人伦理学中，可以做很多工作，而这些工作根本不需要所讨论的系统有任何意识我想在这里讨论三个层次的人工代理人，它们根据其道德能力或缺乏道德能力来分类：道德影响代理人（EIA），人工道德代理人（AEA）和人工道德代理人（AMA）。2伦理影响代理人（EIA）不需要明确的意识声明来做他们所做的事情这些系统的显著之处仅在于它们的操作表现出一定的自主性，并有能力以具有伦理关注的方式影响人类代理人。例如，一辆自动驾驶汽车在其自动驾驶操作过程中，在事故中撞击并杀死了一名行人（例如2018年3月系统的行动是由其传感器和执行器根据程序工作产生的，但它对手头的情况没有有意识的经验，事故发生后没有道德悔恨，当事件发生时没有情绪反应。虽然我们可能会对自动驾驶汽车的安全性提出很多问题，但没有人会在有意识的道德意义上指责汽车本身这种道德谴责和所有法律责任问题都留给了车内的紧急备用司机，以及制造这辆车并在公共道路上测试[1]因此，在处理如何从道德上设计和部署环境影响评估的问题时，没有特别的必要提到人工道德代理人（AEA）是下一个步骤，与EIA的不同之处仅在于它们在操作中有明确的道德考虑。在我们前面的例子的基础上，一辆自动驾驶汽车被编程为在决定是否让另一辆汽车的乘员或自己的乘员在不可避免的碰撞期间冒更大的风险时考虑一些道德价值计算，这将是一个AEA。乍一看，人们可能会认为AEA有点搅浑了水，机器本身可能应该受到道德谴责或法律责任，但这只是一个光的把戏。任何不利后果的道德指责和责任仍然完全由建造、部署、许可和操作车辆的人类代理人承担。关键是，AEA从来没有自己选择自己的道德标准，而是由人类代理人选择和编程，因此，他们对他们设计和/或部署的系统所做的任何道德决定承担任何责任或责任机器对基于其操作而发生的任何事件都没有意识，即使是那些在外界看来似乎是有意识的道德选择的事件。只有当我们到达人工道德主体（AMA）的水平时，意识才可能发挥重要作用。AMA将有能力选择适合当前情况的道德行为，其方式表现出一种实践推理的形式，类似于大多数人类代理人的胜任道德推理。这意味着系统要么是一个有意识的道德主体，要么在功能上等同于道德主体。另一种说法是声称该系统显示人工Phronopsis（AP）。当然，这个概念需要更多的解释，这就是本文的其余部分将讨论的内容。然而，在讨论的这一点上，我们可以推测，虽然意识不是EIA所必需的，也不是许多类型的人工伦理推理代理AEAs所必需的，但它可能在更复杂的AMA的发展中发挥重要作用，1这份名单并不意味着是详尽无遗的，允许该系统使用公共道路的政治决策者也应该受到审查，以及参与导致这起事故的事件链的许多其他人3在复杂的社会环境中与人类互动时更有用，这些环境往往受到不断变化的道德规范的约束。phronopsis是一个术语，许多人不熟悉的哲学以外，这个词似乎有点令人不快。然而，如果一个人phronopsis有一个古老的血统，并已下降到我们很大程度上通过传统的美德伦理作为技能，能够“生活得很好”[1]。智能系统的设计者不一定需要成为美德伦理领域的专家，但已经表明，对核心概念的一些熟悉可以从设计者本人和正在设计的伦理推理系统的水平上增强设计过程[2]。简而言之，phronopsis是指当一个有意识的道德主体面临困难的道德或伦理问题时，她使用的实践智慧，鉴于伦理问题总是新颖的，没有一套预先设定的答案足以解决问题，这意味着学习和创造力是phronopathic代理的标志。“There isno general rule/procedure/algorithm for discerning which values, principles, norms,ap- proaches apply; rather, these must be discerned and judged to be relevant in thefirst place, before we can proceed to any inferences/conclusions about what to do”考虑到一个或多个伦理思想流派，可能会成功地设计AEA人们可能会设计一个自主系统，在很大程度上基于应用功利主义或康德主义的计算或规则、人类道德心理模型、人类宗教传统，甚至基于艾萨克·阿西莫夫（Isaak Asimov）提出的机器人三定律来做出道德决策。[2]虽然我们可以使用这些方法中的任何一种在某些情况下都可能有用的方法来制作AEA，但它们都远远达不到使用人工phronopsis的AMA。“For the virtue of practical wisdom or这是可以理解的，系统设计者要么想完全忽略道德理性，试图避免甚至环境影响评估的建设。稍微冒险一点的人会尝试应用更容易计算的基于规则的伦理系统，这可能会导致有用的AEA。为什么要参与AMA，需要像人工phronoprosis正确工作的东西？要在这方面取得成功，可能需要解决人工意识、人工情感、机器化身等方面的问题，所有这些都可能是计算上难以处理的。让我们来看看，用人工的phronopsis来解决更困难的问题--建立AMA--可能会有什么回报。[2]所有这些选项的介绍性说明以及更多内容可在[4]中找到。41.1人工智能在自动伦理推理人工智慧论（AP）认为智慧或实践智慧在高级道德推理中起着主要作用，并进一步提出了一个问题，即与智慧的功能等价物是否可以被编程到机器中。如果我们希望人工智能系统有能力以一种功能上等同于有能力的人类的方式来推理伦理问题，那么我们就需要创造出在与人类代理人的互动中展示phronopsis或实践智慧的机器。这意味着AP是AI伦理可能实现的最高目标之一。此外，这将不是一个微不足道的问题，因为不是所有的人类代理都擅长用phronemptically推理，所以如果我们试图将这种技能编程到机器中，我们对机器的要求很高除此之外，最困难的问题是，实现AP可能首先需要解决人工意识的问题，因为phronopsis似乎需要有意识的深思熟虑和正确的行动。即便如此，AP的实现也是必要的，因为为了在人工智能或机器人系统的用户与系统本身之间建立道德信任，需要道德和伦理能力实现这一目标将使人类能够舒适地居住在未来，而不会受到自主系统所做决定的压迫，可能会影响他们的生活。1.2人工智能是一种宣言AP是一个新概念，但它正在获得一些关注。以下是一些陈述，以帮助定义这个新的，跨学科的研究领域。美联社声称phronopsis或实践智慧在高层次的道德推理中起着主要作用，并进一步提出了一个问题，即phronopsis的功能等同物是否可以被编程到机器中。AP是创建AMA的必要能力，然而该理论对机器实现这种能力的可能性是不可知的，但它确实声称实现AP是机器成为人类等价道德代理人的必要条件。AP受到古典伦理学传统著作的影响，但它不仅限于这些来源。AP并不是试图完全描述古典伦理学中所描述的phronopsisAP并不试图在理论或神经学水平上对人类的phronopsis进行全面的描述然而，这方面的任何进展都是受欢迎的帮助。AP并不是声称机器可以成为完美的道德代理人。首先，道德相反，AP试图描述一个有意设计的计算系统，即使在需要创造性解决方案的新情况下，该系统也能与其他人类和人工代理进行伦理互动AP将在多种模式中实现，并且最有可能以进化的机器学习方式实现。美联社承认，机器可能只能在相当长的一段时间内模拟道德判断，创造一个看似道德的拟像的危险永远存在。5这意味着AP设置了一个非常高的标准来判断机器的道德推理和行为。这是一个终极目标，但在可预见的未来，实际系统将远远达不到这一目标。1.3杜威论phronopsis在意识思维如果phronopsis仅仅是一个来自古代哲学的概念，那么它对人工智能项目的价值将是但它随着时间的推移而演变，一个非常有趣的概念发展来自哲学家约翰杜威[4] [5] [6]。古代哲学家似乎用phronopsis来表示只有最聪明的哲学家才拥有的能力，杜威则不同，他将这个概念大大扩展到在所有推理方式中发挥核心作用的概念，因为一旦你试图应用任何科学或技能，你就必然进入社会领域，并在那里成功地运作需要phronopsis。如果他是正确的，那么phronopsis是使我们许多人有能力，有意识和有良心的人的一部分。因此，AP要么是创造有意识机器的必要条件，要么是相反。2人工智能和机器人代理信任和人工智能和机器人代理是它自己的复杂主题，但在这里让我们限制我们的讨论，以phronophistictrust。我们的AP代理人将需要说服我们，他们有我们的道德品质，当他们与我们打交道，并会作出决定一致。我们相互学习如何最好地发展我们自己的道德品质，因此这些机器也需要参与这一重要的社会过程在某种意义上，他们必须能够作为一个phronalymon，或道德教师。在与我们的机器的这种关系中，我们必须保证我们所信任的机器如果没有一个足够发达的AP，那么这将是不可能的，也没有充分的理由试图建立人工道德代理，我们将需要将人工智能的应用限制在没有道德影响的应用上。2.1我们如何在道德上信任人工智能和机器人系统？Mark Coeckelbergh [8]认为，我们至少可以从两种不同的方式来看待人工智能和机器人系统中的信任。第一种是以“契约主义-个人主义”的这些关系可能或多或少是拘谨的，但它们是我们社会中长期建立的做法。Taddeo和Floridi已经开发了一些细微差别，这些细微差别需要考虑，因为这些系统变得更加胜任，我们对它们的信任变得更加有意义[9]，[10]。科克尔伯格的第二类是现象学-社会方法。这是一种人类通常会彼此进入的深度信任关系6发展社会纽带，建立深刻而有意义的关系。Coeckelbergh怀疑这是否可以在人工智能和机器人系统中以任何不是“虚拟信任”或“准信任”的方式实现虽然我们可能会被愚弄，认为我们与人工智能或机器人系统处于道德信任关系中，但事实上我们不是，在某些情况下，这可能对不敏感的人类代理人造成危险。Grodzinsky，Miller和Wolf提供了一个系统，可以通过开发一个名为“信任”的新概念来缓解在这里，我们清楚地定义了一个新的机器信任系统，它属于一个新的标题类别，其中还包含了我们已经发展得很好的人与人之间信任和人与公司之间信任等概念只有当我们希望机器加入我们的现象社会信任时，我们才真正需要AP。在那个层次上，我们将与他们一起进入一个新的社会。这是一个非常有趣的可能性，但它也是一个伴随着权利和责任的双向的可能性，所以我们应该继续进行，如果机器意识在技术上是不可行的，那么它就是我们根本无法接近的东西。引用1. 亚里士多德：尼各马可伦理学。Irwin，T. Hackett，Indianapolis.2. Vallor，S.：技术与美德：一个值得期待的未来的哲学指南。牛津大学出版社，2016年。3. Ess，C.：数字媒体伦理 第25页。 Polity Press，2009.4. 安德森，M。Anderson，S.：Machine Ethics，Cambridge University Press，（2011）.5. 杜威，J.：达尔文主义对哲学的影响在：希克曼，L.，Alexander，T.（合编）。《杜威精要》，卷一。pp. 39-45.北京大学出版社.6. 杜威，J.：进化与伦理在：希克曼，L.，Alexander，T.（合编）。《杜威全集》第二卷pp. 225-236.北京大学出版社.7. Rogers，M. L.：杜威哲学中的行动与探究。查尔斯·S. Pierce Society 43（1），90-115（2007）。8. Coeckelbergh ， M. ： “ 我 们 能 相 信 机 器 人 吗 ？ ” 道 德 与 信 息 技 术 ， 14 ： 53-60（2012）。9. Taddeo，M.：在人工代理中建立信任模型，电子信任分析的第一步.心智机器20，no.2：243-257（2010）。10. Taddeo，M.，Floridi，L.：11. Grodzinsky，F.，Miller，K.，Wolf，M.：开发值得信赖的人工代理：“你会从这个人工代理那里买二手车吗？”《道德与信息技术》，第13卷，第1期，第17-27页（2011年3月），