计算伦理和问责制：在人工智能和机器学习背景下的挑战

ACM Transactions on Internet Technology，Vol.号184、第四十条。出版日期：2018年4月专题：计算伦理与问责制CRISTINA BAROGLIO，都灵大学，意大利奥利弗·博西尔大学Lyon，IMT Mines，Saint-Etienne，CNRS，Hubert Curien UMR 5516，FranceAXEL POLLERES，维也纳经济与商业复杂性大学科学中心奥地利社论计算伦理和问责制正在成为越来越具有社会影响力的主题;特别是，一方面，在人工智能和机器学习技术的最新进展的背景下，人们和组织接受机器为他们做出的决策，无论是买卖决策，应用程序的预过滤，决定向用户呈现哪些内容，哪些个人数据由第三方共享和使用，直到自动驾驶。在这些应用场景中，算法和机器支持甚至取代人类决策，可能会出现伦理问题另一方面，算法和机器可以在分析社交互动的数字记录中（例如，在商业交易和流程中）以及在在线社交互动中遵循行为规则时，发挥验证和交叉检查人类参与者的关闭循环，基于这样的检查，再次自动化的决策可能意味着，涉及道德要求，如不歧视和公平。除了臭名昭著的在所有这些领域，至少，我们期望自动决策和决策支持系统的透明度和问责制：也就是说，我们应该要求这些系统在如何做出决策方面保持影响负责。许多声音要求更负责任的技术和工程方法，例如哥本哈根信函（Techfestival2017）中所阐述的，或最近提出的标准化基于价值的道德合规系统设计的倡议，例如IEEE作者Baroglio，Università degli Studi di Torino，Dipartimento di Informatica，via Pessinetto 12，I10149，Torino（TO），Italy; email：cristina. unito.it; O.Boissier，Olivier Boissier，Mines Saint-Etienne，158 cours Fauriel，42023 Saint-Etienne，France; email：Olivier. emse.fr; A.Polleres，Vienna University of Economics and Business，In-stitut für Informationswirtschaft，Gebäude D2，3. OG Welthandelsplatz 1，1020 Wien，Austria;电子邮件：p.polleres@wu.ac.at。 允许制作部分或全部本作品的数字或硬拷贝供个人或课堂使用，无需付费，前提是复制品不以营利或商业利益为目的制作或分发，并且复制品在第一页上带有此通知和完整的引用。必须尊重本作品第三方组件的版权 对于所有其他用途，请联系所有者/作者。2018版权由所有者/作者持有1533-5399/2018/04-ART40https://doi.org/10.1145/319583540ACM Transactions on Internet Technology，Vol.号184、第四十条。出版日期：2018年4月四十：C. Baroglio等人然而，虽然这些努力将人类（决策者和工程师）置于解决上述挑战的中心，但我们在本特刊中采取的立场是，智能系统和人工智能本身可以帮助实现这种问责制和透明度，因此，作为技术和技术设计原则，能够实现而不是危及道德合规，负责任，最终可持续的计算。多代理系统，语义网和协议技术，价值敏感设计只是一些研究领域，其方法和结果可以卓有成效地支持商业道德和社会责任。在这期特刊中，您将找到一系列文章，旨在通过从不同角度处理这些挑战来实现计算优势基于用户价值的支持性技术规范冲突自动消解。在他们的文章中，Kayal et al. （2018）讨论自动解决潜在冲突的基于规范的数据共享社会承诺所提出的算法模型，并考虑到用户的价值观，建议首选的解决方案，这种冲突，支持与396名参与者，围绕家庭内的位置共享的实证研究解决承诺之间的冲突的模型，以共享在某些时间和空间背景下的位置，然后，设置在个人价值观的背景下，需要考虑不同的维度（友谊，隐私，安全，独立，责任）和它们的相对重要性。在他们的用户研究中，作者收集了用户在这些维度中的偏好（通过众包平台根据特定的纳入和排除标准招募），并根据参与者感知的这些偏好测试了冲突解决方案的有效性，当呈现特定的冲突场景时。这篇文章对结果进行了详细的、非常有见地的分析保护隐私是在线社交网络中的社会责任。本卷的下一篇文章，由Kekulluoglu等人撰写。（2018），强调了在社交网络中重新分享他人个人数据的隐私问题，目前这在很大程度上是不受控制的。 他们讨论了一种基于协议技术的方法，使所有受影响的各方能够讨论帖子的隐私配置：在他们的工作中，作者开发了一种基于互惠的谈判方法来达成这样的隐私协议，将隐私规则与效用函数相结合，他们在基于代理的模拟中进行了评估和说明。这篇文章首先介绍了一项用户研究，以更好地理解和分类隐私问题，强调了影响共享某些类型内容的几个重要方面（例如，表达政治观点或私人度假的帖子/图片）或明确将某些人排除在（重新）共享之外的可能性接下来，工作提出了一个基于OWL的本体来建模这些方面，并建议基于SWRL的规则来表达代理由于发布者的规则可能与受影响的该策略可能会违反某些隐私规则，如果在阈值内可接受的话 这项工作是相关的，因为它模拟了我们每天如何根据具体情况和效用来决定隐私，而不是基于严格的静态规则。衡量道德可接受性在电子审议：参与道德的实际应用。下一篇文章，由Verdiesen等人。（2018），也关注共识和协议，但不是关于隐私和重新共享政策，而是在众包参与决策的背景下，通过利用开放的，类似维基的方法，承诺实时扩展这种参与式决策作者研究了一个具有挑战性的主题：发展新形式的数字化温和民主进程，旨在过滤或缓和极端意见，而不限制言论自由的权利他们将他们的方法命名为他们的建议在大规模开放在线审议（MOOD）环境中实现，这是一个参与式平台，支持ACM Transactions on Internet Technology，Vol.号184、第四十条。出版日期：2018年4月特别问题：计算伦理和问责制40：3组织辩论，并以一种适合决策者使用的形式提供辩论结果，以做出更好的决策。此外，还介绍了MOOD在鹿特丹市于2017年7月组织的G1000公民参与活动中的使用。社交网络中协作和责任数据共享的增强审计策略。 关于信任和数据访问监管的问题由Bahri等人解释和面对。 （2018），他们在文章中希望从目前广泛采用的集中式身份和数据管理模式过渡到采用无信任模式，Web用户拥有并控制其个人数据。我们的想法是在一个开放的、可信的共享环境中依靠问责制和透明度，而不是将他们的隐私委托给服务提供商，也不是依赖于基于加密技术和计算成本高昂的解决方案每个参与者将指定对自己数据的细粒度访问权限的规定将事后检查社交网络节点行为对这些规定的遵守，目的是识别不一致性。该建议的先进性在于，它改进了选择要检查的节点的审计策略提出了一种基于声誉的策略，并对从一个真正的开放的社交网络收集的数据集进行了测试 该策略被证明是提高系统的效率，在检测不良行为，超过50%，相对于文献中描述的以前的实验。easIE：从Web上构建CSR数据库的易用信息提取。公司的社会责任是Gkatziaki et al.（2018）面临的问题。环境、社会和治理（CSR）绩效是本文作者特别考虑的方面。 将公司描述为（不）道德或（不）可持续的数据可能会影响该公司的感知和价值。问题是，公司控制着计算此类评估的数据为了提供客观的评估，WikiRate等项目进行了仔细的作者使用一种工具来计算客观评估，该工具的目标是以符合平台严格要求的方式从Web可访问的半结构化资源中提取有关公司的数据 该工具并不是这项工作的唯一贡献，它还提出了一个数据模型，用于表示有关公司的CSR信息，以及一个包含通过该工具提取的约49，000家公司的CSR数据的数据集。溯因逻辑程序设计中的责任协议。在这期特刊的最后一篇文章中，Gavanelliet al.（2018）在正式环境中解决问责制问题，重点是SCIFF，这是一种最初设计用于正式化代理之间交互协议的语言围绕期望的概念这样做是为了更好地处理协议违反的情况，通过触发一个过程，代理可以解释其行为，从而解释其行为和决策。如果找到了与其预期行为一致的解释，那么代理人将不会被认为对受审查的国家负责所提议的问责制概念与违反行为的责任概念严格相关，只有在相互作用协议被证明能够查明对所有可能的违反行为负责的人员时，该协议才是可问责的这个正式工作的一个有趣的方面在于它可能对交互协议的开发产生影响，因为定义为开发人员提供了指导。致谢我们感谢所有支持这期特刊的人，即所有作者、匿名审稿人，特别是教授。穆宁达尔山口辛格，主编，互联网技术交易。四十：C. Baroglio等人ACM Transactions on Internet Technology，Vol.号184、第四十条。出版日期：2018年4月引用Leila Bahri，Barbara Carminati，Elena Ferrari，and Andrea Bianco.2018年 增强了社交网络中协作和负责任数据共享的审计策略。 ACM Trans. 互联网技术 本卷（2018）。大卫·埃德蒙兹。2013年。你会杀了那个胖子吗？电车问题和你的答案告诉我们什么是对和错。普林斯顿大学出版社，普林斯顿，新泽西州。伦理生命周期关注工程方法工作组（EMELC-WG）。2017年。在系统设计过程中解决道德问题的示范过程。检索自https://standards.ieee.org/develop/project/7000。HTML.Marco Gavanelli Marco Alberti和Evelina Lamma2018年溯因逻辑程序设计中的责任协议ACMTrans. Internet Technol.this volume（2018）.Vasiliki Gkatziaki ， Symeon Papadopoulos ， Richard Mills ， Sotiris Diplaris ， Ioannis Tsampoula ， and IoannisKompatsiaris.2018. easIE ：从网络上提取用于构建CSR 数据库的易用信息。 ACM Trans. InternetTechnol. thisvolume（2018）.放大图片作者：Alex Kayal，Willem-Paul Brinkman，Mark A.Neerincx和M.Birna van Riemsdijk.2018年基于用户价值的支持技术中规范冲突的自动解决。ACM Trans. 互联网技术本卷（2018）。Dilara Kekulluoglu，Nadin Kokciyan，and Pınar Yellow.2018年 保护隐私是在线社交网络中的社会责任。ACMTrans. Internet Technol.this volume（2018）.科技节2017年。哥本哈根信检索自https://copenhagenletter.org/。伊尔莎·维迪森，弗吉尼亚·迪格纳姆，和杨伦·范登·霍文。2018.衡量道德的可接受性在电子审议：参与道德的实际应用。 ACM Trans. 互联网技术 本卷（2018）。