人工智能数字交互素养模型的能力与技能分析及应用研究

计算机与教育：人工智能4（2023）100114数字交互素养模型-阿斯特丽德·阿斯特丽德a，*，扬尼克·奥古斯丁a，和r'e马库斯b，卡罗琳·维里希 ba媒体心理学，朱利叶斯-马克西米利安大学人机媒体研究所，Oswald-Kuelpe-Weg 82，97074，Wuerzburg，德国b智能交互系统心理学，朱利叶斯-马克西米利安大学人机媒体研究所，Oswald-Kuelpe-Weg 82，97074，德国A R T I C L EI N FO关键词：AI素养数字化能力以人为本的AI能力模型智能语音助手基于语音的AIA B S T R A C T基于人工智能的系统，尤其是基于语音的人工智能系统，越来越受欢迎，并为最终用户提出了新的要求。研究提供了假设和概念化AI相关用户能力的第一种方法。然而，迄今为止，利用口语进行操作的基于语音的技术一直被忽视。本研究对12位研究、开发或设计基于语音的人工智能的专家进行了定性访谈，并探讨了以自主和专注的方式与VBAI互动所需的技能和能力分析强调，与现有的假设和供应商的广告承诺相反技能，但需要更广泛的能力。因此，10个技能和能力的衍生和集成到模型的“数字交互素养- DIL”。本文以基于语音的人工智能技术为例，为人工智能素养的整体模型做出了贡献。对实践和科学的更广泛的影响进行了讨论。1. 介绍基于人工智能（AI）的技术正越来越多地进入终端消费领域。特别是，这涉及到基于语音的人工智能系统的前景，其中包括智能语音助理（ IVA ） （ Baumeister ， Sehne ， Wienrich ， 2019&;Hernandez ，2021;Kraus，Ludwig，Minker，Wagner，2021&;Meanfeld，2019）。2021年）。IVA集成到各种设备中，如Amazon Echo，Google Home和Apple的HomePod等智能扬声器。大数据、机器学习和AI的兴起正在重新安排人类之间的互动 和 这些 技术， 创造新 要求用户&&Magerko，2020 a; 2020 b; Luengo-Oroz等人， 2020年; Wienrich，Albertus，Markus，&Augustin，2022年）。此外，在过去，技术进步和新型媒体伴随着用户需求的增加例如，随着书籍的传播，有必要能够阅读并找到有效的信息（信息素养），随着电视和视频的兴起，需求增加（媒体素养）。数字媒体导致了数字素养或计算机素养的引入（Markauskaite，2005，2006）。虽然有些扫盲模式，如计算机扫盲，主要是指媒体使用和接受的技术方面，但其他扫盲模式，如媒体扫盲和数字扫盲，也包括反思能力。例如，Baacke（1996）的媒介素养模型的子维度媒介批判包括分析性思维，以及将知识反映在自己行为上的能力。 最近，参考最新的技术进步，研究重点是人工智能素养，涵盖以自主和理性的方式 与 人 工 智 能 技 术 互 动 所 需 的 能 力 （Ng ， Leung ， Chu ， Qiao ，2021&）。以前的人工智能素养模型（Long&Magerko，2020 a）通常指的是人工智能技术和应用，从而忽略了特定类型的人工智能和人工智能应用的相关特征。例如，基于语音的人工智能技术打破了以前建立的人机交互形式，它们主要基于口语的形态。这种模式对用户的能力提出了新的要求&&Nass ，1996;Wienrichenkalus， 2021& ）。尽 管IVA本身易 于使用（Morris等人，2013），拟人化和无法解释的技术功能都可能导致用户将这些设备视为黑色盒子，因为对该技术的工作原理了解不足（Lau，Zimmerman，&Schaub，2018; Luger &Sellen，2016）。黑框是指由于缺乏理解而引起的焦虑，这可能会影响用户行为（Liao，Gruen，Miller，&* 通讯作者。电子邮件地址：Astrid. uni-wuerzburg.de（A.Albertus）。https://doi.org/10.1016/j.caeai.2022.100114接收日期：2022年8月17日;接收日期：2022年11月15日;接受日期：2022年11月29日2022年12月1日上线2666- 920 X/© 2022作者。由Elsevier Ltd.发布。这是CC BY-NC-ND许可证下的开放获取文章（http://creativecommons.org/licenses/by-nc-nd/4.0/）。目录可在ScienceDirect计算机与教育：人工智能杂志主页：www.sciencedirect.com/journal/computers-and-education-artificial-intelligenceA. Albertus等人计算机与教育：人工智能4（2023）10011422020年）。另一方面，它可能导致误解（Burrell，2016; Eslami等人，2019年），这可能导致对系统的盲目信任。为了减少这种不充分的理解，需要一种更全面的能力建模方法，将早期对AI素养的考虑和所概述的归因过程结合起来。本文解决了这一迫切需要，并旨在采取一种整体方法，确定与基于语音的AI系统进行自主和理性互动所必需的特定能力。目前的工作旨在探索用户的技能和能力，抵消了盲目的，拟人化的影响所造成的独特的语音模态和进一步的人类一样的线索IVA。通过整合被忽视的心理学方面，一个整体模型（数字交互素养模型）将出现，为基于语音的AI提供一个识字交互的框架。调查结果有助于提高用户的敏感性，IVA使用的问题方面，开辟了新的研究冲动，并提供设计方法的培训计划。1.1. 背景和相关工作1.1.1. 定义和缩小AI人工智能有着悠久的历史，至少可以追溯到1956年的达特茅斯会议。人工智能的典型定义是指机器或计算机系统作为某种模拟或过程的执行者，这些模拟或过程模仿人们认为智能的生物实体的内部功能。Russell和Norvig（2020）将人工智能划分为一个独立的研究领域，包括复制人类能力的算法，如创造力，自主学习或利用语音，或允许在复杂，不断变化的环境中自主操作的机器。人工智能的这些一般定义包括许多应用程序和用例，这些应用程序和用例反过来又反映在多个人与人工智能的交互中。人工智能的特征以及人工智能-人类交互的条件也制约着用户为交互带来的期望、属性和能力（匿名）。 因此，根据Russell和Norvig（2020）的描述，我们将工作范围缩小到与语言相关的人工智能系统。在下文中，当提到具有智能扬声器的基于语音的AI系统时，我们使用术语IVA（例如，Amazon Echo、Google Home）或语音控制的智能个人助理服务（例如，亚马逊Alexa、Google Assistant）作为最受欢迎的代表。IVA通过管理语音输入的识别、分析、处理、输出和渲染来模拟与人类用户的对话（McTear，Callejas，Griol，2016&）。人工智能相关方法的基础，如自然语言处理，自然语言处理，语言理解和自然语言生成（Klüwer，2011; McTear等人，2016）。用户使用意图词或唤醒词激活设备。用户的输入通过互联网发送到主处理区。语音识别服务对语音进行解码，然后向用户发送响应。IVA在诸如智能电话、智能扬声器、电视机、智能手表和汽车的许多终端设备中实现，并且使用户能够使用语音输入来执行各种任务。一般来说，最流行的 功 能 包 括 回 答 简 短 的 问 题 、 播 放 音 乐 以 及 设 置 定 时 器 或 闹钟（Lopatovska等人，2019年）。老年人使用IVA主要用于信息搜索、天气 报 告 和 设 置 提 醒 （ Arnold 、 Kolody 、 Comeau 、 Miguel Cruz ，2022&）。简单的辅助功能，如编辑列表，在线购物和创建提醒，就像控制设备（遥控器或语音界面）或发送短信、播放音乐或启动导航1.1.2. IVA使用的风险和用户问题IVA特别受欢迎，到2020年底将使用42亿台设备（美国商业资讯，2020年）。然而，尽管应用范围广泛，但研究表明，由于不知道功能范围和误判可能的好处，大量用户迅速减少了IVA的使用（ Cho ，Lee ， &Lee ， 2019; Lopatovska等 人， 2019; Pradhan ，Lazar，&Findlater，2020; Sciuto，Saini，Forlizzi，&Hong，2018; Trajkova &Martin-Hammond，2020; Voit等人，2020年）。此外，真实的或感知的隐私线索会影响使用（Augustin，Escherius，Wienrich，2022&;Lutz Newlands，2021&）。以来IVA在放置在私人领域或由其用户随身携带的设备中实现，IVA因此，IVA提供商分析并存储扩展用户简档的用户的预期和非预期语音输入的数据由于缺乏密码或身份验证，也未经授权在IVA系统可听范围内的人可以通过语音命令访问用户数据（ESTA，Arpnikanondt，Razzaque，Funilkul，2020&）。此外，IVA设备可能被黑客攻击，导致IVA充当间谍设备。最后，有经验证据表明，一些用户由于不知道系统的功能范围而迅速减少了他们的IVA使用（Cho等人， 2019; Lopatovska等人， 2019; Pradhan等人， 2020;Sciuto等人，2018; Trajkova &Martin-Hammond，2020; Voit等人，2020年）。在自主、胜任地使用IVA的理想下，使用技术为其带来好处，用户必须熟悉系统的功能及其可能的风险。1.1.3. 从心理学角度看人与语篇分析的交互作用：非反思性使用除了潜在使用危害的技术方面外，心理方面（如拟人化）也会对基于语音的AI系统的感知和使用产生影响。媒体等式方法假设，人们无意识地将类人特征（ Reeves &Nass ， 1996 ） 。 相 应 的 “ 计 算 机 是 社 会 行 为 者 ” 范 式（CASA）表明，设备会引起人类的社会反应。例如，用户应用诸如礼貌之类的社会规范或原本专属于人类的刻板印象-人类 相互作用 到 桌面 计算机 （纳斯， 施图尔，&Tauber，1994）和更近的技术设备，例如智能手机（Mesquus等人，2019 年 ） 和 IVA （ Albertus ， Wienrich ， Toerke ， Friedel ，&Schwietering，2021年）。进一步的研究表明，基于语音的人工智能系统的意外行为可能会引起沮丧和失望，这反过来可能导致用户冒犯或避 免 系 统 （ Goetsu Sakai ， 2020&;Kim Choudhury ， 2021&;PyaeScifleet，2019&）。此外，技术设备也会触发可能对其用户构成危险的欺骗行为-例如，说服性信息。在一项实验研究中，当聊天机器人具有更多的人类特征时，与聊天机器人交互的参与者会透露更多的个人信息（Ischen，Araujo，Voorveld，Noort，Smit，&2019）。另一项研究表明，社会角色（例如，专家水平）可以进一步提高感知的可信度（Wienrich，Reitelbach，Alberus，2021&）。一种解释可能是，将设备视为社交实体的感知增加了用户对设备的兴趣。用户&的基于语音的人工智能系统的语音模式进一步增加了说服风险（Eyssel，De Ruiter，Kuchenbrandt，Bobinger，Hegel，&2012）。这些无意识的属性及其影响直接影响与基于语音的AI系统的交互。研究表明，用户倾向于将设备对搜索请求的响应评估为真实的，而不考虑其他关键因素，例如信息源或算法过滤机制（Pradhan等人，2020年）。此外，使用IVA可能会诱使冲动的在线购物行为，鼓励用户方便地购买主要是低参与度的产品（Rzepka，Berger，Hess，2020&;SonOh，2018&;Tassiello，Tillotson，&Rome，2021）。从上述内容可以得出结论，一方面，人工智能应用比任何其他数字技术都具有更多的人类和社会属性（J.D.，Cambria，Bajpai，Hussain，2017&）。上另一方面，这会导致无意识的归因，影响用户对自主和合理使用构成潜在威胁的认知和行为。因此，与IVA互动不仅需要技术能力，还需要了解和反映涉及心理机制等因此，A. Albertus等人计算机与教育：人工智能4（2023）1001143==系统的合格使用需要能力，而不仅仅是能够操作系统（清晰的语音命令）。反映这些多样性的模型需要相应地扩大其竞争范围。1.1.4. 从数字素养到AI素养IVA的日益普及证明了该技术对于用户的日常生活和专业关键基础设施两者的日益增加的相关性（Wienrich等人，2021年）。然而，当考虑到所有提到的方面和风险时，很明显，用户需要各种技能和能力才能与以自主和风险最小化的方式使用基于语音的AI，避免盲目的交互（Bentley等人，2018; Cho等人，2019; Sciuto等人，2018; Voit等人，2020年）。为了应对技术创新，学术界和实践者发展了各种竞争力和素养的概念（例如，计算机素养、媒体素养、信息和通信技术素养、数字素养），其中包括能够有效利用数字环境的能力（Eshet，2004，2012;Knuth，1985;Markauskaite，2006;Sloan&Halaris，1985）。最近，新的识字模型指的是将人工智能识字概念化的人工智能技术（Wang，Rau，Yuan，2022&）或数据识字（Bull，Garofalo，Hguyen，2020&;Long Magerko，2020a&）。与迄今为止与数字设备的交互不同，与AI的交互（例如，机器人）的特征在于越来越多地采用社会规则，例如语音交互、个人地址和侮辱（Bruce，Nourbakhsh， &Simmons ，2002;Vossen ，Ham，Midden，2010&）。基于语音的AI技术代表了利用语音输入和输出的基于AI的技术的一种特定应用。基于语音的交互触发了一系列潜在地影响用户的社会效应（Alcohus，Wienrich，&Siegert，2021;Nass &Brave，2005; Nass等人， 1997; Wienrich等人， 2021年）。迄今为止，这种新的互动形式及其引发社会反应的可能性在以前的扫盲模式中没有得到充分考虑数字素养，AI素养）。1.2. 摘要和目前的工作IVA表面上的用户友好性可能掩盖了自我决定和无意识互动的障碍。就有限的功能知识而言，IVA可能被视为某种黑盒子（Eslami等人，2015年），对隐私威胁的认识有限（Fruchter &Liccardi，2018年）和人格化归因（Ischen等人，2019; Wien-rich等人，2021年）。以前关于人工智能素养的工作涉及各种人工智能应用程序及其一般用途。相比之下，我们的方法是有趣的不同。本研究明确侧重于基于语音的技术及其概述的功能和效果。它旨在对数字交互素养（DIL）进行概念化，以更好地理解所涉及的能力，并有助于增强用户使用基于语音的技术的能力。从这个意义上说，DIL包括一组专门针对语音模态和拟人化线索的技能和能力，这些技能和能力将基于语音的AI与普通数字和基于AI的技术区分开来。作为对现有人工智能素养模型的补充，本研究旨在明确整合心理学视角，考虑可能影响用户认知、情感和行为水平的影响。 因此，研究问题提出：RQ：基于语音的AI系统的用户具备哪些能力和技能是否需要文化互动？为了回答这个问题，我们对基于语音的人工智能技术领域的专家进行了定性访谈，以确定识字使用所需的能力，能力和技能。该方法具有各种优点。首先，专家们有大量的事实和详细的知识，以实证研究结果和实际经验为基础。其次，他们可以在元层面上识别问题，他们根据自己的经验进行反思。最后，专家访谈提供了深入了解未发表的发现或知识的可能性（例如，由于发表偏倚，结果）。总之，目前的工作有助于“数字交互素养“的整体模型（ 简称 ： D I L 模 型 ） ， 重 点 是 对 基 于 语 音 的 技 术 的 使 用 的 补 偿 ，并 纳 入 了 以 前 被 忽 视 的 心 理 方 面 的 使 用 。2. 材料和方法参与者总共有12名来自德国的参与者（3名女性，9名男性）参加了定性经验，半结构化的专家访谈。通过针对不同专业和广泛学科的专家的理论抽样进行选择，以确保异质性（Schreier，2007）。有资格参与的是在感兴趣的领域发表论文的科学家，以及研究基于语音的AI系统的项目的工作我们将开发人员、设计师和类似职业定义为合法专家，如果他们在工作中自行开发或设计了基于语言的人工智能此外，在邀请函和面试过程中，都要对应聘者的资格参与者是通过使用搜索引擎和联系公司和机构要求与他们在该领域的专家联系来招募的。此外，我们要求参与者建议他们认为是专家的潜在面试伙伴。参与者没有获得金钱补偿。他们声称拥有计算机科学、法律、人机交互、教育、通信、数学、经济学和哲学等领域的学位。根据理论饱和原理推导出参与者数量（Akremi，2022）。该方法设想，数据收集可以被终止，只要感应创造的品类体系达到内容饱和。 我们达成了这个在第十次访问后，我们会在第一个时间点进行访问，并与适当数量的专家接触，深入了解受访者程序和材料。在个人访谈之前，参与者通过个人电子邮件登记，提供有关研究目的以及数据记录和数据处理的信息。我们利用与专家的个人访谈来收集全面DIL框架的能力（Guest，Namey，Taylor，Eley，McKenna，2017&），并降低小组讨论或小组访谈中社会可取陈述的风险（Lamnek，2005）。由于COVID 19，访谈通过视频会议工具在线进行，该工具还允许录音。开始时，与会者受到欢迎，访谈者作了自我介绍，并向与会者介绍了研究的目的和程序。在提供同意后，访谈开始：（1）参与者被要求介绍自己，并说明他们正在或已经参与基于语音的AI的程度。(2)主要的一组主题包括关于用户自主和反思使用基于语音的AI系统所需能力的问题。(3)专家们被要求评估哪些能力在普通用户中已经得到充分发展，哪些能力和技能由于目前的不足而需要有针对性的培训。(4)另一组主题侧重于用户对基于语音的AI系统的看法和误解，包括操作、模态、预期、与器械的关系等方面，以及情感上的担忧总的来说，该手册包括12个主要的问题和七个后续问题（见补充材料）。在访谈过程中，问题可以根据参与者的个人知识和兴趣进行调整访谈结束后，录音停止，参与者有机会就研究提出问题。最后，感谢他们的参与。访谈时间（不包括访谈前和访谈后）为30 - 50分钟，平均访谈时间为39.94分钟，标准差为7.65分钟。数据分析为了控制面试官的影响，两名面试官事先接受了培训访谈录音A. Albertus等人计算机与教育：人工智能4（2023）1001144--根据预定义的转录规则完整准确地转录（Dresing Pehl，2012&）。最后的成绩单由两位面试官复核。字数统计显示，专家们的发言占总字数的比例是M87%（标准差 3.53%）。因此，由于访谈者的对话输入造成的混淆效应被最小化，专家们有足够的空间来介绍他们的专业知识。根据Mayring和Fenzl（2019）的方法学方法和定性内容分析指南，使 用 MAXQDA 22 （ Verbi Software ， 2021 ） 和 QCAmap （ FenzlMayring，2017&）分析访谈数据的记录。基于研究问题，文本材料被逐行处理。抽象的层次从单个句子到由几个句子组成的陈述。类别是归纳形成的，以避免自上而下的偏见，因为以前的类型学指的是不同的领域，例如没有人工智能或没有基于语音的交互的服务。此外，与研究问题相关的响应被还原性地解释和总结，以获得处理基于语音的AI系统的重要能力。具有相似特征的类别被归入更高层次的维度。在最后一步中，我们检查了所识别的类别之间是否存在与内容相关的连接或相似的特征。当可以识别各个类别之间的潜在关系时，它们由更高级别的维度进行总结。3. 结果和讨论3.1. 数字互动素养通过对专家访谈的内容分析，共得出10个类别（图1这些类别代表了与基于语音的AI系统进行文字交互的不同维度。每个类别都通过浓缩的、释义的总结进行描述。基于相似的特征，这十个类别是一致的研究人员将其分为三个更高层次的维度：（1）理解功能原则，（2）正念使用，（3）用户组依赖能力。三大类及其十个子类 形式DIL 模型（图 1）。 的 模型 整合三方面：知识，能力和技能，决定了用户与基于语音的AI系统的在下文中，模型的类别按照三部分结构呈现，首先是（1）简要描述（“定义”），其次是专家访谈的基础（“专家视角”）和与先前文献的整合（“相关工作”）。3.2. 第1类：理解功能原理第一个顶级类别涉及对基于语音的AI系统的所有功能过程，数据处理机制和系统属性的理解，意识，评估和知识。有关属于顶级类别1的子维度的概述，请参见表1。3.3. 一般功能知识定义. 用户需要了解设备如何从语音输入到生成语音输出一步一步地处理语音命令。专家用户需要了解IVA如何工作。这包括关于语音输入如何 在记录后如何处理以及随后如何处理和传输数据。此外，重要的是要知道IVA如何解码语音命令，何时IVA麦克风处于活动状态以及何时发生数据传输到云。目标是使设备的内部过程可见。相关工作。研究表明，许多用户并不完全理解IVA的功能原理，记录的 数 据 由 提 供 者 处 理 （ Abdi ， Ramokapane ， &Such ， 2019; Avdic&Vermeulen，2020; Malkin等人，2019; Porcheron，Fischer，Stuart，&Sharples，2018）。 更好地了解收集的数据是如何处理的，会增加使用它的意愿（Liao，Vitak，Kumar，Zimmer，Kritikos，2019&），因此，更好地了解数据收集也是一个有趣的亲，vider的视角 总而言之，更深入地了解设备的工作原理还有助于评估潜在风险（Milne &Culnan，2004年），并减少在IVA背景下敏感信息的披露（Szczuka，Strathmann，Szymczyk，Mavrina，&Kraümer，2022年）。3.3.1. 设备和系统处理定义. 用户需要了解基于语音的人工智能系统的功能范围、它们的局限性以及如何正确处理它们以从中受益。专家许多用户最初不知道IVA可以做什么，它们可以用于什么，以及它们的好处是什么。除了快速提供信息外，这些设备对情绪化的人也很有用例如，实际上，即使是很小的发音错误也会导致设备误解用户用户需要了解语音命令、隐喻以及系统可以正确处理的语言的复杂性。相关工作。 用户通常不知道设备的功能和实用性（Liao等人，2019; Park，Park，&Song，2020）。研究表明IVA语音识别经常由于用户表1顶部类别1“理解功能原理”的总结子维度简短描述一般功能知识了解基于语音的AI系统如何工作以及如何处理AI学习了解AI如何学习以及如何受到数据的影响算法意识了解基于语音的AI使用算法来处理用户请求Fig. 1. 数字交互素养模型（DIL模型）的三个顶级类别及其十个子类别。器械和系统处理了解功能范围、优点和正确操作A. Albertus等人计算机与教育：人工智能4（2023）10011452021;Kim Choudhury，2021&）。用户通常不清楚他们需要如何与IVA交谈才能被理解（Luger Sellen，&2016）。研究还表明，IVA改善情绪的潜力，例如，通过减少孤独感（Scherr，Meier，Cihan，&2020）。侧面事实。一些专家认为，目前的IVA过于落后，无法满足用户IVA通常仍然受到技术限制，因此表2顶部类别2“正念使用”的总结以及相关子维度的简短描述。子维度简短描述管理、保护隐私的能力识别隐私&风险说服力素养检测和预防类人尽管正确操作，设备仍不工作，并使用户感到沮丧，预防-情感基于语音的AI系统互动 主要原因是这些设备建设性地管理挫折和焦虑，能力识别和高语言化的努力，用户必须作出，以便设备正确地理解他们反射与基于语音的人工智能系统根据自己的需求、道德方面和风险3.3.2. AI学习定义. 用户需要基本了解人工智能和机器学习的工作原理，以及数据质量、反馈和他们自己的交互数据的影响。专家用户应该知道，每个人工智能都需要训练数据来进行预测。例如，IVA需要对用户交互数据的反馈，以提供更高级别的个性化定制的响应和动作。用户需要明白，人工智能的强大程度取决于它所训练的数据。相关工作。缺乏知识或使用非正式理论来解释人工智能可能会导致误解，并可能使用户的心理模型产生偏见& Long和Magerko（2020 a）和Wienrich等人。（2021年）强调需要用户至少要了解人工智能的基本功能，才能熟练地使用人工智能并了解其数据处理机制。3.3.3. 算法感知定义. 用户应该知道，基于语音的AI系统使用算法来处理用户查询。用户应该意识到，交付的搜索结果可能会被过滤和偏见，并质疑其可信度。专家由于上下文和用户信息，来自IVA的搜索结果可能在算法上有偏差，使得不同的用户针对相同的查询接收不同的搜索结果。关于IVA系统，这一事实具有特殊的相关性，因为语音助理只会大声朗读网络搜索的一个答案。这样，IVA就像一个看门人，有权选择用户获得的信息。另一个问题是，与来自具有图形用户界面的搜索引擎的搜索结果相比，用户更容易地评估来自IVA的信息（通常不考虑所提供的源）。用户应该了解算法影响搜索查询的结果。相关工作。Hargittai和Micheli（2019）指出，由于缺乏算法意识，存在受有限和系统生成信息支配的危险。Pradhan等人（2020年）观察到，许多用户认为IVA的搜索结果是真实的，而没有对它们进行询问。此外，算法意识对共享个人信息和评估隐私问题有重大影响Shin，Kee和Shin（2022）。3.4. 热门类别2：正念使用第二个顶级类别是能够计划交互，实现使用目标，并规范设备使用问题也是关于质疑自己并且避免不期望的用户体验。有关属于顶级类别2的子维度的概述，请参见表2。3.4.1. 隐私素养定义. 用户应了解并意识到潜在的隐私风险，并能够根据自己的隐私需求管理和保护自己的数据。这包括数据共享和处理的机构做法的后果。以及意识到IVA可能被意外激活，导致不需要的语音记录发送到提供商云。专家用户应该知道保护其隐私的具体措施。如果IVA用户对其他人收听其录音感到不舒服，则应在设置中禁用此做法。用户应该能够评估哪些数据是有问题的共享，并根据他们的需求进行隐私设置。特别有问题的是用户减少隐私关注以受益于设备的优点的效果。此外，儿童需要意识到交互数据可以被IVA所有者查看（例如，父母）。相关工作。文献证实，对数据收集的实际范围的认识有限，因为用户往往会忘记IVA的存在（Cho，2018）。人们通常不确定公司如何以及是否使用和存储记录的用户数据（Abdi等人，2019; Malkin等人，2019年）。同样，许多IVA用户对隐私风险和保护个人数据的方法了解不足（Lau等人，2018; Tabassum，Kosinski，&Lipford，2019）。总体而言，隐私和数据安全等问题与IVA用户的共鸣不佳（Fruchter Liccardi，2018&;Manikonda，Deotale，Kambhampati，2018&）。Kang和Oh（2021）还证实，用户更愿意披露私人数据并减少隐私问题，因为他们与IVA相关的好处越多，尽管他们更看重好处而不是感知的风险（Lutz Newlands，2021&）。发展隐私素养似乎很重要，因为即使是隐私关注用户几乎没有表现出保护行为（Lutz Newlands，&2021）。此外，用户对隐私的需求和隐私素养之间的不平衡 关联于 不愉快的状态，如疲劳（ Choi ， Park ， &Jung ， 2018 ） ， 冷 漠 （ Hargittai &Marwick ，2016）和愤世嫉俗（Hoffmann，Lutz，&Ranzini，2016）强调了这种能力与用户健康的相关性（Augustin等人， 2022年）。3.4.2. 说服识字定义. 用户应该了解基于语音的人工智能系统的类人功能如何无意识地操纵用户的感知和行为，并防止试图影响他们。专家IVA的拟人化特征使设备看起来像人类，这导致用户将其视为值得信任和社交的。IVA的人性化可能会导致用户无意识地披露更多关于自己的数据，这在道德上是不道德的。关于在未来，IVA可以根据用户的声音识别情感，并将其商业化。通过IVA购买也会诱使客户做出盲目的购买决定，因为缺乏图形概述意味着重要信息丢失。相关工作。设备的语音能力可以无意识地引起用户的社交反应（Nass &Brave，2005; Nass等人，1997年）。通常，支持语音的设备与类人属性相关联，这影响感知的可信度和归因的专业知识（Wienrich等人，2021年）。Ischen et al.（2019）之前曾表明，用户会向类人聊天机器人透露更多的个人信息。通过语音购物被认为更方便（Rzepka等人，2020）和低门槛（哈斯&凯勒，2021），这增加了冲动或盲目购买决策的风险。侧面事实。我们发现有证据表明，亚马逊语音助手未来可以将用户情感识别用于广告目的。亚马逊推出了一项专利，分析物理（例如，咳嗽）和情绪（例如，疲劳）状态A. Albertus等人计算机与教育：人工智能4（2023）1001146基于这些线索，系统提供不经意的推荐和产品建议。3.4.3. 职业-情感能力定义. 用户需要知识来建设性地管理交互环境中的负面情绪（如焦虑或沮丧）表3顶部类别3“用户组相关能力“的摘要子维度简短描述开发编程技能是有益的，但不是必要的，大家基于语音的AI系统。专家焦虑和沮丧是负面影响与设备更深入接触例如，沟通与教学以可理解的方式交流基于语音的AI系统的知识，能够评估学习者的使用情况&当IVA不理解语音命令时，用户会感到沮丧。人们还担心失去隐私，第三方入侵他们的系统的风险，或者害怕人工智能。最后，人们还担心如果不使用新技术，他们会被社会排斥。 例如，IVA）。为了与基于语音的人工智能系统进行文字交互，重要的是要建设性地处理相关的恐惧和挫折。这可以帮助认识和减少不切实际的恐惧或发展有关设备的现实概念。相关工作。对隐私的焦虑与技术使用呈负相关（McReynolds等人 ， 2017 年 ） 。 恐 惧 可 能 会 威 胁 到 对 技 术 的 更 深 入 理 解（Evanschitzky，Iyer，Pillai，Kenning，Schütte，2015&）。IVA系统 故 障 导 致 的 挫 折 感 也 对 使 用 产 生 负 面 影 响 （ Goetsu Sakai ，2020& ）。挫折和焦虑是学习新技能的障碍（Di Leo ，Muis，Singh ， &Psaradellis ， 2019;Nadeem ， Ali ， Maqbool ， Zaidi ，2012& ） ， 并 损 害 对 技 术 的 现 实 期 望 的 发 展 （ Kopp ， Baum-gartner，Kinkel，2022&）。因此，建设性地管理负面情绪对于使用户能够与基于语音的AI系统进行交互非常重要。3.4.4. 反射定义. 用户应该能够反思，评估和解释自己的使用，考虑自己的需求，道德方面和风险。专家用户应该反思使用IVA的经验，风险和后果，以了解他们的需求并调整使用行为。在独立审计机构“始终倾听”模式的背景下，反思无意中的信息披露，有助于决定数据用户真正希望与提供者分享什么。同样，反思拟人化技术的伦理问题影响逻辑可以控制某些用户响应的触发相关工作。对过去隐私行为的反思是披露个人信息的一个强有力的预测因素（Wisniewski，Safi，Patil，&Page，2020）。要意识到问题，风险或道德问题，反思可以提高对情境思维和行动的认识，提高解决问题的技能（Ayduk Kross，2010&;Terpstra，Schouten，de Rooij，Leenes，2019&）。因此，我们认为反思是识字使用基于语音的人工智能系统的一个重要方面，使用户能够批判性地评估体验并调整他们的行为（Greif，2008;Mezirow，1991）。我们在文献中没有发现明确的证据表明反思对控制类人技术对用户的影响有积极影响。未来的研究应该探索这种关系。3.5. 最高类别3：用户组相关能力对于基于语音的人工智能系统的识字使用，这个顶级类别并不适用于所有用户。此维度包括与特定用户组相关的技能和能力，具体取决于个人偏好和职责。关于属于顶级类别3的子维度的概述，请参见表3。3.5.1. 发展定义. 编程技能对某些用户组和应用领域有用，但不是所有用户都需要专家编程技能可能是有用的，例如，如果想要开发IVA技能或使设备功能适应用户需求。能够编程并不是扫盲使用IVA的必要条件对很多人来说是难以承受的对于用户来说，了解AI系统和算法的基本功能更为重要。相关工作。对于许多用户来说，获得编程技能是困难的（Bergin，Reilly，Traynor，2005&;Forlizzi DiSalvo，2006&），这就是为什么Long和Magerko（2020 a）也认为大多数人不需要编程技能来进行日常AI交互。最近的研究结果表明，编程技能不是开发和理解AI概念的必要条件（Kong，Cheung，Zhang，2021&）。3.5.2. 交流与教学定义. 教育工作者应该能够提供有关基于语音的人工智能的知识，并能够从教学上评估儿童和青少年的使用行为。专家父母、教师和其他照顾者有责任教孩子如何与IVA进行读写互动。教育工作者应该能够向儿童传达有关IVAs的知识以一种可以理解的方式。父母应该能够监控和评估孩子的使用行为，以确保他们的隐私受到保护。探索性的教学方法，以互动与IVA有助于激发学生的好奇心和兴趣，在这项技术。鼓励早期的技术亲和力可以对理解IVA功能和开发设备的现实预期产生积极影响。相关 工作 。监护人是 儿童了解技术使用 情况的重要信息 来源（Livingstone Haddon，2009&年）。 由于知识的缺乏，家长往往不会进行教育讨论与他们的孩子谈论IVA（Szczuka，Kopp，K raümer，&Varonina，2020）。然而，父母的讨论促进了儿童对IVA数据处理的理解（Szczuka等人，2022年）。促进儿童对技术的亲和力的发展可能是有益的。技术亲和力与对设备功能的理解呈正相关（Avdic&Vermeulen，2020年）和更高的动机，以解决问题时，与IVA互动（卢格塞伦，2016&年）。3.6. 局限性和未来方向使用定性专家访谈假设一个识字模型有两个优点：专家在他们的领域有大量的事实和详细的知识，可以在元层面上识别问题。在DIL的背景下，专家的视角使我们能够系统地研究与基于语音的AI系统进行文字交互相关的技能，能力和能力。在解释结果时， 应该考虑到这些专家来 自 德 语 国 家 。 其 中 一 些 人 指 出 了 与 文 化 有 关 的 差 异 （ 例 如 ，Capurro，2005年），表明未来的研究需要侧重于对技能，能力和能力的文化依赖性评估， 验证所提出的模型。此外，定性确定的陈述和假设需要在定量研究中得到验证，以加强DIL模型的经验实质。该模型提供了一个起点，分析解释假设的技能、能力和胜任力的贡献。然而，未来的研究应该分析DIL子类别的相互关系以及每个子类别的重要性和权重。此外，该模型还可以通过将结构操作化并导出相应的项目来帮助开发DIL的测量。由此产生的措施可以用于实验和学习测试，A. Albertus等人计算机与教育：人工智能4（2023）1001147探索DIL的个体间差异。最后，这些经验性的见解可以进一步用于开发旨在提高DIL的培训模块。当向专家询问基于语音的