这一页讲的是组织中的终端用户如何与 AI 工具协作,特别是在需要专业知识的领域。主要讨论了用户如何处理 AI 输出、需要的知识和技能,以及专业知识在嵌入业务流程后会发生什么变化。
这一页讲的是终端用户如何在组织中与 AI 工具协作,特别是涉及专业知识的场景。首先,探讨了终端用户如何利用 AI 工具的输出作为业务流程的输入,以及这种输出如何影响他们完成工作的能力。其次,强调了用户需要具备的知识(knowledge)和专业技能(expertise),以便能够解释(interpret)和验证(validate)AI工具的输出。最后,提出一个关键问题:当 AI 工具逐渐嵌入到业务流程中时,专业知识会发生什么变化。这些问题的重要性在于,它们帮助我们理解 AI 工具与人类专业知识之间的关系,以及如何通过合理的协作提升组织效率。例如,财务部门使用 AI 预测工具时,需要专业知识来验证预测结果是否符合实际情况。
这一页讲的是课程的主要议程。首先,讲座部分重点探讨知识 (knowledge) 和专业能力 (expertise) 如何与工作场所中 AI 工具的使用相关联,分析谁在使用这些工具,以及专家如何与 AI 工具互动。这些内容旨在帮助理解 AI 工具在实际工作中的应用和影响。其次,教程部分将深入分析案例研究 3 (case study 3),从高层管理 (top management) 和终端用户 (end-user) 的不同视角探讨问题,强调不同角色对 AI 工具的需求和看法。最后,还会介绍三个商业挑战 (business challenges),为后续讨论提供背景。这一页的内容为后续课程的讨论奠定了基础,帮助学生从多角度理解 AI 工具在商业环境中的作用及其挑战。
第 4 / 18 页
这一页讲的是组织如何使用 AI 工具及其日常互动人员。重点包括组织使用 AI 的原因和哪些人员会与 AI 工具互动。
这一页讲的是组织或企业为什么要利用 AI 工具,以及在日常工作中谁会与这些工具进行互动。首先,组织使用 AI 工具的主要原因通常是为了提高效率、优化资源分配和支持决策。例如,AI 可以通过数据分析帮助企业发现市场趋势,或者通过自动化流程减少人工操作的成本。其次,日常与 AI 工具互动的人群可能包括技术团队、数据科学家以及业务部门的员工。技术团队负责维护和优化 AI 系统,数据科学家利用 AI 工具进行数据分析,而业务员工可能通过用户界面直接使用 AI 提供的解决方案,比如客户关系管理系统中的推荐功能。这些工具的应用促进了企业的数字化转型,同时也要求员工具备一定的技术适应能力。
第 5 / 18 页
这一页讲的是 AI 工具的相关参与者,包括组织内部和外部的角色,以及 AI 在决策过程中的作用。
这一页讲的是 AI 工具的相关参与者和 AI 在辅助决策中的作用。首先,AI 工具通过输入数据(Data input)进行处理,输出结果(AI-assisted decision-making output),并将这些结果应用到特定的业务流程中,帮助优化决策。参与者分为两类:组织外部和组织内部。组织外部的参与者主要是第三方,包括 AI 工具的提供商或 AI 驱动服务的供应商。组织内部的参与者分为两部分:终端用户(End-users)和高级管理层(Top managers 或 C-level executives)。终端用户通常是业务领域专家(Subject Matter Experts, SMEs)或一线员工(如管理员),他们直接使用 AI 工具来完成任务。而高级管理层则负责战略决策,确保 AI 工具与组织目标的匹配。这张幻灯片强调了 AI 工具在业务流程中的重要性,以及不同角色如何协同工作以实现最佳效果。
第 6 / 18 页
这一页讲的是人工智能对专业知识和技能的影响,以及专家与技能较低者如何应对 AI 工具的不透明性。
这一页讲的是人工智能对专业知识和技能的影响,提出了几个关键问题。首先,AI 是否会侵蚀专业知识?这涉及到去技能化(de-skilling)和重新技能化(re-skilling)的现象,以及工作角色和责任的变化,例如员工是否需要承担更多责任和问责。其次,专家与技能较低者如何应对 AI 工具的不透明性?专家是否会根据 AI 的输入修改他们的知识主张?这反映了 AI 工具的复杂性对不同层次用户的影响。最后,页面探讨了“专业知识”的本质以及如何成为专家,包括关系型观点(relational views)与实质性观点(substantive views)的对比,以及理论学习与经验学习(theoretical vs experiential learning)的权衡。这些问题对组织、教育机构以及个人都具有深远影响,尤其是在快速发展的 AI 技术环境中。
这一页讲的是终端用户如何与 AI 工具互动。用户通常面临三种选择:第一种是验证 AI 的结论(Validate AI claim),即对 AI 提供的信息进行评估和判断,然后再决定如何行动,这种方式强调用户的主动性和批判性思维;第二种是忽略 AI 的结论(Ignore AI claim),用户会选择依赖自己的判断而非 AI 的建议,这可能发生在用户对 AI 的信任度较低或对某些任务有更强的主观偏好时;第三种是盲目接受 AI 的结论(Blindly accept AI claim),即完全按照 AI 的建议行动,这通常发生在用户对 AI 有高度信任或对任务缺乏足够了解时。这三种互动方式反映了用户在使用 AI 工具时的不同心理和行为模式,对设计和优化 AI 系统的用户体验具有重要意义。
第 9 / 18 页
这一页讲的是影响终端用户与 AI 工具互动的因素,包括工具形式、用户态度和知识水平。
这一页讲的是影响终端用户与 AI 工具互动的三个主要因素。第一,AI 工具的形式(shape or form),包括嵌入计算过程中的工具(如机器学习模型和预测工具)、嵌入物理设备中的工具(如机器人),以及嵌入非物质对象中的工具(如销售代理、聊天机器人、虚拟团队成员等)。不同形式的工具可能影响用户的接受度和使用方式。第二,用户对人类与机器驱动的建议或决策的态度(attitude or preference)。例如,算法厌恶(algorithmic aversion)是一种倾向,即用户更容易拒绝算法提供的决策,而更倾向于接受人类的决策。这种态度可能影响用户对 AI 工具的信任程度。第三,用户对相关主题的知识水平(knowledgeable)。专家用户与知识有限或完全不了解的用户,以及高技能员工与低技能员工,对 AI 工具的理解和使用能力会有显著差异。举例来说,熟悉机器学习模型的专家可能更容易接受复杂的预测工具,而普通用户可能更倾向于直观的聊天机器人界面。这些因素共同决定了用户与 AI 工具的互动方式及其效果。
这一页讲的是第六章的补充阅读,探讨专家如何在使用 AI 工具时应对信息不透明性,并评估是否调整原有知识判断。
这一页讲的是第六章的补充阅读,重点关注专家在使用 AI 工具时如何处理信息不透明性(opacity),以及是否根据 AI 的输入调整其原有知识判断。研究问题是由 Lebovitz 等人在 2022 年提出,具体内容发表在《Organization Science》期刊中,文章标题为《To Engage or Not to Engage with AI for Critical Judgments: How Professionals Deal with Opacity When Using AI for Medical Diagnosis》。这篇文章探讨了医疗诊断领域中,专业人士在面对 AI 提供的建议时,如何处理其不透明性并做出关键决策。这种研究对理解 AI 在专业领域的应用及其对决策过程的影响非常重要。例如,医生可能会根据 AI 的建议调整诊断,但同时也需要权衡 AI 的可靠性和自身专业知识的权威性。这种讨论有助于理解 AI 的局限性及其与人类判断的协同作用。
第 13 / 18 页
这一页讲的是 Human-AI augmentation 的两种形式:Engaged augmentation 和 Unengaged augmentation。Engaged 强调与 AI 互动验证知识,Unengaged 则忽略或直接接受 AI 的输入。
这一页讲的是 Human-AI augmentation(人类与人工智能增强)的两种主要形式。第一种是 Engaged augmentation,即专业人士通过 AI interrogation practices(AI 询问实践)将人工智能的知识与自己的判断相结合。这种方法旨在验证初始判断并调和不同的观点,虽然可以提高决策质量,但对组织来说成本较高,因为它需要专业人士投入大量时间和精力。第二种是 Unengaged augmentation,指的是对 AI 的输入要么忽略不理,要么未经深思熟虑直接接受。这种方式虽然效率高,但可能会导致错误或不充分的决策。这两种形式反映了人类与 AI 的不同合作深度,强调在实际应用中需要权衡效率与质量。例如,在医疗诊断中,Engaged augmentation 可以帮助医生更好地验证 AI 提供的建议,而 Unengaged augmentation 则可能导致对错误诊断的盲目接受。
第 14 / 18 页
这一页讲的是专家在使用 AI 工具进行批判性判断时的过程和选择,包括两种主要路径:参与式增强和非参与式增强。
这一页讲的是专家在使用 AI 工具进行批判性判断时的决策过程。图中展示了一个流程图,首先专家形成初始知识主张(initial knowledge claim),然后考虑 AI 提出的知识主张(AI knowledge claim)。接下来,由于 AI 使用中的不透明性(AI-in-use opacity),专家无法看到 AI 知识主张背后的推理,导致认知上的不确定性(epistemic uncertainty)增加。在这个阶段,专家可以选择两种路径:第一种是参与式增强(Engaged Augmentation),通过实施 AI 质询实践(AI interrogation practices),专家可以推翻 AI 主张(overruling AI claim)、反思性地同意 AI 主张(reflectively agreeing with AI claim),或者综合 AI 与专家的主张形成新的主张(synthesizing AI and expert’s claims to form a new claim)。第二种路径是非参与式增强(Un-engaged Augmentation),即不将 AI 的知识主张与专家自己的主张关联起来,可能直接盲目接受 AI 主张(blindly accepting AI claim)或忽略 AI 主张(ignoring AI claim)。这一流程图强调了专家在面对 AI 工具时的批判性思考的重要性,以及不同路径对知识主张处理的影响。
这一页讲的是 Topic 6 的补充阅读材料,标题为《When Knowledge Work and Analytical Technologies Collide: The Practices and Consequences of Black Boxing Algorithmic Technologies》。文章由 Callen Anthony 撰写,发表在《Administrative Science Quarterly》期刊中,探讨了知识工作(Knowledge Work)与分析技术(Analytical Technologies)之间的交互,以及算法技术黑箱化(Black Boxing)的实践与后果。黑箱化指的是算法技术的内部运作被隐藏或简化,导致用户无法完全理解其逻辑或机制。这种现象可能对知识工作者的决策过程和技术使用方式产生深远影响。例如,黑箱化可能提高效率,但同时也可能带来透明性和信任问题。这篇文章通过理论和实证分析,揭示了这些技术在组织中的实际应用及其影响,适合深入了解算法技术在现代知识工作中的角色和挑战。
这一页讲的是黑箱化 (Blackboxing) 的概念,即技术被视为理所当然,使用者关注系统的输入和输出,而忽略其内部复杂性。幻灯片引用了 Anthony (2021) 的观点,指出知识工作者通常被认为对工具有深刻理解,但实际上在某些情况下,他们可能会黑箱化自己的分析技术,仅仅信任工具而不理解其工作原理。此外,研究描述了验证实践 (Validating practices),即确认 AI 输出是否可靠的行动。这页还探讨了高级专家和初级成员之间的工作分配对技术使用的影响:专家可能选择黑箱化技术,从而限制初级成员的专业发展并影响其职业轨迹;或者相反,专家可以通过深入使用技术促进初级成员的专业能力培养。这些讨论强调了在技术应用中理解和参与的重要性,以及如何平衡效率与知识传递的关系。
第 17 / 18 页
这一页讲的是验证实践(Validating practices)在 Anthony (2021) 的投资银行研究中的应用,重点包括可靠性、准确性和分析修正的验证方法。
这一页讲的是验证实践(Validating practices)在投资银行领域的应用,基于 Anthony (2021) 的研究。首先,建立可靠性(Establishing reliability)涉及将任务分配给初级和高级专家,强调任务完成中的自主性问题。其次,评估准确性(Assessing accuracy)主要由高级专家负责,但不同方面由不同组进行评估,这体现了分工协作的重要性。最后,修正分析(Correcting analysis)是高级专家对初级专家完成的任务进行评估或审查,并通过反馈提供改进建议或解释。这些实践方法确保了任务的质量和准确性,同时促进了团队成员间的知识交流与学习。
第 18 / 18 页
这一页讲的是关键决策中 AI 与人类的关系、责任与成本效益分析。关键点包括决策的重要性、专家责任与 AI 工具的透明性,以及成本效益分析的必要性。
这一页讲的是在关键决策中需要仔细考虑 AI 与人类之间的相互依赖性。首先,关键性决策不仅可能涉及人类生命,还关系到运营效率和商业价值,因此需要特别关注。其次,大多数需要专业知识的工作都包含责任(responsibilities)和问责(accountability),要求专家基于专业知识做出明智决策,并对其行为负责。然而,AI 工具的不可解释性或不透明性可能会妨碍专家达到所需的工作标准。最后,强调了成本效益分析(cost-benefit analysis)的重要性,即比较验证 AI 输入所需的努力与使用 AI 工具可能为组织带来的利益。举例来说,如果一个 AI 工具可以显著提高效率,但验证其可靠性需要大量资源,那么组织需要权衡两者之间的利弊,以确保决策的合理性。