探讨RAG技术、AI代理及AI伦理挑战
许多CIO在开展数字化转型计划时,难以制定有效的变革管理方案。对于那些将员工采纳视为实现商业成果关键步骤的CIO而言,把变革管理视为事后补救之举,是代价高昂的错误。
部署智能体,使得变革领导力的重要性倍增,而且一旦转型计划未能改变员工行为,风险也会随之增加。早期采用AI的用户可能会促使未经授权的智能体被滥用,而担心智能体会抢走自己工作的员工则可能成为阻碍因素。
近期的研究报告凸显了AI变革领导力计划存在的不足。麻省理工学院的最新报告显示,95%的企业在AI投资上毫无收益。据AWS的一份报告称,其中一个可能的原因是,只有14%的企业制定了变革管理战略。
Enthought公司的首席运营官迈克尔·康奈尔表示:“如果没人使用,再好的技术也毫无价值,而采纳应用是至关重要且具有决定性意义的最后一环。领导者不仅要像重视建设预算一样重视变革管理预算,还要在敏捷开发过程中,尽早且持续地让作为技术使用者的终端用户参与进来。”
以AI的创新速度引领变革管理
CIO首先应认识到,部署智能体并非线性过程,而是需要开展多项并行的变革管理工作。生成式AI技术的快速发展便是原因之一,这使得几个月前还难以实施或成本高昂的技术,如今变得更具可行性且成本更低。
然而,在以下方面实现统一并非易事:围绕AI战略达成一致、实施健全的治理、确定业务试验领域,以及将AI能力从试点阶段过渡到生产阶段。
统一术语是重要的起点。在我对来自领先SaaS公司和安全公司的智能体进行评估时发现,该术语的定义十分宽泛,涵盖了嵌入工作流程以及支持员工和客户体验的工具中的自然语言和推理AI模型。许多智能体仅支持单一工作职能,但其功能差异显著。大多数智能体尚未完全自主,也未完全融入智能体间的工作流程编排,但其复杂程度可能会不断提升。
根据AI职责划分员工群体
CIO的首要目标是从投资到采纳,根据AI职责将企业划分为不同群体。这些群体应包括:
• 参与战略协调、明确商业成果并确定投资优先级的高管
• 负责风险管理、信息安全和数据治理的合规负责人,他们负责完善AI治理框架
• 来自各个运营职能领域的主题专家,他们为智能体提供所需知识,并将最深度参与验证其准确性
• 将使用智能体完成工作的终端用户,尤其是在能带来超越生产力提升的更大战略价值的领域
• 组建敏捷跨学科团队的创新者,他们将引领试验工作,评估来自不同技术供应商的智能体,并主导专有智能体的开发
利用这些群体划分,领导者能够使变革管理计划与员工参与智能体计划的方式更加紧密地结合起来。
引导高管明确战略重点
在AI热潮的推动下,许多CIO面临着众多总经理和部门负责人争相在AI战略和投资优先级中占据领先地位的局面。但对于许多CIO而言,AI并非他们首次开展的转型之旅,他们深知分散资源以支持每个人的愿望清单,最终只会导致成果影响力低下。
Zapier公司的首席人力官布兰登·萨穆特建议:“将智能体的必要性锚定在两到三个提升现有重点工作和目标的机会上。这能使智能体始终处于公司关注的核心位置,避免陷入大多数技术转型所面临的‘杂耍’困境。从明确的‘为何要做’和‘为何现在做’入手,巩固文化基础,因为拥抱新技术是对企业健康状况的一次压力测试。”
建议:CIO应认识到,他们不能成为唯一推动高管就少数战略重点达成一致的变革领导者。领导世界一流信息技术部门的CIO将高管关系发展视为一项核心能力。他们会确定大使级人物,定期与各部门负责人会面,培养倾听能力以识别能产生倍增效应的机会,并为最有前景的机会起草愿景声明。这些做法有助于完善AI战略,随后变革领导者提升沟通能力,以实现高管层面的统一。
在试验之前开展AI治理协作
在几乎每一波颠覆性技术浪潮中,创新、部署和获取战略优势的竞赛速度,都远远超过了企业降低风险、制定政策和建立安全保障的能力。CIO肩负着艰巨的任务,要在不抑制创新和试验的前提下,将合规负责人和AI治理推到前沿。
Trustwise公司总裁兼首席运营官卡马尔·阿南德表示:“急于部署智能体的企业常常忽视原型成功与可投入生产的系统之间的差距。在这个阶段,传统安全控制对能够绕过标准防护措施的推理智能体失效。缺失的要素包括嵌入式信任框架、实时治理工具、节能基础设施,以及理解动态智能体行为而非静态AI模型的专业人才。”
治理团队还需要为智能体的决策权限制定风险框架,以及评估其建议质量的指标。
Lasso Security公司的首席执行官兼联合创始人埃拉德·舒尔曼表示:“CIO必须明确哪些任务智能体可以独立完成,哪些需要人工监督,尤其是在处理敏感数据或关键操作时。任何智能体在完成全面的安全评估、对抗性测试和沙盒测试之前,都不应以完全权限投入生产运行。”
建议:这一变革要求CIO发挥协调作用,首先与合规负责人确定与重大风险相符的防护重点。然后,CIO必须监督一项沟通策略的实施,确保整个企业了解哪些AI工具被允许使用、企业数据集的恰当使用方式以及其他AI合规政策。
支持积极拥抱AI的主题专家
LatentView公司生成式AI能力开发与营销分析副总裁布比什·拉马杜莱表示:“如果你的流程依赖经验知识、分散的数据或人工决策,那么智能体的推进将会受阻。”
当知识被垄断或业务流程充斥着未记录的例外情况时,新员工要做出贡献本就颇具挑战。如果主题专家成为阻碍因素,且不愿分享知识或对智能体的表现提供反馈,那么引入智能体将面临双重挑战。
拉马杜莱建议:“通过标准化元数据、定义升级规则和确保系统连接,将业务逻辑编码化,以便智能体能够遵循。提升团队技能,使其减少关注执行,更多关注编排,同时分析师应设计实时反馈循环。”
智能体具备语言和推理模型,但其响应和建议具有不确定性。测试它们需要主题专家审查并验证智能体的表现,对错误进行解释,并提出改进建议。
Pendo公司产品领域副总裁戴夫·基林表示:“智能体不会总是完全按照你的指令行事,尤其是当它们开始根据数据模式而非明确指令做出决策时。团队需要了解智能体如何与实际工作流程交互,发现输出结果与预期不符的情况,并在需要时明确干预方式。”
建议:主题专家在确保智能体行为负责、值得信赖方面发挥着重要作用。CIO应与人力资源部门合作,为积极拥抱AI并为成功项目做出贡献的专家制定绩效目标和激励措施。
为终端用户提供学习机会作为奖励
ThoughtSpot公司的首席数据与AI战略官辛迪·豪森表示:“目前员工担心AI会取代他们,所以领导者的首要任务是消除他们的恐惧,并制定技能重塑计划,其中包括AI素养培训,而目前88%的美国人在这一方面都不达标。”
员工的担忧应成为CIO变革管理计划的重中之重。沟通和计划应针对不同工作职能和技能水平量身定制,尤其是在优先让员工采用智能体的领域。
Quadient公司首席执行官杰弗里·戈代表示:“AI无疑正在改变劳动力市场,没错,我们看到它对入门级工作的影响最大。但人们常常忽略的是,AI首先取代的是任务,而非人员,这为以更智能的方式重新设计岗位打开了大门。那些将蓬勃发展的公司,是那些投资于技能提升和人机协作的公司,因为这是释放创造力、文化和长期价值的关键所在。”
基于技能的培训可能是CIO首先想到的方案,但这并非他们支持学习计划的唯一途径。Thoughtspot公司的豪森表示:“诸如提出好问题、提示引导、理解幻觉和批判性思维等技能,都需要磨练。”
建议:随着AI能力的不断提升,营造一种倡导终身学习的企业文化将至关重要。领导者应创造持续的学习机会,而不仅限于与工作、岗位或技能转换相关的培训,因为如果员工将这些培训与转型计划联系起来,可能会引发不信任。
引导创新者关注客户体验中的AI
大多数企业SaaS公司都在为其平台添加自主智能体功能。人力资源智能体可引导经理完成绩效评估,供应链智能体可在全球供应链中断时采取行动,员工体验智能体可处理会议跟进事宜。评估任何员工工作流程智能体的关键目标在于,判断呈现给它的企业数据是否能带来更明智的决策和更迅速的行动。
真正的创新将涉及将智能体融入客户体验。我预计,将有更多医疗智能体改善患者体验,金融服务智能体帮助银行客户进行投资,零售智能体提升购物体验。
但要想成功开展试验并实现生产部署,需要创新团队与一线团队加强协作。
MelodyArc公司首席客户官阿什莉·莫泽表示:“积极使用AI的一线团队,在其公司内部AI的实施轨迹中也拥有宝贵的发言权。领导者应激发他们使用AI的热情,然后收集反馈,确保AI直接满足客户需求,因为这些团队已经直接了解客户。”
建议:与瀑布式项目管理相比,以产品为导向的IT企业在将客户反馈融入敏捷开发流程方面更为出色。在开发智能体时,要加大投入,因为团队需要更多学科和职能角色的协作。
在引入智能体时,一个看似反直觉的关键成功因素是领导变革管理工作,以影响和引导员工。但智能体毕竟只是一项技术,未能尽早引入变革管理措施,并针对影响员工群体进行定制化设计,是许多AI项目未能实现商业成果的原因之一。
关注公众号
立刻获取最新消息及人工咨询