当我第一次听到“影子AI”这个术语时，感觉似曾相识。这个问题多年来一直以各种形式困扰着IT领导者。员工总是使用未经批准的软件或免费的网络工具来更快地完成工作。2012年，一项针对法国IT经理的调查发现，16%的员工已经在使用未经批准的云解决方案;到2015年，Gartner估计，35%的企业IT支出发生在正式IT预算之外。

随着易于获取的AI工具的出现，我确信现在很多IT领导者都会抓住机会，让影子使用率保持在如此低的水平。然而，曾经的影子IT如今已演变为影子AI，它的普及程度更高，而且可能对我们工作的能力造成更具破坏性的影响。

在《影子AI正在兴起，以下是如何将其转化为战略优势》一文中，CIO杂志撰稿人John Donegan探讨了影子AI背后的隐私和治理问题。我开始注意到另一个超越这些问题的风险。我称之为“谄媚螺旋”(sycophantic spiral)。它描述了当团队在认知任务上过度依赖AI，从而过度依赖生成式工具产生的每一个输出时所发生的情况。最终，他们开始失去批判性和创造性思考的能力。

我在各家公司看到的情况

过去一年里，我为三十多家企业提供了咨询和培训服务。每一家企业都有员工自行尝试使用AI工具。

我观察到的大部分情况并非鲁莽使用，而是人们在工作中寻找小效率提升，比如重写电子邮件或总结会议记录，但我也看到员工将客户数据或公司知识产权直接粘贴到公共聊天机器人中，却不知道这些工具可能会存储或学习他们输入的内容。

IBM将其描述为影子IT的悄然蔓延，人们采用未经批准的工具是因为官方系统感觉太慢或限制太多。这越来越多地意味着，员工正在悄悄地使用生成式AI聊天机器人，如ChatGPT或Claude，以及编码助手(如GitHub Copilot)或AI驱动的内容创作和分析工具，以更快地完成工作。

安全问题很严重，但最让我震惊的是这些习惯如何影响决策质量。随着时间的推移，依赖AI来获取答案会让人更容易跳过构建真正判断力所需的深入思考。

谄媚螺旋是如何形成的

最近的神经科学研究显示，当我们严重依赖AI工具时，与独立完成任务的人相比，我们大脑的连通性会减少多达55%。当团队使用AI来处理推理任务时，他们往往会停止进行更缓慢的权衡选项或检查假设的工作。将任务委托给机器可能会以我们自己的推理回路保持活跃为代价。

很容易看出企业是如何在不知不觉中陷入这种新现实的。人们仍然感觉很有成效，因为输出看起来很精致，但实际上他们的大脑正在经历类似于肌肉萎缩的过程。

随着时间的推移，输出也变得越来越相似。算法筛选系统通过创造研究人员所说的“有限多元化”来减少内容的多样性。聊天机器人会在越来越狭窄的信息范围内给出选择的假象。随着这些系统了解你的偏好，它们会过滤掉矛盾的观点或具有挑战性的视角。这些系统本质上充当了“应声虫”，并被激励去同意你的观点。

我在真实的团队中看到了这种情况。员工越依赖AI进行分析，他们就越可预测，带来的新想法也就越少。最伟大的想法和解决方案来自多样化的视角，但这些工具强化了熟悉的思维模式，限制了接触竞争观点的机会。

这就是谄媚螺旋的核心。随着AI学习我们的偏好，它会向我们提供我们已经相信的内容的版本。

如何发现谄媚螺旋

你通常可以判断出谄媚螺旋何时开始悄然出现。它可能表现为从演示文稿和报告开始都采用相似的语气，到头脑风暴会议中实验性想法减少，或是辩论不够健康的会议。如果不解决这些问题，你的企业就会开始自动运行。虽然这可能让人感觉很有成效，但实际上可能意味着你正在失去人类思维的创造力，而这种创造力正是你竞争优势的来源。

幸运的是，即使谄媚螺旋已经开始，仍有时间扭转局面，而CIO可以发挥关键作用。

CIO可以怎么做?

第一步是将影子AI的使用公开化。通常，员工会使用这些工具来解决实际问题，因此确保使用这些工具不会让人感到羞耻至关重要。可以尝试从匿名调查开始，让员工自由发言，这样你就可以了解人们正在使用什么工具以及为什么使用。

然后，你可以制定出下一步需要采取的措施。可能是员工实际上发现了一个值得安全引入的有用工具，或者他们可以使用你已经拥有的工具达到同样的效果，但只是需要更多的培训。

其次，确保找到将思维多样性融入企业的方法。团队和流程的构建方式应将不同的观点纳入构思和审查中，以确保你能保持竞争优势并鼓励创造性思维。

结构化异议是鼓励观点多样性的最佳方式之一。在苹果公司工作时，鼓励领导者邀请同事和团队提供批判性反馈。通过允许批评，你为改进和独特意见创造了空间。如果你没有团队，一个定制的AI代理可以成为你的发声板。类似的方法是“红队演练”(red teaming)，即你建立一个单独的小组，其唯一目的是挑战假设并找出你策略中的漏洞。

你还应该找到奖励原创性的方法。由于商业竞争的性质，流程往往设置为奖励速度而非创造性思维。虽然这可能会带来即时的生产力提升，但从长远来看可能会对你造成伤害。

皮克斯(Pixar)就是一个很好的例子。皮克斯拥有创造力和创新思维的文化，这意味着其领导层坚持重写和重新制作故事板，直到电影成功为止，而不考虑成本。《玩具总动员2》(Toy Story 2)和《头脑特工队》(Inside Out)等电影在制作过程中几乎完全进行了重组。皮克斯几十年来持续不断的创造性成功证明，花时间寻找创造性想法会带来长期的市场认可和收益。

最后，确保围绕AI使用建立防护措施。CIO杂志资深撰稿人Grant Gross的文章《AI可能被证明是CIO迄今为止最糟糕的技术债务》强调了，如果不加控制，AI项目会迅速增加工作量。花时间看看AI在哪里可以使工作更高效，以及在哪里人类推理是必不可少的。为收入最高的团队和成本最高的中心绘制流程图，可以为你提供一个有针对性的AI试点项目的良好起点。最后，培训员工在根据AI生成的见解采取行动之前进行验证的必要性。如果AI是你的头脑风暴伙伴，请让它使用分层抽象来评估初始想法并寻找可行的替代方案。如果你是在一个既定想法的基础上进行构建，请让AI使用一阶、二阶和三阶影响分析来将你的想法完善为一个更强大或更全面的解决方案。

我们不能止步于数据隐私

Donegan和Gross对影子AI提出了合理的担忧。我们应该从治理、隐私和政策合规的角度出发，但止步于此的CIO可能会面临公司文化和智力悄然但致命的扁平化风险。建立一个卓越中心(COE)或协调来自企业各地的主题专家(SME)小组，既有助于思维多样性，也有助于发现AI合作的运营机会。

这并不全是坏消息。如果我们现在通过有意且明确的政策来解决这个问题，领导者就可以充分利用AI带来的所有生产力提升，而不会牺牲使其业务具有竞争优势的因素——人。

现代CIO的角色现在已不仅仅局限于简单地监管AI;他们需要成为新技术合作时代的引领者。因为当AI为你思考时，创新就会慢慢消亡。当AI与你一起思考时，天才就会觉醒。

文章来自:51CTO