← 返回博客

当“给全员配发AI”的组织生产率下降时

本文由 AI(Claude)从日语机器翻译而成,可能存在错误。 阅读日语原文。

(注:8/10 对说明的结构做了大幅调整。)

2005年完工的首尔清溪川复原工程拆除了贯穿市中心的高架道路,让埋在其下的河流得以复原。拆掉市中心的大动脉,交通似乎会陷入瘫痪。

实际上,施工刚结束时似乎出现过暂时的车速下降。但此后地铁的使用增加,道路出行减少,人们担心的大拥堵并没有就此固定下来。(不过,同一时期还进行了公交线路重组和中央公交专用道建设等公共交通改革。不应将其视为仅仅是拆除道路的效果。)

在交通领域,人们知道:即使增加道路,交通量也会随着增加的容量而增长,拥堵很难消除(诱发需求)。反过来,即使减少道路,也不会出现人们所担心的那样严重的拥堵,一部分交通量会就此消失(交通蒸发),这一点也被反复观察到。清溪川发生的事情,也可以看作这种蒸发的一个例子。也就是说,拥堵往往不是道路总量的问题,而是流动设计的问题。

回头看现代社会,如今许多企业正以“给全体员工配发AI”的形式,在组织内部同时普及新的信息载具和道路。然而这在某些情况下,也可能在组织内部造成拥堵,反而拖慢整体。

既然如此,和道路一样,个人的生产率与整条路径的生产率就需要分开衡量。再进一步思考,AI时代经营的核心工作,或许就是在引入AI的同时,测量整体工作的流动,并不断优化这种流动。

本文将介绍这样一个假说。

公司里不拥堵的道路与拥堵的道路

首先,我们从把公司看作“工作与信息流动的网络”开始。这样一来,相当于道路的东西可以分为两种。

相对不容易拥堵的道路,其代表就是AI生成。撰写文章草稿、制作资料、生成代码、分析的初步处理,并不会因为组织中某一个人在使用,就使另一个人的制作时间大幅延长。

另一方面,拥堵的道路则是接受审阅、获得批准、在会议上达成共识、通过法务或质量保证的确认,以及获得客户的关注。这些环节的处理能力有上限,使用的人越多,每个人的等待时间就越长。

在这个图景中,给全体员工配发AI的举措,相当于“给所有人配发所需时间几乎为零的载具和道路”。在既有的道路上,每位员工用AI起草方案、用AI制作资料、用AI生成回复草稿,流量因此变得更快更大。

此外,借助AI,过去无法实现的道路也得以成立。例如,非IT工程师的人也能开发应用程序,等等。

问题在于,这些道路的出口全都连着审阅、批准等同一条狭窄的通道。

在涉及对外发布、合同、安全、监管和资金的工作中,AI的输出如果没有经过某个人的批准、某个人的核验、某个人承担责任,就不能成为工作成果。既然没有人把最终责任交给AI,沿着生成这条宽阔道路流动的工作,最终就会汇入批准与核验这座狭窄的桥。

例如,做一个相当简化的计算:假设起草一件方案所需的时间缩短为十分之一,提交件数增加到数倍。但批准者一天仍然只有24小时。这样一来,决定整个组织所需时间的就不是生成的速度,而是狭窄桥梁前的队伍。于是出现了一种奇怪的现象:“草稿转眼就写完了,可发布所需的时间却比以前更长了”。

而且,在创作成本的降低会带来提交件数增加的业务中,流入量这一增长有可能进一步扩大。因为每件的成本一降低,增加提交对每个人来说就是合理的。这与道路世界里增加车道后交通量随之增加的诱发需求,是同样的力学。

更糟的是,当过载导致精度下降或返工时,会因疏漏而发生事故。作为对策,会增加确认环节,于是这座桥就永久性地变得更窄了。这与因事故而减少车道的道路相同。

当然,AI也能拓宽狭窄桥梁这一侧。在一项以5,172名客户支持人员为对象的研究中,通过AI辅助(2020至21年引入的基于GPT-3的AI辅助),每小时解决的问题件数平均增加了15%。这是一项关于咨询处理的研究,但如果审阅、核验、咨询应对都能借助AI加快,整个组织也会随之变快。问题出现在生成能力的增长超过审查与核验能力的增长时。

个人的合理性无法解决

也许有人会觉得,这类瓶颈和约束理论的讨论本身并不新鲜。确实,AI带来的主要问题是流量,原则上应当把它看作对该流量进行控制的问题。

不过,这种拥堵有一个棘手的性质:流量的增加并非源于某个人的失败或懈怠,而是每个人理性选择的结果。一件提交会让在同一审阅或批准队伍中排队的所有人的等待时间略微延长,但提交者本人并不承担这一成本。在经济学中,这被称为“拥堵的外部性”。这是一种结构:每个人越是理性地行动,共享的狭窄桥梁前的队伍就越长。

而且这种结构无法靠个人的自我克制来解决。只有一名员工不再用AI起草,他只会变成一个工作慢的员工。只有一个人减少提交件数,减少的也只是他自己的成果量。如果全员一起抑制流量,整体会变快,但没有人能单独做到这一点。

交通工程很早就研究这种“个人的理性选择拖慢整体”的结构。其中最鲜明的例子就是“布雷斯悖论”。即使交通总量完全没有增加,只是多修了一条路,也可能让所有人都变慢,这就是这个悖论。

这说的是一种结构:理性个体的均衡会偏离整体最优。实际上,使用实时交通信息的模型研究也表明,即使有导航,也不一定能消除这类恶化(Bittihn & Schadschneider, 2021)。因此,即便每个人都拥有优秀的车载导航,这种拥堵也无法消除。

不过,组织引入AI时发生的拥堵,大多严格来说恐怕并不是布雷斯悖论。布雷斯悖论是在交通总量保持不变的情况下,仅仅因为各人重新选择路径,就使整体变慢的现象。而且,它还要求一种特殊的网络形态:所有人舍弃宽阔的道路,转而走串联两座狭窄桥梁的绕行路线。

而到此为止所讲的组织拥堵,则是生成变得廉价、流量本身增加,使得原本必需、没有绕行余地的批准与核验之桥前排起了长队。因此,与其说组织版的拥堵是布雷斯悖论的再现,不如用诱发需求、瓶颈和拥堵外部性的组合来解释,更为准确。

即便如此我还是介绍了这个例子,因为我认为可以从中借用两条一般性的教训。第一,网络中的流动有时违反直觉,“增加”可能有害,“减少”可能有益。瓶颈理论往往假定工厂那样的线性流程,因而倾向于“增强堵塞之处”;而在作为网络的组织中,删除或限制路径也可以是候选的解决办法。第二,即使所有人都正确地选择了最短路径,也可能无法摆脱糟糕的均衡,解决问题需要从更高一层介入,设计路径和收费。

也就是说,AI时代的生产率,不只是个人素养的问题,也是路径设计的问题。

一线越强的公司,越容易陷入这个陷阱

谈到AI的引入,人们常说“先在一线小规模地用起来”“从基层逐步扩散”。人们也常指出,只部分引入技术,如果不同时改变业务和权限,就很难见效。

实际上,在一项以66家公司、7,137人为对象的实验中,生成式AI(Copilot)的使用者每周处理邮件的时间减少了约2小时,但似乎没有检测到工作量或工作构成的明确变化。这意味着,即便一个人可独立完成的工作能够缩短,与他人的协调以及组织内部的依赖关系也不一定会自动减少。

此外,到此为止关于拥堵的讨论还暗示了另一层不同的含义,那就是:由一线主导的基层式引入,不只是效果为零,还可能通过共享审查环节的拥堵,使全公司的所需时间恶化。

当然,也并不是说“自上而下的组织就安全”。如果中央把路径搞错了,影响反而会一次性波及很大的范围。尽管如此,也完全可以提出这样一个假说:“拥堵”这种模式的失败,在入口分散、审查环节由多个部门共享的组织中更容易发生。

对于“我们公司的AI引入落后了,所以会输”这一通行的说法,这种想法提供了一个略有不同的视角。

(※ 不过,到此为止的研究并没有实证表明AI在全公司的引入会使整个组织的所需时间恶化。呼叫中心研究衡量的是咨询处理,Copilot研究衡量的是个人的工作模式。它们都没有衡量包含审阅、批准和决策在内的整体业务的交付周期和成果质量。本文所提出的,是一个尚未验证的假说:当上游的流入量增长得比下游的处理能力更快时,等待时间可能会延长。 8/12 补充)

麻烦曾是社会暗中征收的通行费

把视野扩大到社会,同样的结构会在更大的规模上显现出来。

以求职为例。如果AI使求职申请材料的撰写几乎免费,那么一个人大幅增加投递的公司数量就是合理的。然而,热门企业的招聘名额这座狭窄桥梁的容量并没有改变,所以在所有人都增加投递数量的均衡下,通过率会下降。招聘方用AI筛选来防御,投递方则进一步增加投递数量。每个人都理性地行动,结果是整个社会的招聘成本不断增加。在这里同样存在拥堵外部性的结构:每个人的投递都是合理的,而其成本被稀薄地分摊给了在筛选队伍中排队的所有人。

同样的图景也出现在营销邮件、咨询窗口、公众意见征集和信息公开申请中。这种自导自演式的循环,不仅会增加彼此的成本,也会使运行AI所需电力等社会成本呈螺旋式上升。就像电子邮件成本下降导致垃圾邮件增加,进而不得不对其加以监管一样。

接下来引入另一个视角:这些制度的处理能力,迄今是靠什么守护的?答案之一,是访问上的麻烦,比如填写文件的麻烦、去窗口办理的麻烦,以及一开始就要了解这项制度的麻烦。

社会上的许多制度,一直靠“麻烦”这种暗中征收的通行费,免受超出处理能力的涌入。 换言之,可以说无知和麻烦一直作为嵌入社会的流量控制装置在发挥作用。这也可以解读为行为经济学等领域所说的淤泥(负向助推)在发挥作用,无论好坏(不过大多是朝坏的方向)。

AI与以往技术的不同之处在于,它同时在广泛的范围内降低了无知和工作负担这两者。沉睡在社会各处的流动,会一下子变得顺畅起来。而且那时看到的,应该只是“政府机关变慢了”“招聘流程崩溃了”这样的个别制度疲劳,而“整个网络的均衡恶化了”这样的诊断,恐怕很难被做出。

那么,在暗中征收的通行费消失之后,制度一方能做什么?选项大致有四种。

  1. 增加处理能力——将初步审查自动化,把例行处理转交给机器
  2. 设定优先顺序——通过预约、抽签、受理名额、按紧急程度分流来进行
  3. 征收通行费——收取手续费、要求缴纳保证金、要求申请人提供一定的证据
  4. 关闭路径——切换为介绍制、邀请制、会员制。

这里可以看到一个略带讽刺的结果:AI这种开放访问的技术,也许会让封闭的网络重新抬头。在申请无穷无尽涌来的世界里,只接受可信之人的介绍,对接收方来说是合理的防御。

经营的工作是管理流动

那么,企业和组织应该做什么呢?

首先,理所当然的是,从入口到出口测量工作的流动。确认引入AI之后,哪些环节的流入增加了,哪里出现了等待时间和积压。个人的工作变快,与组织完成一件工作的时间变短,需要区分开来考虑。

于是,从交通的知识中,还能得出四个处方。

第一,拓宽拥堵的桥梁本身,消除流量本身的瓶颈。这包括AI初审、自动化测试、标准化、授权下放等。如果不仅加快上游的生成,也同时加快下游的审查与核验,拥堵就不容易发生。不过如果不加注意,可能会产生诱发需求。

第二,收窄路径和入口。正如首尔拆除高架后交通并没有瘫痪,在交通世界里,人们知道减少容量后需求一侧会适应。在组织中,也可以将提交路径统一为一条,把审阅的受理集中为定时批量处理。队伍变成一条之后,也就可以排定优先顺序。刻意加以限制,也许反而能让整体变快。

第三,引入用于控制流量的成本。针对拥堵的外部性,交通经济学的标准处方是对拥堵的道路收费。已知适当的收费可以使个体选择形成的均衡,向对整个社会而言更理想的状态靠近。

套用到组织上,就是给拥堵的路径设定内部价格。例如,为审阅请求设置各部门的预算额度,对提交批准的文件篇幅设定上限,要求起草者留下自我核验的证据,等等。如果AI撤销了“麻烦”这一通行费,那么这次就是有意地重新引入经过设计的通行费。关键在于,可以不把这看作单纯的官僚主义,而是看作针对共享判断能力的拥堵所采取的对策。不过,我想一线也会有相应的反对意见,所以引入时需要谨慎。

第四,局部的中央管控。只由中央分配一部分流动,其余交给各主体自行判断的方法,在路径选择研究中被作为Stackelberg routing(将博弈论的斯塔克尔伯格模型应用于网络路径控制的优化方法)来处理。效果取决于网络的形态,但并不是只有全面集中这一种选择。就企业而言,比如只对法务、质量保证、经营会议、面向重要客户的提案等由多个部门共享的环节进行整体协调。

这样想来,这里还能看到商机。比如测量组织中哪里积压着在制工作的业务,为批准和审阅这种内部市场定价的业务,设计和运营介绍制、邀请制这类封闭网络的业务,等等。由于AI,“组织的交通工程”这一视角的能力将变得必要,管理层的新工作也会随之产生。到那时,自然发生的拥堵和拥堵学的知识等,有时也许也能派上用场。

AI将进入人类智力工作的网络。到那时,就像思考工厂的工作流程那样,在人与AI混合的组织中,需要持续进行测量和变更,以改善智力工作这个复杂网络的整体。

而且,由于需要一边观察AI自身的性能提升,一边持续地变更这些设计,所以AI战略与人事战略的一体化是必要的。

总结

我们基于诱发需求、瓶颈和拥堵外部性这些交通方面的知识,思考了引入AI之后组织中可能发生的拥堵。

短期来看,配发AI本身将成为一场竞争,我也不认为应该阻止它。但不久之后,就需要在引入AI的企业之间检验,这种“配发了却变慢了”的难以解释的现象是否正在发生。

到那时,我认为,是否能优化网络结构、控制流量,将会比模型性能的差距表现为更大的差距。正如拥堵研究从“增加道路”走向“设计流动”,使用AI的经营也终将走向同一个方向。

我认为,在配发AI之后,确认“配发了却变慢了”这一现象是否真的发生,会让其效果得到提高。而区分AI时代竞争力的,不仅是模型的性能,或许还是测量并重新设计整个组织流动的能力。当AI使某些特定的道路和车辆迅速变快时,不妨想起交通工程,从测量自家的工作积压在哪座狭窄的桥上开始,这或许是一种办法。

(8/9 补充、8/10 改写:初次发布时,我把布雷斯悖论作为文章的主轴,但收到了多位读者“这严格来说不是布雷斯悖论”的指正。经过考虑,我认为这一指正是恰当的。因此本文将诱发需求、瓶颈和拥堵外部性作为主轴,并把结构调整为:布雷斯悖论只是借用一般性教训的一个例子。我也考虑过删掉它,但由于已经有很多人读过,所以保留了下来。再次感谢各位的指正。)

(8/12 改写:收到了指正,我又做了进一步改写。加入了“这终究是尚未验证的假说”这一说明。此外还做了细小的补充和修正。)