衡量被改变的决定和周期时间,不要衡量产出量。一旦模型让生产变便宜,产出量就是一个虚荣指标:一个团队能把素材数翻三倍而什么都没学到,或交付同样数量的素材而学到很多。真正指示 AI 在起作用的信号是:一个决定推进多快、需要多少审阅、AI 辅助的版本多常胜过旧的、以及随之而来什么业务结果。
我见过团队庆祝内容产出跳升,当作他们的 AI 项目在起作用的证据,而产出是那个变化里最没意思的部分。衡量是一个 AI 项目要么变诚实、要么迷失的地方,所以在你扩展任何东西之前把它做对是值得的。
陷阱:衡量变容易的东西
默认的直觉是衡量吞吐。我们产出了多少素材、上市了多少市场、交付了多少报告。这些数字在 AI 下会上升,在幻灯片里令人满意,但它们衡量的是 AI 变便宜的东西,而不是你想改进的东西。
吞吐能因与价值无关的原因上升。更多变体,如果什么都不测,可能意味着更多噪声。更多报告可能意味着更多没人需要的会议。更多市场可能意味着更多你是平庸的地方。一个好的衡量框架回答的问题不是「我们产出了更多吗?」,而是「更多的产出变成了更好的决定和更好的结果吗?」。那是两个不同的问题,而只有第二个重要。
改而衡量什么
衡量运营模式,不衡量生产线。四类信号覆盖了大部分。速度:从简报上线的周期时间,以及到决定的时间。投入:每份产出的资深审阅时间,那是 AI 原生工作流的真实成本。质量:错误率、返修率、以及 AI 辅助的工作多常需要返工。结果:每个结果的成本,以及这份工作本该推动的业务指标。
这些都不稀奇,没有一个需要新工具。让它们不同于旧指标的是,它们衡量判断和流动,而不是量。一个缩短了周期时间、守住错误率、把审阅时间保持在合理水平的团队,确实改进了它的运营模式,即便素材数没变。
领先信号与滞后信号
按时间把信号分开。滞后信号是业务结果——收入、pipeline、品牌提升,无论这场活动是为了什么——它是重要的那一个,但它来得晚,且受许多东西影响。领先信号是运营的那些:周期时间、审阅时间、返修率、每周决定数。它们先动,且在你控制之内。
两者你都需要,而且你需要对归因诚实。当市场动了时,把滞后数字归给 AI 是诱人的。诚实的框架是用领先信号证明运营改变,用带恰当归因的滞后信号——增量性、对照组、一个测试设计——来论证业务效果。报告纪律是防止这两者被混为一谈的东西。
质量反指标
每一个速度指标都需要一个质量反指标,否则团队会靠交付更差的工作来优化速度。如果周期时间是头条,错误率和返修率就是护栏。如果审阅时间是效率故事,反指标是逃逸的缺陷——客户或消费者发现的问题——是升了还是降了。
这是 AI 工作衡量里最重要的一条纪律,因为 AI 让速度容易、让质量难。一个报了更快周期、却没有质量反指标的团队,不是在衡量它的运营模式;它是在衡量它把工作推出门的能力,而那恰恰是产出审阅债的行为。
一个简单的衡量框架
挑一个主要运营指标——我会从你重构过的那条工作流的周期时间开始——和两个反指标,错误率与审阅时间。加上一个这条工作流本该影响的业务结果,用一个能诚实归因它的设计来衡量。四个一起报,每月一次,并把主要指标的任何一个、伴随更差反指标的移动,当作一次失败的改进,不是一次胜利。
这个框架被刻意做薄,因为薄的框架会被用。一个有二十个指标的 dashboard 会被忽略。四个数字,逼出速度与质量之间的取舍,就够运转运营模式,也够用证据而非热情来论证扩展。
扩展之前先装仪表
衡量最难的部分是在你需要之前就有数字。大多数团队先扩展一条 AI 工作流,再试图事后重建它的影响,那是一个可信的项目最后落得一个无法证明的宣称的方式。纪律是在你搭它的那一刻就给工作流装仪表:记录周期时间、标明审阅步骤、从开始就捕获错误率。
这听起来像管理费,早期确实是。但替代方案是一年之后没有基线、没有办法区分工作流是改进了还是只是变了。一个简单的日志——简报何时进来、何时上线、几次审阅、哪里错了——就够了。你不需要一个平台才能开始;你需要的是在扩展那个产出数字的东西之前、记录这四个数字的习惯。
一个演练过的例子
想象一个付费社交创意循环。旧的周期时间以天计:简报、设计、审阅、返修、发布。转向 model-first 工作流之后,你预期它下降。但如果审阅时间翻倍、返修没动,你就没改进运营模式;你把瓶颈移了。
诚实的读数来自四个数字一起看。周期时间下降、审阅时间持平或略升、错误率持平、测试读数质量上升——那是一次真实的改进。周期时间下降、审阅时间大幅上升、返修上升——那是一个交付得更快、更差的团队,而反指标抓住了它。没有它们,光看周期时间那张图会显得像一场胜利。
常见的衡量错误
三个错误反复出现。衡量量、并把它叫作影响,那会奉承项目、什么也教不了。丢掉质量反指标,那会让速度掩盖工作的下滑。以及把一次市场移动归给 AI、却没有一个支撑该宣称的设计,那管用到有人问你怎么知道。
三个的修法是同一条纪律:挑运营指标,保持反指标附着,并明确你能归因什么、不能归因什么。一个适度、站得住的宣称胜过一个大而不可证伪的,因为站得住的能熬过下一季度,大的不能。
周一该做什么
拿你已经转到 AI 的那条工作流,写下它上个月的周期时间、审阅时间和错误率。如果你写不出,那就是第一个发现:你在跑一条 AI 原生工作流,却没有能告诉你它是否更好的仪表。然后挑一个业务结果,决定你将如何可信地归因它的变化。在下一场活动之前做这件事,让衡量因设计而存在,而不是作为一次重建。
FAQ
我们该算省下的工时吗?
省下的工时是一个有用的内部信号,却是一个危险的对外信号,因为它取决于关于人们拿那时间做了什么 的假设。算周期时间和审阅时间,那些是可观察的,并让工时从它们中落出来,而不是以它们领跑。
我们怎么证明是 AI 导致了结果?
用一个在工作之前搭好的设计:一个对照组、一个匹配控制、或一个测试,其中一种条件由 AI 辅助、另一种没有。没有那个,你可以显示相关和改进,但无法宣称因果。提前搭好设计,或接受更弱的宣称。
如果业务结果因无关原因移动呢?
说出来。用运营指标证明工作流改变,并坦率承认业务移动与市场共享。过度宣称是一个 AI 项目在下个季度持平时就失去可信度的方式。
我们该多久复盘一次这些指标?
对一个稳定的工作流,每月就够;当你主动调它时,每周。要点是对话的节奏,不是 dashboard。一次每月固定复盘那四个数字,就是整个系统。
简短版
衡量被改变的决定和周期时间,不要衡量产出量。用速度、投入、质量和结果信号,把每个速度指标配一个质量反指标,并诚实地归因业务结果。执行指南覆盖车道其余部分,面向团队负责人的车道把衡量贯穿运营模式来做。
如果你在衡量你的 AI 项目,我想听听哪个数字最难辩护——那通常是诚实的那个。
祝好, Chandler
本文提供简体中文版本。课程材料(视频、模板和配套指南)以英语、日语、简体中文和韩语提供。本网站提供 13 种语言版本。