先给结论:当流量优化试验“看起来没效果”时,第一步不该是加码或放弃,而应先确认试验是否真的按计划发生了。只有同时拿到变更已上线的证据和目标对象确实被覆盖的证据,才能把“无效”当作结论;否则你只是在解释一个可能从未发生的试验。
这两者会导向完全不同的下一步。前者要修复执行,后者才轮到换假设。判断顺序可以固定为:
如果第 1、2 步就断了,后面的流量对比没有诊断价值。这不是谨慎过头,而是因为未发生的处理不会产生处理效应。
多个角色对同一事实理解不同时,争论往往停留在“我觉得已经改了”和“我看没有变化”。把分歧转成可核对项目,比继续交换判断更有效。可用的证据包括:
页面源码或渲染后 DOM:确认新元素、新链接或新结构是否存在。发布记录与时间戳:确认变更时间是否早于观察窗口。站内统计中的分页面、分来源数据:确认目标页面是否被纳入统计口径。搜索引擎报告或第三方估算:作为旁证,而不是唯一裁决。这里有一个容易踩的坑:第三方估算流量、搜索引擎报告与站内统计口径不同。三者对同一页面的“流量”定义、采样方式和归因窗口都可能不一样。所以它们可以互相印证方向,但不能直接相减来证明某次试验的增量。单看某一项指标下降或归零,也不能直接证明试验没实施,因为缓存刷新延迟、统计代码未触发、报告更新周期都可能造成同样现象。
假设某团队修改了商品列表页的筛选入口,预期点击率上升。观察一周后站内点击数据几乎没变。此时先别下“改版无效”的结论,而是按证据链核对:
如果 DOM 里根本没有新入口,那么这一周的数据说明的是“旧版本继续运行”,而不是“新版本无效”。如果 DOM 有入口但统计未覆盖,那么数据缺失说明的是“测量没跟上”,也不是“用户不点击”。两种情况的下一步动作完全不同:前者要修复发布,后者要修复埋点,然后重新设定观察窗口。
反过来也要注意:“变更已上线”并不自动等于“试验真正实施”。如果新版本只对内部账号可见、只覆盖了极小比例用户,或者上线时间晚于大部分观察窗口,那么即使源码里能找到改动,这次试验的覆盖仍然不成立。此时流量没变,可能只是因为绝大多数访问者从未进入处理组。判断覆盖是否成立,需要看目标对象是否被实际纳入,而不是看代码是否提交。
核对完成后,你会得到三种可执行状态:
关键动作是:在每次试验开始前,先留下一份可核对的实施证据,并在观察期结束后先验证这份证据是否仍然成立。这样做的直接结果是,你能把“没变化”拆成可归因的执行问题或真实的无效结论,避免在错误前提上继续投入。