先别急着推翻假设,先证明试验真的上线了。未发生预期变化时,最值得核对的是“实施证据”而不是“效果证据”:页面版本、模板分支、渲染后HTML、日志中的请求特征,只要有一环没对上,试验就等于没做。下面给出一条可复用的核对路径,帮你在保留、改写或退出之间做决定。
运营说改动已发布,开发说分支已合并,SEO看到线上还是旧版。三种说法可能都对,因为各自看的是不同层:代码库、发布流水线、CDN缓存、渲染结果。把分歧转成可核对项目的第一步,是给“已实施”下一个可被第三方复现的定义,例如:在无登录、无个性化参数的请求下,返回的HTML中出现了某个新标记,且该标记在同一URL的连续多次请求中稳定出现。
定义越贴近用户实际拿到的响应,越不容易被内部流程的“已完成”误导。合并到主分支不等于已发布,发布到源站不等于边缘节点已刷新,页面返回200也不等于内容是新版。
核对时优先看高可信度证据,低可信度证据只能作旁证:
当三层证据互相矛盾时,问题通常出在缓存、灰度比例、地域分流或参数分流上,而不是假设本身错了。
假设某次试验是把列表页首屏的模块顺序调换,预期是点击率上升。核对时不要只看后台开关,按下面顺序走一遍:
只要第2步或第3步不成立,后续关于点击率没变化的讨论就没有意义——因为试验没有真正触达用户。此时应先把动作放在修复实施上,再重新积累观察窗口,而不是直接判定假设无效。
证据链断点不同,处理方式也不同:
很多人跳过了前两种,直接进入第三种,于是把“没做成功”误读成“做了没用”。这两种结论对应的下一步动作完全不同。
反过来也要小心:请求量、抓取量或某个统计突然归零,不能单独证明试验已正确实施,也不能证明它没实施。缓存过期、日志采样、统计口径切换、上游限流都可能造成同样的表象。搜索引擎报告、第三方估算流量与站内统计的口径本来就不同,拿它们互相印证时,要说明各自统计的是什么,而不是把差异直接归因于某次改动。
可核查的做法是:为每一条实施证据注明采集时间、请求条件和来源系统,让不同角色能拿着同一份记录复核。当所有人对“线上到底是什么”达成一致,关于保留、改写或退出的争论才会落到同一个事实上。