最近更新时间:2023.08.04 16:25:32
首次发布时间:2023.06.16 15:03:39
实验指标是根据命中实验的用户进行过滤计算的,由于客户端实验和服务端实验在端上分流触发和数据上报逻辑天然存在差异,所以在统计实验指标时判定「命中实验的用户(即进组用户)」方法也存在一些差异。为了实现客户端实验和服务端实验在判定「命中实验的用户」口径时逻辑保持一致,从而提升准确性,DataTester对实验进组用户判定逻辑进行了升级,本文档主要对此进行说明。
更新前 | 更新后 | |
---|---|---|
客户端实验 |
| 二者保持一致,服务端实验口径不变,客户端实验部分口径升级,完成统一
【注】AB_Log表逻辑:使用实验曝光事件来记录用户命中实验的情况,支持实时和天级,天级离线数据会基于人+实验组(即ab_version)的粒度进行聚合
|
服务端实验 |
|
口径统一升级前后的效果/收益:
客户端和服务端实验的进组口径统一
客户端的进组口径更加精准,避免了客户端事件上报的过程中ab_version无法上报、或传递丢失等原因带来的数据失准。
例如当客户端实验功能曝光链路长、实现方式特殊时,在事件上报的过程中ab_version传递丢失
例如当客户端仅在某个较深的功能层级做实验,但想查看全局性指标或者其他相关模块指标时,无法上报ab_version进行指标统计
另外,当进组人数非常小时会二者的相对差异会更大一些
实验指标统一切换为采用新的进组用户口径来查询,具体逻辑和影响如下:
报告页-实验指标查询定义说明(假定实验运行时间为1月1日-1月30日) | ||
---|---|---|
模块 | 查询逻辑和指标定义说明 | 口径统一后指标查询结果是否发生变化(仅限客户端实验) |
报告概览 | 定义:实验开始后截止当前所有完整天从头累积的实验数据,实验第一天为截止当前时间的累积数据
用途:用于提供实验结论,因此仅计算核心指标、并需要采用完整天的累积数据,Q2会拆解为独立的「实验结论」模块 | 有变化 |
实验关注指标 | 定义:默认为实验开始后截止当前所有完整天从头累积的实验数据,实验第一天为截止当前时间的累积数据,支持按照不同时间区间、时间粒度进行查询
| 有变化 |
留存指标 | 无变化 | |
同期群分析 | 无变化 | |
热力图分析 | 有变化 | |
漏斗指标 | 有变化 |