本文为您提供关于「A/B 测试」(又名DataTester)使用功能的各项发版更新记录。
功能模块 | 更新描述 |
|---|---|
指标管理 | DataTester的指标新增支持使用虚拟用户属性进行指标过滤,例如,在创建实验指标时,您可以通过虚拟用户属性过滤实验指标。 |
功能模块 | 更新描述 |
|---|---|
实验创编 | 编程实验-服务端实验新增“增强分流均匀性”功能,打开功能开关后,您可以针对某些实验指标或人群,在实验开始前的流量圈选上,对实验流量增强实验各个版本间的均匀性,即在实验开始前保障对应实验指标在各个实验版本上差异不显著,以便提高实验结果的可靠性。 说明 当前仅SaaS云原生环境的编程实验支持“增强分流均匀性”功能。更多关于增强分流均匀性的配置说明请参见增强分流均匀性。 |
功能模块 | 更新描述 |
|---|---|
实验报告 |
|
功能模块 | 更新描述 |
|---|---|
实验报告 | 实验报告新增支持“基准组”的页签,实验开启后,DataTester默认将实验的对照组作为基准组,在展示实验各分组的指标值的同时,其他实验组会基于基准组去计算展示差异值、置信区间的数据。新增“基准组”页签后,您可以单击对应的实验组,将默认的基准组切换为其他实验分组。
|
通用 | 为加强产品账号资源的安全性,火山引擎加强了账号跨服务请求的授权校验,由于DataTester产品的部分功能与DataFinder产品功能有联动,因此后续在继续使用DataTester时,您需根据界面提示完成DataTester的跨服务访问请求授权,允许DataTester访问DataFinder服务,保障DataTester功能正常使用。 说明 跨服务授权仅主账号或拥有IAMFullAccess权限的子账号可操作。 |
功能模块 | 更新描述 |
|---|---|
指标管理 | 新增提供指标组模版管理功能,您可以在指标组模板页面中创建指标组模板,将常用指标添加至模板中,后续创建实验时可切换使用指标组模板来快捷配置实验指标,提高操作效率。 |
MAB实验报告 | MAB实验报告新增支持非一致性场景下的数据展示。 |
全局设置-权限管理 | SaaS-云原生环境优化了权限管理功能,当前支持对同主账号下的子账号、跨主账号(含跨主账号下的子账号)进行便捷的授权。
更多关于SaaS-云原生环境下的权限管控操作说明请参见权限管理:SaaS-云原生环境。 |
功能模块 | 更新描述 |
|---|---|
场景能力-智能运营 | 极光推送通道新增支持配置推送自定义消息“自定义配置”。
|
功能模块 | 更新描述 |
|---|---|
实验创编 | 新增支持对已结束的实验添加分析指标的功能,便于在实验结束后结合实际业务分析需要,灵活添加新的分析指标。
|
通用 | SaaS-云原生环境新增支持多时区设置能力。
|
实验报告-敏感人群洞察 | 优化敏感人群洞察功能页面的交互:优化、补充界面提示文案;调整分页样式等。 |
功能模块 | 更新描述 |
|---|---|
智能动态调优MAB | 对修改MAB实验的实验版本功能进行了完善,MAB实验-APP小程序优化实验支持在实验过程中添加、减少版本,也支持调整实验版本的下发参数。此功能适用于实验长期在线,且在实验过程中希望能够调整下发版本的参数的场景。
该功能仅适用于体验不一致的场景,当前支持APP小程序中的客户端调优/服务端调优。 |
实验报告-敏感人群洞察 | 敏感人群洞察功能新增支持SaaS-云原生的云托管环境。 |
指标组 | 给指标组授权时,变更了添加用户的操作交互,解决了此前的性能问题。 |
功能模块 | 更新描述 |
|---|---|
实验报告 |
|
功能模块 | 更新描述 |
|---|---|
实验创编-模拟实验 | 新增模拟实验能力,支持对文案进行AI预测,即可以基于AI能力对不同文案进行PK预测,从而帮助您更快地找到最优文案。
说明
|
功能模块 | 更新描述 |
|---|---|
实验报告-敏感人群洞察 | 新增敏感人群洞察功能。敏感人群洞察功能是基于Uplift Model模型实现的一套智能洞察敏感人群的功能。是一种在营销、广告等诸多领域发挥独特作用的数据分析工具。与传统预测模型专注于预测事件是否发生(比如用户是否购买产品、病人病情是否好转)不同,它聚焦于预估某个干预行为对结果带来的 “额外提升” 效果。 注意 当前敏感人群洞察功能免费灰度发布中,如果您希望使用此功能,可联系火山引擎技术支持人员开启并试用功能。 更多关于敏感人群洞察的功能介绍请参见敏感人群洞察。 |
通用 | DataTester服务新增部署柔佛地域。当前支持的地域详情请参见支持的地域。 |
功能模块 | 更新描述 |
|---|---|
通用-体验提升 | 对产品的交互逻辑做了体验提升,例如,对创建实验的测试用户增加合法性检测等。 |
功能模块 | 更新描述 |
|---|---|
系统设置 | 新增支持指标查询时间偏移参数,如果您在实验开启后发现有某些指标事件的数据明显偏少,可能是由于指标事件的触发早于实验曝光事件的触发,此种场景下您可以通过设置指标查询时间偏移来进一步提高查询指标的正确性。例如,将参数设置为3秒,则后续指标计算时会包含实验曝光事件前3秒内上报的指标事件数据。 |
数据概览 | 优化了产品用量的数据更新时间,当前数据看板的合同用量统计时间改为上午10:00,便于您及时查看用量情况。 |
通用-性能优化 | 针对页面加载时间长的问题做了诸多性能优化,页面平均加载时长从4.9s降低到1.455s,支持并行访问用户数944个。 |
功能模块 | 更新描述 |
|---|---|
实验创编 | 新增大模型实验功能,适用于基于大模型做二次开发的应用,此类应用如果需要针对大模型的模型性能等方面开展A/B实验,可使用DataTester的大模型实验功能。
说明
|
功能模块 | 更新描述 |
|---|---|
全局设置-数据概览 | 开通购买DataTester的MAU资源包后,新增支持在数据概览页面查看MAU的用量相关数据。 |
功能模块 | 更新描述 |
|---|---|
实验工具箱 | 新增支持数据查重工具,如果实验指标数据可能存在重复上报的情况,您可使用数据查重工具进行查找定位,找到疑似重复的数据,进而对重复数据进行处理,避免产生额外费用。 |
通用 |
|
功能模块 | 更新描述 |
|---|---|
实验模版 | 新增实验模版功能,实验模板可以非常快速设置一些实验创建时必填的表单项,或者强制固化表单项里的值。这会方便整个集团建设实验时对表单的控制,提升对表单项的理解清晰度,后续创建实验时可直接引用创建好的实验模板,提高实验创建的效率。
更多详情介绍请参见实验模版:引用模板创建实验。 |
PreAA实验数据 | SaaS-云原生环境新增PreAA实验指标数据查看能力。PreAA是指两个实验分组用户在实验开始之前的指标对比情况。用户进入实验前14天的指标表现是怎么样的?如果用户在进入实验前的指标波动就比较大,那进入实验后的数据参考意义也会变小。PreAA可以直接帮您观察用户进入实验前14天的数据表现情况。 注意 当前仅SaaS-云原生环境上线了PreAA功能,且当前仅支持事件指标进行PreAA数据查看。 |
差异分析 | 差异分析功能升级,新增群体指标的分析结果数据,便于在使用差异分析时能便捷地查看群里获胜概率和详细的指标数据。 |
智能动态调优MAB | 智能动态调优MAB功能体验提升:
|
功能模块 | 更新描述 |
|---|---|
流量计算器 | 实验流量计算器新增修正多重比较开关。对于实验版本多于2个的实验场景,打开修正多重比较开关后,后续在流量预估时会自动为您修正由于多重比较带来的统计指标犯错率上升的问题。 说明 以假设检验为理论依据的A/B实验,适用于AB两组进行对比的场景,能够帮助大家从A策略和B策略之中选择一个更好的:在95%的置信水平下,假设新策略没用,我们做一次对比,犯第一类错误(即我的策略没用,但实验结论显示我的策略有用)的概率是5%。但是,如果实验是AABB实验,或者ABCD实验,或者ABCDEFG实验等实验版本多于2个的场景,那么我们将面临多重比较问题——我们犯错的概率将大大增加,不再是5%。此时打开多重比较修正的按钮即可自动为您修正多重比较,更多流量计算器的介绍请参见预估实验流量:流量计算器。 |
功能模块 | 更新描述 |
|---|---|
大模型应用-Web个性化 | Web个性化实验结合大模型能力,为您提供AI智能文案建议能力,对于文本修改没有思路、文案最佳版本抉择困难、Web文案千人千文的场景,您可使用AI智能文案能力,高效智能生成文案,提高实验效率。 说明 当前AI智能文案能力为灰度发布,如果您希望使用此功能,可联系火山引擎技术支持人员开启试用。 更多关于智能文案生成的介绍请参见Web个性化:AI智能文案生成。 |