You need to enable JavaScript to run this app.
导航

SaaS发布日志(2024年)

最近更新时间2024.04.25 19:12:19

首次发布时间2024.01.18 20:01:02

本文为您提供关于「A/B 测试」(又名DataTester)使用功能的各项发版更新记录。

2024年04月25日

功能模块

更新描述

可视化编辑器

  • 新增支持选择元素(input,svg,video);支持元素的背景图片编辑。
  • 可视化实验交互和视觉部分优化。
  • 新增支持响应式图片编辑。

OpenAPI

  • 创建实验、获取实验详情、修改实验OpenAPI,增加实验标签参数、实验创建人两个参数。
    后续您可以在使用OpenAPI创建实验时通过这两个参数进一步标识实验,后续查询实验时也可通过这两个参数进行过滤查询。
  • 新增用户信息查询接口,用于查询用户owner列表,查询结果可用于创建实验接口的请求参数使用。
  • 实验名称的长度限制从50字符扩到200字符。
  • 支持通过OpenAPI创建MAB实验。

详细介绍请参见开放接口V3

实验报告

优化各种实验场景下的实验报告结论,主要展示对您更有价值的报告总结描述;并且在本次实验结果不明确时,进一步为您提供实验数据和实验优化方案,辅助您进行业务决策。
图片
例如,当实验结果不显著时,为您提供各个实验版本与实验对照组的指标数值对比,并为您提供可能可以得到显著实验结论的优化措施。

数据指标

  • 实验报告中实验数据指标展示能力优化。
    图片
    • 数据展示支持切换计算方式(差异相对值还是差异绝对值)和统计方式(置信区间还是P-Value),切换视图即可根据选择展示指标对应的数据。
    • 下载指标数据时,新增支持下载P-Value、MDE等数值,并对下载后的数据的可读性进行了优化。以指标组视图下载数据为例,下载后的数据示例如下。
      图片
  • 按……去重的指标作为分子或分母时,支持计算置信度,如果您的实验包含相关指标,可在实验报告中查看对应指标的置信度相关数据。
    图片

指标组

  • 创建事件指标、留存指标时,新增支持设置指标事件的灵活属性。您可以根据需要选择是否打开灵活属性开关,打开后您可为指标的各个事件添加灵活属性。
    图片
    添加后可在实验创编选择指标时进行选择,指定所选指标按照所选属性及属性值进行口径的定义、计算及展示实验结果。
    图片
  • 指标创建等场景下,事件、属性、属性值支持大小写模糊匹配。
  • 创建指标时,可选属性的上限提高至5000。

2024年04月11日

功能模块

更新描述

MAB实验

MAB实验的转化率流量调优算法更新迭代,本次算法迭代在上个版本的基础上,主要增加了:

  • 均值类指标的 MAB 流量分配算法
  • 算法设计了探索机制,使得算法可以满足 100个以上方案参与 MAB 流量分配的诉求
  • 增加了 2 类流量调节敏感度控制方法,满足客户场景下,期望参与控制流量分配过程的诉求,例如,在某个版本明显胜出之后,客户期望可以控制算法对分组大幅度流量倾斜
    • 温度参数,通过调节温度参数控制各个分组之间流量分配的激进程度
    • 分组之间辨识度控制函数 5 类,通过选择不同控制函数满足不同风险偏好客户/场景诉求(不同辨识函数对方案之间差异大小有不同敏感度)
  • 增加了获胜概率解析计算方法(上一版本逻辑是 MC 方法,耗时过大)
    • 两类方法各有应用场景
    • 解析方法可能会产生偏差,MC 方法不会产生偏差但耗时过大

实验列表

实验列表页面做了加载的性能优化,通过降低前端umi.js的体积大小,从而降低打开实验列表页面时的耗时,本次性能优化后,前端总体积优化下降下降约25%(130MB => 96.4MB)。

2024年03月07日

功能模块

更新描述

体验demo

全量升级改造Demo项目,区分体验Demo、操作Demo,便于在初始使用时体验DataTester的实验能力和上手体验操作。
图片

数据指标

按……去重的指标作为分子或分母时,支持计算置信度,如果您的实验包含相关指标,可在实验报告中查看对应指标的置信度相关数据。
图片

可视化编辑器

新增支持响应式图片编辑。详情可参见可视化编辑器 3.x介绍

2024年01月05日

功能模块

更新描述

广告实验

广告实验支持渠道拓展:新增支持对微信小程序创建广告实验。
通过界面化的配置即可系统的规划微信小程序的广告投放策略并进行AB测试,以获得最佳投放效果;新增微信小程序端后,火山引擎AB测试在广告投放渠道就已基本覆盖完整,包括安卓/ISO应用、电商店铺、微信小程序等多个渠道。

MAB智能调优实验

MAB智能调优实验功能升级,优化实验创编流程、实验报告页面展示;支持在实验过程中人工调整实验流量等功能升级。