实验平台:设计--其他落地细节
2017-07-06
实验平台,具体落地过程,涉及到一些通用问题,当前 blog 将进行详细的讨论:
落地:其他细节分析
几个方面:
- 流程固定、明确控制点:不同控制点,可以配置不同参数/比例,以此动态实验(广告系统为例)
- 固定分桶数量:
- 提前设定分桶数量,例如 100 个
- 实验管理页面,如何动态调整流量?
- 底层实现 & 操作的便利性
- hash 算法:
- md5 + mod
- 白名单:指定流量命中指定分组
- 默认分组问题:
- 分流路由标识缺失时,命中哪个分组?默认分组(对照组)
- 全量上线时,默认分组(对照组?实验组?)
- 实验效果:
- 观察多长时间内的实验效果?
- 如何避免其他因素影响?节假日、天气、运动会事件等
逻辑分流,实验接入方式:
if(对照组){
// 对照组:不应用策略,跟默认组一致
...
}else if(实验组){
// 实验组:可以有多个实验组,每个实验组,都应用不同的实验参数
...
}else{
// 默认组:不进行实验的流量,都走这一分组
...
}
参考资料
- 阿里妈妈大规模在线分层实验实践
- 超越AB-Test,算法参数化与Google实验架构
- 大众点评并行 AB 测试框架 Gemini
- Experiments at Airbnb
- 微博广告分层实验平台(Faraday)架构实践
- Overlapping Experiment Infrastructure- More, Better, Faster Experimentation.pdf
原文地址:https://ningg.top/experiment-series-other-details/