每位营销人员都应掌握的一种用于简单 A/B 检验的基础统计方法 | One Basic Statistical Method Every Marketer Should Know for Simple A/B Testing

Joshua Zable | 07 October, 2022

主题: Minitab Statistical Software

过去,有些营销人员一听到“统计”这个词,可能就会不寒而栗。但是现如今,如果您没有将统计和分析融入到营销策略中,您就落伍了。


好消息是,像 Minitab 这样的公司让分析数据变得简单。 在下面的 A/B 检验示例中您可以看到,尝试使用统计“池”就像学习 1-2-3 一样简单。

什么是 A/B 检验?

A/B 检验,也称为拆分检验或分桶检验,是指一种随机试验过程,即在同一时间向不同受众展示一个变量(网页、页面元素、电子邮件等)的两个或更多版本,以确定哪个版本最具影响力。例如,发送多封电子邮件,看看哪一封能产生更多的用户粘性,使用不同的广告来衡量点击率,或拆分 URL 检验,即在控制组(通常是原始网页)和变体(如新设计)之间拆分网站流量。

简单 A/B 检验的简单方法

大部分营销人员使用某种形式的 A/B 检验。不幸的是,虽然尽最大努力确定了能够获得最高用户粘性的内容,但大部分营销人员却没有通过假设检验来确定他们的结果是否真正统计意义显著。


A/B 检验有多种不同的类型,其中包括多元检验,它可以同时更改多个分量。今天,我们来看看简单的 A/B 检验,比较两个组。 为此,最合适的工具是一种简单易用的假设检验,称为双样本比率检验。


示例 1:对电子邮件营销信息的 A/B 检验进行比率检验

想象一下,一位营销人员每个月都会发一封电子邮件推销培训课程。 这些电子邮件的目标是引起客户对培训的兴趣和意识。 她过去取得了相当不错的成果,但她仍想看看自己能否提升业绩。

她决定进行 A/B 检验。 她想锁定 2,329 个客户。 她决定将这些客户分为两组:电子邮件 1 和电子邮件 2 对于电子邮件 1,她依旧使用上个月发送的电子邮件,将这封电子邮件发送给大约 50% 的客户。 将电子邮件 2 发送给另外 50% 的客户。

她发送电子邮件。 电子邮件 1 获得了 12% 的打开率(140 个客户打开),电子邮件 2 获得了 9.8% 的打开率(115 个客户打开)。 大部分营销人员可能会说电子邮件 1 效果更好,对吗?

我们可以利用分析来确定这 2.2% (12% - 9.8%) 的差异是否统计意义显著。 但许多人不会这么说,因为很难知道如何通过快速、轻松的方式帮助我们回答这个问题。 通过三次点击和四个数字,就可以知道差异是否统计意义显著!

方法是 Minitab 中的双样本比率检验。 它会根据样本数量、置信水平和实测的打开率,告诉您这两个对比率在统计上是否不同。 转至统计à 基本统计量 à 双比率Minitab 向我展示了一个对话框,用于快速计算汇总数据。 我只需插入数据(通过对应于打开的活动和对应于电子邮件数量的样本),其他工作由 Minitab 完成!

Two-Sample Proportion

结论

通过观察下面的结果,我发现两个组之间的实际差异可能是 0,为 0.022(或 2.2%),置信区间为 95%。 在统计学上,这意味着我们“不能否定原假设,它表示两个比率相等。”换言之,两组在 95% 置信水平上没有统计学差异。尽管电子邮件 1 获得了 12% 的打开率,电子邮件 2 获得了 9.8% 的打开率 - 但这两封电子邮件的表现没有统计学差异。 因此,我们的结论是,这些电子邮件导致不同的打开率可能是一个误会。

Estimation for Difference

比较两个比率是一种有用的方法,可确保您充分利用 A/B 检验策略。 通过将分析融入到营销工作中,并提高团队的数据素养,您最终可以制定出更好的决策。

开始免费 30 天试用