返回营销基础知识:试用 A/B 电子邮件检验 | Get Back to Marketing Basics: Give A/B Email Testing a Try

Agnes Ogee and Robert Collis | 6/28/2024

主题: Minitab Statistical Software, data analysis

如果您是营销人员,您知道发送促销电子邮件并简单地期待获得最佳效果并不是最佳做法。理想情况下,您应该花时间探索电子邮件的绩效,并发现您可以采取的提高绩效的措施。

 

只需稍加努力,您就可以向读者样本发送营销电子邮件的两个版本,并在向整个受众发送最佳版本之前比较成功指标。这样,您可以通过打开率和/或点击率等成功指标来确定最佳版本。
打开率是打开您电子邮件的人占收到您电子邮件的人的百分比。点击率是收到电子邮件并点击邮件中至少一个链接的联系人的百分比,因此与仅仅打开电子邮件相比,表现出更高的参与度。
我们将分享一个用例,说明这对 Minitab 的营销团队有何作用。我们运行了 A/B 检验来比较电子邮件的两个版本,并审查了点击率作为成功指标。

AB-test-email-process-mapped-using-Minitab-Workspace-Process-Mapping-tool团队使用过程图记录检验,以概述步骤

 


在我们的博客过程图入门中了解有关使用 Minitab’s Workspace Software® 过程图的更多信息 >

阅读博客


 

在我们运行检验之前,我们询问了以下问题:

  1. 我们如何确定检验两个版本电子邮件所需的样本量,以便以足够的精确度估计成功指标?
  2. 我们如何比较两个版本的电子邮件,以便发现就成功而言的特定差异?

这两个问题都需要成功度量指标的基准,因此我们使用历史数据进行估计。我们想知道针对相同目标受众的类似营销电子邮件的基准成功指标是什么。在本例中,我们的基准是发送给类似受众的类似电子邮件,其中 100,000 名读者中有 340 名点击了电子邮件中插入的一个或多个链接。基准点击率为 0.34%

付诸实践:

计算样本数量以比较电子邮件两个版本成功情况的第一种方法:

您可以使用 Minitab® Statistical Software 中的估计样本数量检验来计算要抽样的读者数量,以在一定误差范围内估计您的点击率。

例如,我们从至少 10 倍大的总体中抽取 10,000 个联系人的样本数量,即总共至少 100,000 名读者。如果预期的点击率是 0.34% 基准,则 95% 水平的下限为 0.21%,上限为 0.47%

Sample-size-for-margin-of-errors-estimation-using-Minitab-Statistical-Software

使用 Minitab Statistical Software® 中的统计>功效和样本数量>待估计样本数量。对于点击率,95% 置信区间介于 0.24% 0.47% 之间。

由于样本数量与总体数量相比较小,因此用于对抽样数据建模的二项分布超几何分布将提供相似的结果。您需要确定点击率的误差范围是否可接受,并将以足够的精确度估计此成功指标。

计算样本数量以比较电子邮件两个版本成功情况的第二种方法:

使用双比率检验,此检验可以在 Minitab Statistical Software 统计>基本统计量>双比率菜单中找到。您可以确定检测具有所需概率或功效的两个电子邮件版本的点击率之间的特定差异所需的样本数量。

首次电子邮件营销活动的基准点击率为 0.34%。如果为每个电子邮件版本选择的样本数量为 10,000 个联系人,在 90% 的情况下,在点击率中检测到的变化将为 0.34% 0.63%

Sample-size-with-test-for-two-proportions-using-Minitab-Statistical-Software

使用“统计>功效和样本数量>双比率”来确定样本数量

如果您想检测更小的点击率差异,可以增加样本数量以查看它对检验灵敏度的影响。


是否准备好为您自己的比较确定样本数量? 开始免费试用 Minitab Statistical Software >

免费试用


哪种统计检验可以帮助比较发送的两个版本电子邮件中每个版本的成功情况?

现在,检验已经运行,我们想比较结果以选择最佳版本的电子邮件。

AB-test-email-open-rate-click rate-results

两个版本电子邮件中每个版本的发送数量、打开数量和点击数量

尽管在此描述性表中,版本 B 的百分比被认为较高,但重要的是使用统计检验来检查差异对于团队所关注的成功度量是否显著,在本例中,此成功度量是点击率。

此统计检验称为双样本缺陷百分比,可在 Minitab Statistical Software 协助菜单中访问此检验。通常,此检验用于通过抽样证明两个总体的缺陷率差异。在本例中,参考事件不是缺陷单元,而是点击。因此,高缺陷率意味着高点击率。

AB-test-email-open-and-clickthrough-rate-difference-summary-report使用“协助>假设检验>相互比较两个样本>双样本缺陷百分比”来比较电子邮件两个版本的点击率:版本 A 和版本 B

AB-test-email-open-and-clickthrough-rate-difference-diagnostic-report

AB-test-email-open-and-clickthrough-rate-difference-report-card

输出提供有关如何解释数据的指南。

统计输出显示,数据确实在 10% 水平上提供了足够的证据,可得出以下结论:版本 A 的缺陷百分比,在这里为点击率百分比显著低于版本 B

原因很简单:每个版本的电子邮件发送量都没有达到建议的 10,000 名读者的样本量。与许多现实生活中的试验一样,此检验未能按照建议的条件运行。

当存在这种差异时,所使用的样本数量只能检测到从电子邮件版本 A B 的点击率实际增加约 1%

团队现在可以决定选择额外的样本来增加检验的功效,还是从两个版本的电子邮件中选择一个版本,即使点击率没有显示出统计学意义。团队还可以使用类似的方法来比较打开率,以获得另一个可供比较的元素。


如有兴趣了解有关 A/B 电子邮件检验或 A/B/C 电子邮件检验的更多信息,请阅读我们的博客!

阅读博客