免费 A/B 测试显著性计算器

判断 B 版是否真的比 A 版好,给出 p 值、提升幅度和 95% 区间。

正在加载编辑器…

如何使用本工具

新标题或新落地页转化更好时,很难分清是真的提升还是随机波动。这个计算器对两组访问量和转化数做双样本比例 z 检验,列出两组转化率、相对提升、双侧 p 值和差值的 95% 区间。适合营销和产品团队复盘已经结束、只有两个版本的测试。

  1. 01

    填写 A 组数据

    在“A 组访问量”和“A 组转化数”中填入对照组的总数,使用整数和完整的预定测试周期数据。

  2. 02

    填写 B 组数据

    用同样方式填写“B 组访问量”和“B 组转化数”。每组至少要有 10 次转化和 10 次未转化,否则工具会提示补充数据。

  3. 03

    计算并解读

    点击“计算”查看两组转化率、相对提升、p 值和以百分点表示的 95% 区间。结果下方会说明 p 值是否低于 0.05,点“复制”可保存全部内容。

显著性检验是怎么算的

计算器使用合并比例的双样本 z 检验,这是比较两个转化率的常用方法。 1. 分别计算两组转化率:转化数 ÷ 访问量。 2. 合并两组数据,估计差值的标准误。 3. 用差值除以标准误,得到 z 值。 4. 把 z 值换算成双侧 p 值。 示例中 5% 对 6.5%,z 约为 4.56,p 约为 0.000005。

怎么看 p 值、提升幅度和 95% 区间

p 值表示:如果 A、B 的真实转化率相同,出现至少这么大差距的概率,常用门槛是 0.05。相对提升说明 B 的转化率比 A 高出多少比例。95% 区间给出两组转化率绝对差值的合理范围,单位是百分点:区间整体在 0 以上,说明数据支持 B 更好;区间跨过 0,就还不能下定论。

让 A/B 测试失真的常见错误

• p 值一低于 0.05 就停止测试,应提前定好样本量或时长。 • 测试时间太短,没有同时覆盖工作日和周末。 • 测试中途调整流量分配、定向或页面内容。 • 同时测很多版本或指标,只汇报赢的那个。 • 忽略实际意义:显著但只提升 0.1 个百分点,未必值得上线。

这个计算器能做什么、不能做什么

它比较两个独立分组在同一个“是否转化”指标上的差异,显著性水平固定为 0.05,区间固定为 95%。它不计算所需样本量,不支持两个以上版本,不检验客单价这类平均值,也不做贝叶斯分析。输入必须是整数,且每组至少 10 次转化和 10 次未转化,样本再少时正态近似就不可靠。

常见问题

什么是 A/B 测试显著性?

指 A、B 两个版本的差异大到通常无法只用随机波动来解释。实际工作中,p 值低于 0.05 一般就称为显著。显著只说明差异大概率真实存在,不代表差异大到值得改版。

怎么判断 A/B 测试是否显著?

1. 等测试达到预定样本量或时长。 2. 填入 A、B 两组的访问量和转化数。 3. 点击“计算”。 4. p 值低于 0.05 即在 5% 水平上显著,同时查看 95% 区间和提升幅度。

p 值 0.05 是什么意思?

假如 A、B 的真实转化率完全相同,大约有 5% 的概率会看到至少这么大的差距。它不是“B 更好的概率”,也不是“结论有 95% 把握正确”。p 值越小,越难用偶然来解释这些数据。

计算器用的是什么置信水平?

双侧检验的显著性水平固定为 0.05,差值区间为 95%。结果会显示精确的 p 值,如果团队采用 0.01 等更严格的标准,可以直接拿 p 值和它比较。

相对提升和绝对差值有什么区别?

绝对差值是 B 的转化率减去 A 的转化率,单位是百分点:6.5% − 5% = 1.5 个百分点。相对提升是用这个差值除以 A 的转化率:1.5 ÷ 5 = 30%。相对提升听起来更大,汇报时最好两个都写。

A/B 测试需要多少样本?

取决于基准转化率和你想检测的最小提升,转化率越低、想检测的提升越小,需要的访客就越多。测试开始前先用样本量计算器估算。本工具用于检验已完成的结果,每组至少需要 10 次转化和 10 次未转化。

为什么提示需要更多数据?

检验依赖正态近似,要求输入整数,并且每组至少有 10 次转化和 10 次未转化;转化数也不能超过访问量。请继续积累流量或检查输入是否有误,再重新计算。

能用来比较两个广告素材的点击率吗?

可以。任何“是或否”的结果都适用:把展示次数填为访问量、点击次数填为转化数,就能比较两个素材的点击率。注意两组要相互独立,同一个人或同一次展示只属于一个版本。

测试数据会被上传吗?

不会。z 检验在你的浏览器中完成,填写的访问量和转化数不会发送到 SocQ,离开页面后也不会保存。

A/B 测试计算器免费吗?

免费,无需注册或账号,可以检验任意多次已完成的测试,每次结果和算式都能复制。

面向开发者

给测试结果补上社媒反馈

SocQ API 可获取 Instagram、TikTok、YouTube 和 LinkedIn 的公开帖子、主页和评论,让活动报表也能呈现受众如何回应你测试过的素材。测试流量和转化数据仍来自你的测试或分析工具。

查看全部工具