Aller au contenu

Calculateur de test A/B

A/B Test Calculator

Applique un test z de comparaison de deux proportions et un test du khi-deux à deux taux de conversion, avec intervalles de confiance de Wilson, et calcule la taille d’échantillon pour un effet et une puissance visés.

Deux taux de conversion en entrée, et un verdict sur la réalité de l’écart : un test z sur deux proportions, un test du khi-deux et des intervalles de confiance de Wilson pour chaque taux. Il calcule aussi la taille d’échantillon nécessaire avant de commencer, c’est-à-dire le calcul qui aurait sauvé la plupart des tests que les gens arrêtent trop tôt.

🔒 Fonctionne entièrement dans votre navigateurab-teststatisticsexperimentmarketing

Que voulez-vous faire

Mode
Seuil de signification α

Observé

A (témoin)

B (variante)

Résultat du test

Significatif (p = 0,0074 < 0,05)

Taux de conversion de A

20,00 %

intervalle à 95 % 17,64 % – 22,59 % (Wilson)

Taux de conversion de B

25,00 %

intervalle à 95 % 22,42 % – 27,78 % (Wilson)

Différence (B − A)

+5,00 % pp

intervalle 1,35 % – 8,65 % pp

Gain relatif

+25,0 %

Test z de deux proportions (bilatéral)

p̄ = 0,225 · SE = 0,01867 · z = 2,677 · p = 0,0074

Test du khi-deux (1 ddl)

χ² = 7,168 · p = 0,0074

χ² corrigé de Yates = 6,885 · p = 0,0087

Le test z utilise l’erreur type groupée sous l’hypothèse nulle ; l’intervalle de confiance de la différence utilise l’erreur non groupée. Chaque intervalle de taux de conversion est un intervalle de score de Wilson, il ne descend donc jamais sous 0 % quand les conversions sont rares. La loi normale vient de la série de Marsaglia (2004), ses quantiles de l’approximation d’Acklam avec une correction de Halley, et le khi-deux de la fonction gamma incomplète (Numerical Recipes §6.2). Si une autre calculatrice du web vous donne la moitié ou le double de cet échantillon, elle travaille en unilatéral ou avec un autre α.

Comment s’en servir

  1. Entrez les deux groupes

    Visiteurs et conversions pour chacun. Des effectifs bruts, pas des taux : ce sont les effectifs qui portent l’incertitude.

  2. Lisez l’intervalle avant la valeur p

    L’intervalle de Wilson dit où chaque taux réel se situe plausiblement. Deux intervalles qui se recouvrent largement sont deux taux que vous ne savez pas encore distinguer, quoi que dise la valeur p.

  3. Préparez le prochain test avec le panneau de taille d’échantillon

    Donnez-lui votre taux de référence et le plus petit écart qui vaille la peine d’être détecté, et il vous dit combien de visiteurs il faut par groupe. Faire tourner jusqu’à ce que cela paraisse significatif n’est pas un test.

Questions fréquentes

Que veut dire p < 0,05, au juste ?

Que s’il n’y avait réellement aucune différence, un écart au moins aussi grand apparaîtrait moins d’une fois sur vingt. Ce n’est pas la probabilité que B soit meilleur, et cela ne dit rien de combien il serait meilleur.

Puis-je m’arrêter dès que cela devient significatif ?

Non. Regarder de façon répétée et s’arrêter au premier moment significatif gonfle le taux de faux positifs bien au-delà de 5 % — avec des vérifications quotidiennes sur quinze jours, il est plus près de 20 %. Fixez d’abord la taille d’échantillon et allez jusqu’au bout.

Pourquoi la taille d’échantillon exigée est-elle si grande ?

Parce que l’effet que vous avez demandé à détecter est petit. Diviser par deux l’écart détectable multiplie à peu près par quatre l’échantillon nécessaire. Si le nombre est impossible, la conclusion honnête est que ce test ne peut pas répondre à cette question, pas que le nombre est faux.

Une autre calculatrice donne la moitié de cette taille d’échantillon

Elle fait un test unilatéral, ou emploie un autre α, ou omet la correction de continuité. Celle-ci est bilatérale à α = 0,05 avec la correction de Fleiss, Levin et Paik, et elle imprime la formule pour que vous voyiez quelle hypothèse diffère.

À alimenter depuis

Ensuite

Ces outils acceptent ce que celui-ci produit : le résultat peut y aller directement.