Zum Inhalt springen

A/B-Test-Rechner

A/B Test Calculator

Führt einen Zwei-Anteile-z-Test und einen Chi-Quadrat-Test auf zwei Konversionsraten mit Wilson-Konfidenzintervallen aus und berechnet die Stichprobengröße für Zieleffekt und Power.

Zwei Konversionsraten hinein, und ein Urteil darüber, ob der Unterschied echt ist: ein Zwei-Anteile-z-Test, ein Chi-Quadrat-Test und Wilson-Konfidenzintervalle für jede Rate. Es berechnet außerdem die Stichprobengröße, die Sie brauchen, bevor Sie anfangen, und das ist die Rechnung, die die meisten vorzeitig abgebrochenen Tests gerettet hätte.

🔒 Läuft vollständig in Ihrem Browserab-teststatisticsexperimentmarketing

Was möchten Sie tun

Modus
Signifikanzniveau α

Beobachtet

A (Kontrolle)

B (Variante)

Testergebnis

Signifikant (p = 0,0074 < 0,05)

Konversionsrate A

20,00 %

95-%-Intervall 17,64 % – 22,59 % (Wilson)

Konversionsrate B

25,00 %

95-%-Intervall 22,42 % – 27,78 % (Wilson)

Differenz (B − A)

+5,00 % pp

Intervall 1,35 % – 8,65 % pp

Relativer Zuwachs

+25,0 %

z-Test für zwei Anteile (zweiseitig)

p̄ = 0,225 · SE = 0,01867 · z = 2,677 · p = 0,0074

Chi-Quadrat-Test (1 Freiheitsgrad)

χ² = 7,168 · p = 0,0074

Yates-korrigiertes χ² = 6,885 · p = 0,0087

Der z-Test rechnet mit dem gepoolten Standardfehler unter der Nullhypothese; das Konfidenzintervall der Differenz mit dem ungepoolten. Jedes Intervall einer Konversionsrate ist ein Wilson-Score-Intervall und fällt deshalb auch bei wenigen Konversionen nie unter 0 %. Die Normalverteilung stammt aus der Reihe von Marsaglia (2004), ihre Quantile aus der Acklam-Näherung mit Halley-Korrektur, und Chi-Quadrat aus der unvollständigen Gammafunktion (Numerical Recipes §6.2). Wenn ein anderer Rechner im Netz die Hälfte oder das Doppelte dieses Umfangs nennt, rechnet er einseitig oder mit einem anderen α.

So funktioniert es

  1. Geben Sie die beiden Gruppen ein

    Besucher und Konversionen für jede. Rohe Zahlen, keine Raten – die Zahlen sind es, die die Unsicherheit tragen.

  2. Lesen Sie das Intervall vor dem p-Wert

    Das Wilson-Intervall sagt, wo jede wahre Rate plausibel liegt. Zwei Intervalle, die sich stark überlappen, sind zwei Raten, die Sie noch nicht auseinanderhalten können, was auch immer der p-Wert sagt.

  3. Planen Sie den nächsten Test mit dem Stichprobengrößen-Panel

    Geben Sie ihm Ihre Ausgangsrate und die kleinste Verbesserung, die sich zu entdecken lohnt, und es sagt Ihnen, wie viele Besucher pro Gruppe Sie brauchen. Laufen zu lassen, bis es signifikant aussieht, ist kein Test.

Häufige Fragen

Was bedeutet p < 0,05 tatsächlich?

Dass, wenn es wirklich keinen Unterschied gäbe, eine Lücke dieser Größe oder größer seltener als einmal in zwanzig Fällen auftauchen würde. Es ist nicht die Wahrscheinlichkeit, dass B besser ist, und es sagt nichts darüber, um wie viel besser.

Kann ich aufhören, sobald es signifikant wird?

Nein. Wiederholt nachzusehen und beim ersten signifikanten Moment aufzuhören treibt die Falsch-positiv-Rate weit über 5 % – bei täglichem Nachsehen über zwei Wochen liegt sie näher an 20 %. Legen Sie zuerst die Stichprobengröße fest und laufen Sie bis dahin.

Warum ist meine benötigte Stichprobengröße so groß?

Weil der Effekt, den Sie entdecken wollen, klein ist. Die entdeckbare Verbesserung zu halbieren vervierfacht ungefähr die benötigte Stichprobe. Wenn die Zahl unmöglich ist, lautet die ehrliche Schlussfolgerung, dass dieser Test diese Frage nicht beantworten kann, nicht, dass die Zahl falsch ist.

Ein anderer Rechner gibt die halbe Stichprobengröße an

Er rechnet einen einseitigen Test, oder verwendet ein anderes α, oder lässt die Stetigkeitskorrektur weg. Dieser ist zweiseitig bei α = 0,05 mit der Korrektur nach Fleiss, Levin und Paik, und er gibt die Formel aus, sodass Sie sehen können, welche Annahme abweicht.

Eingabe aus

Danach

Diese Tools nehmen an, was dieses hier erzeugt, das Ergebnis kann also direkt weiter.