Vai al contenuto

Calcolatrice per test A/B

A/B Test Calculator

Esegue un test z su due proporzioni e un test chi quadrato su due tassi di conversione con intervalli di confidenza di Wilson, e calcola la dimensione campionaria per un effetto e una potenza obiettivo.

Due tassi di conversione dentro e un verdetto su quanto la differenza sia reale: uno z-test su due proporzioni, un test chi quadrato e intervalli di confidenza di Wilson per ciascun tasso. Calcola anche la dimensione campionaria necessaria prima di cominciare, che è il conto che avrebbe salvato la maggior parte dei test interrotti troppo presto.

🔒 Funziona interamente nel tuo browserab-teststatisticsexperimentmarketing

Che cosa vuoi fare

Modalità
Livello di significatività α

Osservato

A (controllo)

B (variante)

Esito del test

Significativo (p = 0,0074 < 0,05)

Tasso di conversione di A

20,00%

intervallo al 95% 17,64% – 22,59% (Wilson)

Tasso di conversione di B

25,00%

intervallo al 95% 22,42% – 27,78% (Wilson)

Differenza (B − A)

+5,00% pp

intervallo 1,35% – 8,65% pp

Aumento relativo

+25,0%

Test z per due proporzioni (bilaterale)

p̄ = 0,225 · SE = 0,01867 · z = 2,677 · p = 0,0074

Test chi quadro (1 gdl)

χ² = 7,168 · p = 0,0074

χ² con correzione di Yates = 6,885 · p = 0,0087

Il test z usa l’errore standard aggregato sotto l’ipotesi nulla; l’intervallo di confidenza della differenza usa quello non aggregato. Ogni intervallo di tasso di conversione è un intervallo di punteggio di Wilson, quindi non scende mai sotto lo 0% quando le conversioni sono poche. La distribuzione normale viene dalla serie di Marsaglia (2004), i suoi quantili dall’approssimazione di Acklam con una correzione di Halley, e il chi quadro dalla funzione gamma incompleta (Numerical Recipes §6.2). Se un’altra calcolatrice sul web ti dà metà o il doppio di questo campione, sta lavorando in unilaterale oppure con un altro α.

Come si usa

  1. Inserire i due gruppi

    Visitatori e conversioni per ciascuno. Conteggi grezzi, non tassi: sono i conteggi a portare l’incertezza.

  2. Leggere l’intervallo prima del valore p

    L’intervallo di Wilson dice dove sta plausibilmente ciascun tasso vero. Due intervalli che si sovrappongono ampiamente sono due tassi che non si riesce ancora a distinguere, qualunque cosa dica il valore p.

  3. Pianificare il test successivo con il pannello della dimensione campionaria

    Si danno il tasso di partenza e il più piccolo miglioramento che valga la pena rilevare, e il pannello dice quanti visitatori servono per gruppo. Andare avanti finché non sembra significativo non è un test.

Domande frequenti

Che cosa significa davvero p < 0.05?

Che, se una differenza davvero non ci fosse, uno scarto grande così o di più si presenterebbe meno di una volta su venti. Non è la probabilità che B sia migliore, e non dice nulla su quanto sia migliore.

Posso fermarmi appena diventa significativo?

No. Sbirciare ripetutamente e fermarsi al primo momento significativo gonfia il tasso di falsi positivi ben oltre il 5%: con controlli quotidiani nell’arco di due settimane si arriva vicini al 20%. Prima si fissa la dimensione campionaria, poi si va avanti fino a quella.

Perché la dimensione campionaria richiesta è così grande?

Perché l’effetto che si è chiesto di rilevare è piccolo. Dimezzare il miglioramento rilevabile quadruplica all’incirca il campione necessario. Se il numero è impossibile, la conclusione onesta è che questo test non può rispondere a quella domanda, non che il numero sia sbagliato.

Un’altra calcolatrice dà metà di questa dimensione campionaria

Sta facendo un test a una coda, oppure usa un α diverso, oppure omette la correzione di continuità. Questa è a due code con α = 0.05 e con la correzione di Fleiss, Levin e Paik, e stampa la formula così si vede quale ipotesi è diversa.

Può ricevere da

Dopo

Questi accettano ciò che produce questo strumento, così il risultato può passare direttamente.