Conversion Rate Optimierung: Testdauer & Signifikanz bestimmen

Wie lange muss denn ein Test (A/B – Split Test oder Multivariater Test) für ein Conversion Rate Optimierungsprojekt laufen? Diese Frage haben sich schon viele von Euch gestellt, zumindest kann ich das anhand der Anzahl der Anfragen per Mail der letzten Monate an mich vermuten. Heute bin ich auch eine schöne Seite gestoßen, welche genau diese Frage beantwortet.

Schaust Du hier :-) : http://abtester.com/calculator/

screen_calculator

Alles was ihr eintragen müsst ist,…

  • die Anzahl der Besucher der Seite je Testvariante (in das Feld “Visitors Treated”)
  • die Anzahl der erfolgten Conversions (in das leere Feld neben “Conversions”)

Und dann legt der Calculator auch schon los und spuckt Euch folgende Werte aus:

  • die “Conversion Rate” je Variante (Conversions / Besucher)
  • den “Z-Score” (stellt den Abstand vom Mittelwert  aller Messwerte dar; dieser Wert ist fürs erste uninteressant für die meisten von uns)
  • der Wert “Confidence” beziffert die Wahrscheinlichkeit dass die Variante besser als die Kontrollvariante ist (sofern dieser Wert >95% ist, so spricht man davon dass das Testergebnis signifikant besser als die Kontrollvariante ist)
  • die drei Zahlen in der Spalte “Recommended Sample Size” entsprechen der minimalen Anzahl empfohlener Experiment-Besucher, je nachdem wie sicher man sich der Aussage sein möchte (die  Zahlen basieren der Reihe nach auf 25%, 15% und 5%  Konfidenzindervallen, wobei 25% der “unsicherste” Weg ist und 5% der “sicherste” Weg).

Wer nochmal nachlesen will, warum Statistik bei der Conversion Rate Optimierung so wichtig ist, dem empfehle ich diesen älteren Artikel von mir.

(via Avinash Kaushik auf Twitter)

Ähnliche Beiträge:

4 Kommentare vorhanden für “Conversion Rate Optimierung: Testdauer & Signifikanz bestimmen”

commenter

Danke für den Tipp – allerdings wird dieser Tester der Überschrift nicht gerecht. Wie ist es jetzt um die Signifikanz bestellt? Konfidenzintervall schön und gut. Die Überschrift klingt allerdings, als bekäme man einen p-Wert / anderes Ergebnis eines Signifikanztests ausgespuckt..

commenter

Hallo Hans. Leider verstehe ich Deine Frage nicht ganz. Was meinst Du genau?

commenter

Hallo Moritz, ich kenne aus wissenschaftl. Studien die Signifikanz-Beweise z.B. in der Form: Ergebnis (mean=0.54%, p<0.001). Wie komme ich nun mit dem Tool zu der Aussage, dass mein Test signifikant ist ?

commenter

Hallo Hans, relevant sind für Dich in obigen Beispiel die Spalte “Confidence” und “Recommended Sample Size”. Auf Basis der eingegebenen Daten des Tests wird dann berechnet wie “sicher” Deine Ergebnisse sind. In obigem Beispiel ist es also so, dass die Variante 3 zu 98,13%iger Wahrscheinlichkeit besser als die Kontrollvariante ist. Insgesamt sind hierfür 1.226 Nutzer notwendig um diese Aussage weiter zu verfestigen.

Man spricht hier von signifikanten Ergebnissen, wenn der Wert bei Confidence größer als 95% ist. In 100 Test-Fällen tritt also in 95 Fällen der gemessene (Mittel-)Wert ein, die Irrtumswahrscheinlichkeit von 5 Test-Fällen geht man also ein.

Hoffe Dir geholfen zu haben. Mit Sicherheit wird es aber so sein, dass die Wissenschaft die ganze Sache noch mit ganz anderen Augen sieht ;-)

Kommentar abgeben:

Name (erforderlich):
Mail (wird nicht veröffentlicht) (erforderlich):
Website:
Dein Kommentar (erforderlich):
XHTML: Du kannst diese Tags verwenden: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>