Davies Meyer – Startseite
    Analytics3 Min. Lesezeit

    A/B-Testing

    A/B-Testing vergleicht Varianten durch eine zufällige Zuweisung von Untersuchungseinheiten, etwa Nutzern oder Konten. Bei geeigneter Planung und Auswertung lässt sich der Effekt einer Veränderung unter den getesteten Bedingungen schätzen. Ein Test kann auch ohne eindeutigen Gewinner enden.

    A/B-Testing im Detail

    Ausgangspunkt ist eine konkrete Frage: Hilft eine verständlichere Erklärung dabei, ein Angebot richtig auszuwählen? Daraus entstehen eine Hypothese, Varianten und eine passende Zielgröße. Zusätzliche Qualitätsgrenzen können verhindern, dass beispielsweise mehr Abschlüsse mit mehr Fehlbestellungen erkauft werden.

    Die Varianten sollten im vorgesehenen Vergleich gleichzeitig laufen. Legt fest, wer zufällig zugewiesen wird und wie die Zuordnung stabil bleibt. Prüft vor der Interpretation, ob Verteilung und Messung funktionieren. Zufällige Zuweisung macht die Teilnehmer nicht automatisch repräsentativ für alle zukünftigen Kunden.

    Stichprobe, relevante Effektgröße, Auswertungsverfahren und Regeln für das Ende des Tests gehören in die Planung. Bei einem Test mit festem Auswertungszeitpunkt einfach beim ersten günstigen Signifikanzwert zu stoppen, verzerrt die Entscheidung. Für laufende Entscheidungen braucht es ein dazu passendes statistisches Verfahren.

    Bewertet Effektgröße, Unsicherheit und praktische Bedeutung gemeinsam. Statistische Signifikanz ist weder eine Erfolgsgarantie noch ein Qualitätsurteil. Werden mehrere Elemente als Paket verändert, schätzt der Test die Wirkung dieses Pakets; er isoliert nicht automatisch den Beitrag jeder einzelnen Änderung.

    Beispiele

    Hypothetisches Anwendungsbeispiel

    Eine Website testet zwei Erklärungen zur Tarifauswahl mit zufälliger Zuordnung auf Kontoebene. Neben qualifizierten Abschlüssen beobachtet das Team Fehlbestellungen. Wenn die neue Fassung mehr Abschlüsse, aber auch mehr falsche Tarifwahlen zeigt, entscheidet es anhand vorher vereinbarter Qualitätsgrenzen über die nächste Überarbeitung.

    Wichtige Punkte

    • Hypothese, Zufallszuweisung und Auswertung vorab festlegen.
    • Effektgröße und Unsicherheit gemeinsam lesen.
    • Qualitätsgrenzen und uneindeutige Ergebnisse ernst nehmen.

    Anwendung im Marketing-Alltag

    Formuliert eine überprüfbare Hypothese und eine Entscheidung, die vom Ergebnis abhängt. Prüft die technische Zuweisung und Datenqualität, dokumentiert Auswertung und Grenzen und haltet auch negative oder uneindeutige Ergebnisse fest.

    Sinnvolle Messgrößen

    Geschätzter Effekt

    Zeigt die Veränderung der vorab festgelegten Zielgröße mit Unsicherheit.

    Qualitätsgrenzen

    Prüft beispielsweise Fehler, Beschwerden oder Ergebnisqualität.

    Versuchsgültigkeit

    Kontrolliert Zuweisung, Messung und Abweichungen vom geplanten Vorgehen.

    Häufige Fehler

    • Beim ersten günstigen Zwischenstand einen Gewinner verkünden.
    • Nachträglich ausgewählte Teilgruppen als vorab bestätigte Ergebnisse darstellen.
    • Ein Messproblem oder eine verschobene Bezugsgröße als Nutzereffekt lesen.

    Quellen und Einordnung

    Häufige Fragen zu A/B-Testing

    Das hängt unter anderem von der erwarteten Datenmenge, relevanten Effektgröße und dem Auswertungsverfahren ab. Plant Laufzeit und Stoppregeln passend zur Frage; eine universelle Mindestzahl von Tagen genügt nicht.

    Begriffsempfehlungen werden geladen…

    Alle Begriffe