A/B-Testing
A/B-Testing im Detail
Ausgangspunkt ist eine konkrete Frage: Hilft eine verständlichere Erklärung dabei, ein Angebot richtig auszuwählen? Daraus entstehen eine Hypothese, Varianten und eine passende Zielgröße. Zusätzliche Qualitätsgrenzen können verhindern, dass beispielsweise mehr Abschlüsse mit mehr Fehlbestellungen erkauft werden.
Die Varianten sollten im vorgesehenen Vergleich gleichzeitig laufen. Legt fest, wer zufällig zugewiesen wird und wie die Zuordnung stabil bleibt. Prüft vor der Interpretation, ob Verteilung und Messung funktionieren. Zufällige Zuweisung macht die Teilnehmer nicht automatisch repräsentativ für alle zukünftigen Kunden.
Stichprobe, relevante Effektgröße, Auswertungsverfahren und Regeln für das Ende des Tests gehören in die Planung. Bei einem Test mit festem Auswertungszeitpunkt einfach beim ersten günstigen Signifikanzwert zu stoppen, verzerrt die Entscheidung. Für laufende Entscheidungen braucht es ein dazu passendes statistisches Verfahren.
Bewertet Effektgröße, Unsicherheit und praktische Bedeutung gemeinsam. Statistische Signifikanz ist weder eine Erfolgsgarantie noch ein Qualitätsurteil. Werden mehrere Elemente als Paket verändert, schätzt der Test die Wirkung dieses Pakets; er isoliert nicht automatisch den Beitrag jeder einzelnen Änderung.
Beispiele
Hypothetisches Anwendungsbeispiel
Eine Website testet zwei Erklärungen zur Tarifauswahl mit zufälliger Zuordnung auf Kontoebene. Neben qualifizierten Abschlüssen beobachtet das Team Fehlbestellungen. Wenn die neue Fassung mehr Abschlüsse, aber auch mehr falsche Tarifwahlen zeigt, entscheidet es anhand vorher vereinbarter Qualitätsgrenzen über die nächste Überarbeitung.
Wichtige Punkte
- Hypothese, Zufallszuweisung und Auswertung vorab festlegen.
- Effektgröße und Unsicherheit gemeinsam lesen.
- Qualitätsgrenzen und uneindeutige Ergebnisse ernst nehmen.
Anwendung im Marketing-Alltag
Formuliert eine überprüfbare Hypothese und eine Entscheidung, die vom Ergebnis abhängt. Prüft die technische Zuweisung und Datenqualität, dokumentiert Auswertung und Grenzen und haltet auch negative oder uneindeutige Ergebnisse fest.
Sinnvolle Messgrößen
Geschätzter Effekt
Zeigt die Veränderung der vorab festgelegten Zielgröße mit Unsicherheit.
Qualitätsgrenzen
Prüft beispielsweise Fehler, Beschwerden oder Ergebnisqualität.
Versuchsgültigkeit
Kontrolliert Zuweisung, Messung und Abweichungen vom geplanten Vorgehen.
Häufige Fehler
- Beim ersten günstigen Zwischenstand einen Gewinner verkünden.
- Nachträglich ausgewählte Teilgruppen als vorab bestätigte Ergebnisse darstellen.
- Ein Messproblem oder eine verschobene Bezugsgröße als Nutzereffekt lesen.
Quellen und Einordnung
- Microsoft Research: Pre-experiment stage
Versuchsplanung, Zufallszuweisung und Qualitätskontrollen.
- Microsoft Research: Post-experiment stage
Prüfung von Messdaten, Zielkonflikten und Aussagegrenzen.
- Fabijan et al.: Trustworthy analysis of online controlled experiments
Forschungsbeitrag zur Planung und Auswertung, einschließlich vorzeitiger Testabbrüche.
Häufige Fragen zu A/B-Testing
Das hängt unter anderem von der erwarteten Datenmenge, relevanten Effektgröße und dem Auswertungsverfahren ab. Plant Laufzeit und Stoppregeln passend zur Frage; eine universelle Mindestzahl von Tagen genügt nicht.
Nein. Ein Test kann ein Änderungspaket vergleichen. Dann gilt die Schätzung für das Paket. Wer einzelne Beiträge unterscheiden möchte, braucht ein dafür geeignetes Design.
Nein. Das Ergebnis kann zu unsicher sein, um einen relevanten Unterschied zu erkennen. Betrachtet den geschätzten Effekt und seine Unsicherheit, bevor ihr Gleichwertigkeit behauptet.
Weiterführende Links
Begriffsempfehlungen werden geladen…
Alle BegriffeArtikel zu A/B-Testing

Predictive Analytics im Marketing: Datengetriebene Vorhersagen für bessere Entscheidungen
Wie Machine Learning und Predictive Analytics Marketing-Entscheidungen revolutionieren – von Churn Prediction über CLV-Modelle bis hin zu Demand Forecasting.

Behavioral Data Fusion: Wie die Verschmelzung von Verhaltensdaten das Marketing revolutioniert
Behavioral Data Fusion verbindet Datenströme aus Web-Analytics, CRM, Social Media und IoT zu einem ganzheitlichen Kundenbild. Erfahre, warum isolierte Datensilos der größte blinde Fleck im Marketing sind.

Dark Social: Die unsichtbaren 80 % deiner Content-Reichweite messen und nutzen
Der Großteil deines Contents wird über private Kanäle geteilt – aber unsichtbar für Analytics. So nutzt du Dark Social strategisch.