Davies Meyer – Startseite
    Analytics2 Min. Lesezeit

    Holdout Testing

    Holdout Testing hält eine definierte Gruppe von einer bestimmten Maßnahme ausgenommen. Der Vergleich mit einer behandelten Gruppe hilft, die zusätzliche Wirkung dieser Maßnahme zu schätzen. Andere Aktivitäten können in beiden Gruppen unverändert weiterlaufen.

    Holdout Testing im Detail

    Ein Newsletter erzielt viele Bestellungen. Wie viele davon wären auch ohne den Versand entstanden? Ein Holdout schafft dafür eine geplante Vergleichsbedingung.

    **Die Gruppe wird vorab festgelegt.** Wenn möglich, erfolgt die Zuteilung zufällig. Vergleiche nicht nachträglich Leser mit Nichtlesern: Beide Gruppen können sich schon vorher im Kaufinteresse unterscheiden. Die Auswertung sollte die geplante Zuteilung und tatsächliche Umsetzung berücksichtigen.

    **Größe und Dauer folgen der Aussagekraft.** Eine pauschale Holdout-Quote von wenigen Prozent ist keine verlässliche Regel. Grundrate, erwarteter Effekt, Streuung, Kaufzyklus und vertretbare Opportunitätskosten bestimmen die Planung. Halte den betrachteten Zeitraum und relevante Qualitätskennzahlen vorab fest.

    **Kontamination prüfen.** Eine ausgenommene Gruppe kann dieselbe Botschaft über andere Kanäle erhalten. Dokumentiere Überschneidungen und Änderungen. Der Befund beschreibt den getesteten Unterschied im bestehenden Marketingmix, nicht automatisch die Wirkung aller Werbung.

    Beispiele

    Hypothetisches Anwendungsbeispiel

    Ein Shop teilt geeignete Kunden zufällig zu. Eine Gruppe erhält den geplanten Newsletter, die andere diesen Versand nicht. Gemessen werden Bestellungen und Retouren in derselben Frist. Andere reguläre Kommunikation bleibt in beiden Gruppen vergleichbar.

    Wichtige Punkte

    • Von einer bestimmten Maßnahme ausnehmen.
    • Zuteilung möglichst randomisieren.
    • Größe durch Testplanung begründen.
    • Überschneidungen und Umsetzung dokumentieren.

    Anwendung im Marketing-Alltag

    Wähle eine klar abgrenzbare Maßnahme und prüfe Ausschlusslogik, Gruppenzuteilung und Ergebnisdaten vor dem Start.

    Sinnvolle Messgrößen

    Absoluter Lift

    Geschätzte Zusatzwirkung gegenüber dem Holdout, auf vergleichbare Gruppengrößen bezogen.

    Umsetzungstreue

    Prüfung, ob die geplanten Ein- und Ausschlüsse tatsächlich eingehalten wurden.

    Häufige Fehler

    • Leser und Nichtleser nachträglich als Testgruppen definieren.
    • Eine kleine Kontrollgruppe ohne Power-Planung festlegen.

    Quellen und Einordnung

    Häufige Fragen zu Holdout Testing

    Ein randomisierter Vergleich mit einer unbehandelten Kontrollbedingung kann als A/B-Test angelegt werden. A/B-Tests sind nicht auf zwei Anzeigenvarianten beschränkt.

    Begriffsempfehlungen werden geladen…

    Alle Begriffe