DIE AUFGABE

Halten Sie Teilnahmeberechtigung und Zuteilung fest, bevor Sie Werbekontakte auswerten. Attribution verbindet Kontakte mit Ergebnissen; ein glaubwürdiges Experiment untersucht, was ohne Intervention geschehen wäre.

Die Entscheidung, die dieser Leitfaden Ihnen hilft

Was sollte ein Account-Programm messen, bevor behauptet wird, dass Werbung zu einem Ergebnis geführt hat?

Sie gehen mit: Eine experimentelle Aufzeichnung auf Kontoebene mit Zuordnung, Ausschlüssen und Ergebnisdefinitionen.

Beginnen Sie hier: Bitte geben Sie die Maßnahme an.

Laden Sie das Entscheidungsarbeitsblatt dieses Leitfadens herunter

Stellen Sie die kontrafaktische Frage

Ein Account, das eine Werbung sieht, kann bereits eher kaufen. Die Bereitstellung der Plattform kann von Aktivität, Geboten und vorhergesagten Reaktionen abhängen. Der Vergleich von exponierten Accounts mit allen nicht exponierten Accounts kann daher verschiedene Startbedingungen vergleichen.

Eine kausale Frage stellt sich, was mit vergleichbaren in Frage kommenden Accounts ohne die Intervention passieren würde. Definieren Sie die Intervention eng: eine Kampagne, eine hinzugefügte Sequenz oder ein koordiniertes Account-Plan. Notieren Sie andere Verkaufs- und Marketingarbeiten, die unter beiden Bedingungen fortgesetzt werden.

Was Ghost-Ad-Forschung dazu beiträgt

Johnson, Lewis und Nubbemeyer entwickelten Ghost Ads, um Kontrollgegenstücke von exponierten Nutzern in randomisierten Werbeexperimenten zu identifizieren. Ihr 2017 Journal of Marketing Research Papier erklärt, wie kontrafaktische Expositionsaufzeichnungen die Messung und die Wirtschaftlichkeit von Tests verbessern können.

Diese Methode basiert auf Plattform-Unterstützung. Ein gewöhnlicher CRM-Export kann keine versteckte Auktionszuteilung wiederherstellen. Unsere ABM-Anwendung ist das breitere experimentelle Prinzip: Bewahren Sie auf, wer berechtigt und zugewiesen wurde, bevor Sie Personen vergleichen, die eine Anzeige erhalten oder sich mit ihr beschäftigen.

Die ursprünglichen Methoden und Ergebnisse finden Sie in Ghost Ads: Improving the Economics of Measuring Online Ad Effectiveness.

Der praktische Workflow

Werbe-Kontrollgruppen und ABM: den Vergleich erhalten. Ablauf: Angabe der Maßnahme; Freeze Berechtigung und Zuweisung; Spillover von Überwachungskonten; Anzahl definierter Ergebnisse; Unsicherheit und Lieferung melden.
Eine Reihenfolge zur Anwendung dieses Leitfadens. Verwenden Sie die Überprüfungspunkte, um zu entscheiden, ob die Arbeit zur Fortsetzung bereit ist. Bild in voller Größe ansehen
  1. Angabe der Maßnahme
  2. Freeze Berechtigung und Zuweisung
  3. Spillover von Überwachungskonten
  4. Anzahl definierter Ergebnisse
  5. Unsicherheit und Lieferung melden

Vergleichen Sie die Ansätze

Vergleichen Sie die Ansätze
AnsatzNützlich, wennBegrenzungNächste Maßnahme
Zugeordnete GruppenAbschätzung eines ProgrammeffektsBenötigt angemessene unabhängige AccountsBehalten Sie die ursprüngliche Zuweisung
Exponierte GruppenKontrolle der LieferungExposition kann ausgewählt werdenGetrennt von der Kausalanalyse
ZuordnungBeschreibung der beobachteten TouchpointsLiefert keine kontrafaktischeKennzeichnung als Beitragsnachweis
UntergruppeneffekteUnterschiedliche Antworten können von Bedeutung seinSpärliche Daten können overfitVorgeben und Validieren der Analyse
Entscheidungshilfe: Werbe-Kontrollgruppen und ABM: den Vergleich erhalten. Zugeordnete Gruppen: Abschätzung eines Programmeffekts. NÄCHSTER SCHRITT: Behalten Sie die ursprüngliche Zuweisung Exponierte Gruppen: Kontrolle der Lieferung. NÄCHSTER SCHRITT: Getrennt von der Kausalanalyse Zuordnung: Beschreibung der beobachteten Touchpoints. NÄCHSTER SCHRITT: Kennzeichnung als Beitragsnachweis Untergruppeneffekte: Unterschiedliche Antworten können von Bedeutung sein. NÄCHSTER SCHRITT: Vorgeben und Validieren der Analyse
Passen Sie die Situation an eine nützliche nächste Aktion an. Der obige Vergleich beinhaltet die Einschränkungen jedes Ansatzes. Bild in voller Größe ansehen

Definieren Sie das Account als experimentelle Einheit

Wenn mehrere Stakeholder zu einer Einkaufsgruppe gehören, kann die unabhängige Zuweisung ihrer Kontakte dazu führen, dass dasselbe Account beide Bedingungen erhält. Betrachten Sie die Zuweisung auf Kontoebene, wenn die Intervention mehrere Kontakte koordiniert. Notieren Sie Mutter- und Tochterbeziehungen, die Spillover verursachen könnten.

Legen Sie Ausschlüsse fest, bevor Sie die Ergebnisse beobachten. Bewahren Sie Zuordnung, Lieferung und Engagement als separate Felder auf. Analysieren Sie die zugewiesenen Gruppen wie geplant, während Sie Implementierungsfehler melden. Der Ausschluss jedes nicht engagierten Kontos nach der Kampagne kann die Frage ändern und eine Auswahlverzerrung einführen.

Arbeite durch einen fiktiven Holdout

Angenommen, 200 berechtigte Accounts werden zu gleichen Teilen dem gewöhnlichen Programm oder dem gewöhnlichen Programm sowie einem neuen Werbespiel zugewiesen. Während des Beobachtungsfensters erreichen 12 Accounts in der Added-Play-Gruppe und 9 in der Baseline-Gruppe das definierte Ergebnis. Das sind illustrative Zählungen, keine Beweise für eine zuverlässige Anhebung.

Melden Sie die Gruppengrößen, die Drei-Ergebnis-Differenz und Unsicherheit. Prüfen Sie, ob Verkäuferaktivität, Opportunitätslaufzeit und Account Spillover vergleichbar geblieben sind. Beanspruchen Sie den Erfolg nicht nur, weil die Punktschätzung positiv ist. Ein kleiner Test kann Lieferprobleme aufdecken, bevor er einen kommerziellen Effekt genau abschätzen kann.

Halten Sie die Reaktion und den Behandlungseffekt unterschiedlich

Behandlungseffekt-Methoden, einschließlich der von Künzel und Kollegen untersuchten Metallverdiener, befassen sich damit, wie die Wirkung einer Intervention mit dem Kontext variieren kann. Sie erfordern nach wie vor vertretbare Identifikationsannahmen und ausreichende Daten.

Ein Propensity-Score, der eine wahrscheinliche Conversion vorhersagt, beantwortet eine andere Frage. Sehr wahrscheinlich können Käufer mit oder ohne Werbung konvertieren. Beginnen Sie mit einem gültigen experimentellen Design, bevor Sie nach Subgruppeneffekten suchen. Sparse Unternehmensergebnisse können aufwendige Untergruppenansprüche besonders instabil machen.

Die ursprünglichen Methoden und Ergebnisse finden Sie in Metalearners for estimating heterogeneous treatment effects using machine learning.

Wählen Sie ein realistisches Lernziel

Für ein Small-Account-Universum können operative Ergebnisse wie akzeptierte Übergaben früher gemessen werden als abgeschlossene Einnahmen. Geben Sie sowohl das kurzfristige Lernziel als auch das längere kommerzielle Beobachtungsfenster an. Vermeiden Sie es, das kommerzielle Ergebnis zu ersetzen, nachdem die Ergebnisse eintreffen.

Bewahren Sie das Protokoll, die Zuweisungsaufzeichnung und die Ausschlüsse mit dem Bericht auf. Wenn der Test keinen sinnvollen kommerziellen Effekt unterscheiden kann, sagen Sie dies und verwenden Sie seine operativen Ergebnisse, um die nächste Bewertung zu verbessern.

Für den nächsten Teil dieser Entscheidung lesen Sie ABM-Experimente mit wenigen unabhängigen Accounts durchführen.

Ihre Next-Action-Checkliste

  • Zugeordnete Gruppen: Bewahren Sie die ursprüngliche Zuweisung. Überprüfen Sie die Einschränkung: Benötigt angemessene unabhängige Accounts.
  • Exponierte Gruppen: Getrennt von der Kausalanalyse. Überprüfen Sie die Einschränkung: Die Exposition kann ausgewählt werden.
  • Zuordnung: Kennzeichnung als Beitragsnachweis. Überprüfen Sie die Einschränkung: liefert keine kontrafaktische.
  • Untergruppeneffekte: Definieren und validieren Sie die Analyse. Überprüfen Sie die Einschränkung: spärliche Daten können überpassen.

Verwenden Sie den Vergleich, um einen begrenzten nächsten Schritt auszuwählen. Notieren Sie die Beweise, den verantwortlichen Eigentümer und die Überprüfungsentscheidung, bevor Sie das Spiel auf zusätzliche Accounts ausdehnen.

So ordnen Sie die Quellen ein

Lesen Sie jede Referenz gegen die Behauptung, die sie unterstützt. Plattformdokumentation beschreibt Fähigkeiten; öffentliche Fälle berichten über die Erfahrung eines Verlags; Forschungsergebnisse gelten für die untersuchte Aufgabe und die Population. Der Workflow in diesem Handbuch ist ein Betriebsvorschlag, den Sie in Ihrem eigenen Kontokontext bewerten können.

Inspizieren Sie die Forschungsbibliothek und Verbinden Sie diesen Leitfaden mit Mess- und Einnahmenoperationen.

Fragen, die dieser Leitfaden beantwortet

Was sollte ein Account-Programm messen, bevor behauptet wird, dass Werbung zu einem Ergebnis geführt hat?

Halten Sie Teilnahmeberechtigung und Zuteilung fest, bevor Sie Werbekontakte auswerten. Attribution verbindet Kontakte mit Ergebnissen; ein glaubwürdiges Experiment untersucht, was ohne Intervention geschehen wäre.

Womit sollte ich beginnen?

Bitte geben Sie die Maßnahme an. Notieren Sie die Eingabenachweise und die Annahmekriterien, bevor Sie fortfahren. Verwenden Sie das Entscheidungsarbeitsblatt, um den Eigentümer, das Überprüfungsdatum und die nächste Aktion zu dokumentieren.

Die Originalforschung lesen

Der Leitfaden erklärt die oben genannten Ergebnisse. Öffnen Sie eine Publikation, um ihre Methoden, Einstellungen und Qualifikationen zu überprüfen.

Ghost Ads: Improving the Economics of Measuring Online Ad Effectiveness. Dies erfordert Plattformunterstützung; gewöhnliche CRM-Datensätze können die Ghost-Ad-Zuweisung nicht wiederherstellen.

Metalearners for estimating heterogeneous treatment effects using machine learning. Annahmen zur Ursachenermittlung und angemessene Daten sind nach wie vor erforderlich.

Verbinden Sie diesen Leitfaden mit der nächsten Entscheidung

ABM-Experimente mit wenigen unabhängigen Accounts durchführen Was kann ein kleines kontobasiertes Experiment etablieren und wie sollten Teams es entwerfen, bevor sie Ergebnisse sehen?

Account-Kohorten bei vergleichbarer Reife bewerten Wie kann ein Enterprise-AMM-Team Kontokohorten vergleichen, ohne dass Auswahl- und Folgeunterschiede das Ergebnis bestimmen?

Uplift und Propensity: Accounts finden, denen eine Maßnahme helfen kann Was ist der Unterschied zwischen der Vorhersage der Conversion und der Schätzung der Wirkung von Kontakt?

PRAKTIONIEREN

Beginnen Sie mit Ihren Kontoprioritäten.

Vergleichen Sie den Kontofokus, die Personalisierung, die Ergebnisse und die Messung.

Momentum entdecken