49
#optex2015 Management & Priorisierung Der Testing Alltag – von der Idee bis zur Auswertung Jan Mikulica UX Research & User Insights Manager @HolidayCheck [email protected]

Management & Priorisierung von Online-Tests bei Holidaycheck

Embed Size (px)

Citation preview

Page 1: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Management & Priorisierung Der Testing Alltag – von der Idee bis zur Auswertung

Jan Mikulica UX Research & User Insights Manager

@HolidayCheck

[email protected]

Page 2: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Hi. Ich bin Jan,

UX Research &

User Insights Manager @

Page 3: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

2003 gegründet

Seit 2006 Teil der Tomorrow Focus AG

Teams über EU verteilt

Breite Produktpalette

Über 180 M Pageviews / 20 M visits pro Monat

Page 4: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Unser Test-Bordpersonal

Page 5: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

AB@HC

Research Manager Web Analyst Web Analyst Data Scientist

Page 6: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

AB@HC

Research Manager Web Analyst Web Analyst Data Scientist

Page 7: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

AB@HC

Research Manager Web Analyst Web Analyst Data Scientist

VS

Center of Excellence

Page 8: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Viele Teams = Viele Skilllevel

Page 9: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Zahlen & Menschen

Schweizer Parlamentswahlen

Page 10: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Zahlen & Menschen

Page 11: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Zahlen & Menschen

Brian Haemorrhage Jane Superbrain

Page 12: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Zahlen & Menschen

Brian Haemorrhage Jane Superbrain

Page 13: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Infrastruktur & Consulting

Page 14: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Hypothesen & Ziele

„Ich glaube, den Header zu

ndern macht meine Seite besser“

• blau anmalen wird den Revenue erhöhen? • blau anmalen wird den Klick auf „jetzt

bewerten“ erhöhen? • rot anmalen wird den Revenue erhöhen? • entfernen wird den Klick auf „jetzt bewerten“

erhöhen?

Page 15: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Evolution vs. Revolution

Page 16: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Simultanes Testen

• Experimente auf derselben Seite

• Experimente im selben Funnel / Flow

• Multivariate Experimente

Page 17: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Simultanes Testen

• Experimente auf derselben Seite

• Experimente im selben Funnel / Flow

• Multivariate Experimente

Page 18: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Statistik Basics

Page 19: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Statistik Basics

Alphafehler Kummulierung 𝑝 =α

𝑛

Page 20: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Nicht signifikant – komplett einpacken?

Testen

Auswerten

(Re)Priorisieren

Design & Dev

Page 21: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Inspiration

Page 22: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Inspirationsquellen

Page 23: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Inspirationsquellen

random dude

random Biergarten

Page 24: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Inspirationsquellen

Page 25: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Inspirationsquellen

Page 26: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Inspirationsquellen

Page 27: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Inspirationsquellen

Page 28: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Inspirationsquellen

Page 29: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

„Heute nehme ich den

klassischen multivariaten“

Page 30: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Testtemplate

Page 31: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Testtemplate

Page 32: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Testtemplate

Page 33: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Priorisierung

Page 34: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Priorisierung

Page 35: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

60 second business case

Koordination Kreativität Entwicklung Rollout

Strategie? Revenue

impact CX Value Kostensenkung PM Prio

Aufwand

Business

Value

Gewichtung der Faktoren Berechnung eines Scores

Page 36: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Es gibt für alles eine App

Page 37: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Berechnung eines Scores

Page 38: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Berechnung eines Scores

Page 39: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Überwachung von Testaktivitäten

Page 40: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Auswertung

Page 41: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

…aber man sieht eine klare Tendenz…

Nicht Signifikant?

Page 42: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

…aber man sieht eine klare Tendenz…

Nicht Signifikant?

Page 43: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Optimizely Results Page - Advanced

Page 44: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Optimizely Results Page - Advanced

Page 45: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Kommunikation

Page 46: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Archiv

Page 47: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

Rundmail

Page 48: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

• Kenne Deine Goals, Probleme und Hypothesen

• „Großes“ Testen ist erlaubt

• Arbeite an Deinem Backlog & Priorisierungsmodell

• Segmentiere Deinen Traffic

• Keine Angst vor gleichzeitigem Testen

• Nutze testfreie Zeit

• 100%ige Sicherheit gibt es nicht

Key Takeaways

Page 49: Management & Priorisierung von Online-Tests bei Holidaycheck

#optex2015

DANKESCHÖN!

[email protected]