Hoe maak je als bedrijf de keuze voor de aanschaf van een A/B-test tool? En wat zijn de onderlinge verschillen? Hieronder een eerste aanzet om je op weg te helpen.
Het landschap met aanbieders van testing tools is de afgelopen jaren misschien niet verder uitgedijd, maar dat is zeker wel het geval als je kijkt naar de mogelijkheden die deze tools bieden. De zoektocht naar een geschikte tool zou je daarom al een experiment op zich kunnen noemen.
Voor deze zoektocht kun je een ‘lean’ aanpak aanhouden. Gewoon wat tools uitproberen en zelf ervaren wat het beste bij jou en je organisatie past. Of je laat je goed en uitgebreid adviseren zodat je er niet alleen achter komt wat de praktijkervaringen van anderen zijn, maar ook welke opties er nog meer zijn.
Onderzoek naar A/B-test tools
Forrester bracht recent een nieuw rapport uit waarin zij verschillende aanbieders van tools met elkaar vergeleken. Hoe deze tools in de markt zijn gepositioneerd kan nog wel eens van elkaar verschillen. Er zijn aanbieders die hun product of dienst nog steeds een A/B-test tool noemen, maar inmiddels heeft het grootste deel van markt zich flink doorontwikkeld en zijn veel tools steeds completere platforms voor optimalisatie geworden.
Het zijn platforms die naast de meest bekende A/B-testmogelijkheden nu ook uitgebreide personalisatiemogelijkheden hebben of feature flags en rollouts aanbieden. Een welkome aanvulling wat mij betreft! Zeker voor organisaties die al wat verder in hun test maturity zijn, gaat optimaliseren al lang verder dan alleen het punt van de conversie. Mede daarom zie je al enige tijd naast CRO, ook de term CXO opduiken. Conversie optimalisatie als vakgebied wordt daarmee weer wat breder getrokken. Bij Conversion Experience Optimization (CXO) ligt de nadruk iets meer op het optimaliseren van de algehele klantervaring. De voorliefde (XO!) voor conversie & optimalisatie lijkt nu ook definitief te zijn doorgegeven aan andere disciplines zoals UX en marketing.
Verschillende features
Optimaliseren van de algehele klantervaring klinkt misschien als (n)iets nieuws. Aanbieders van tools en platformen spelen altijd handig in op opkomende trends en ontwikkelingen. Zij willen natuurlijk dat je met een all-in-one oplossing gaat werken en optimaliseert voor die hele customer journey. Zij bieden jou die completere oplossing om nog sneller en efficiënter te kunnen werken… zeggen ze. Geen losse tooltjes maar alle digitale touchpoints vanuit één omgeving bedienen. Denk aan een soort van toolkit met allerlei handige gereedschappen. Klinkt uiteindelijk best wel handig toch? Nog grotere stappen zetten. Of snel heel veel kleine stapjes…
Met name sneller omdat je in staat bent om bijvoorbeeld nieuwe product features gecontroleerd voor een deel van je klanten te lanceren en om de grootte van deze groep geleidelijk op te voeren (dit wordt ook wel ‘ramping up’ genoemd). Tegelijkertijd kunnen nieuwe features op afstand aan- en uitgezet worden. Dit gebeurt dan zonder tussenkomst van IT of developers en dus zonder deploy van nieuwe code. Dit levert een enorme tijdswinst op en laat dit nou precies zijn waar deze optimalisatie platformen in de toekomst hard aan zullen blijven werken: het verder automatiseren van het experimenteer- en optimalisatieproces. Hoe makkelijker het voor ons wordt, hoe beter. Bottom line gaat het maar om één ding: “Fail fast, learn faster!”.
Personalisatie is ook iets wat de meeste platformen tegenwoordig in meer of mindere mate aanbieden. Het is nu makkelijker geworden om een A/B-test te personaliseren, maar ook om een personalisatie te valideren als een A/B-test. Dit is naar mijn idee een heel goede ontwikkeling omdat personaliseren nog vaak als de ‘holy grail’ wordt gepresenteerd terwijl hypotheses valideren via een gecontroleerd online experiment nog steeds het meest betrouwbare bewijs levert. De combinatie kan het proces alleen maar verbeteren en ervoor zorgen dat je met nog meer zekerheid de juiste keuzes maakt en deze live zet.
Experience Optimization Platforms (EOP)
Forrester heeft het inmiddels ook over Experience Optimization Platforms, afgekort EOP’s genoemd. Zij concluderen in hun rapport dat van de tien aanbieders die zij onderzochten, de support voor meer digital touchpoints én gebruik van AI ervoor zal zorgen dat deze het verschil blijven maken. Dit betekent bijvoorbeeld dat rule-based optimalisatie op termijn minder effectief zal worden. Verder zorgt het aanbieden van de juiste innovatieve optimalisatietechnieken, support voor omnichannel campagnes en profile data management ervoor dat deze aanbieders niet alleen het verschil zullen maken, maar daarin in de toekomst ook succesvol gaan zijn. Maar ja, daar hangt voor de klant natuurlijk ook wel een flink prijskaartje aan. Volgens Forrester zijn Adobe en Salesforce de leiders in deze EOP markt, gevolgd door bedrijven als Oracle, SiteSpect en relatieve nieuwkomers zoals A/B Tasty en Optimizely.
A/B-test tools vergelijken
Ik heb hieronder een kleine selectie gemaakt van tools waarvan ik positieve dingen hoorde of omdat wij als Online Dialogue deze vaak bij onze klanten tegenkomen. Het gaat daarbij om klanten die opereren op diverse niveau’s. Dit kunnen organisaties zijn die net beginnen met A/B-testen of organisaties die hun huidige processen en werkwijze verder willen professionaliseren. Dit zijn ook steeds vaker organisaties die de afgelopen jaren sterk zijn doorgegroeid en eraan denken weer een volgende stap te zetten. Bijvoorbeeld door het zelf ontwikkelen van een eigen (server-side) testing platform. Dit is voor veel organisaties een knap lastige keuze. Daarom wordt Online Dialogue regelmatig als sparringpartner en/of adviseur aangehaakt in deze fase.
Deze laatste optie is voor velen nog een brug te ver. De meeste tools voldoen namelijk prima aan de huidige wensen en eisen. Ze doen nog wat ze moeten doen. Hieronder een overzicht van A/B Tasty, Convert, Google Optimize, Optimizely en VWO.
A/B Tasty | Convert.com | Google Optimize | Optimizely | VWO | |
Producten | Speedsail (client-side) Flagship (server-side) | Convert Experiences | Google Optimize (gratis) Google Optimize 360 | Web Personalization Recommendation Full Stack | VWO Testing VWO Insights VWO Full Stack VWO Engage VWO Plan VWO Deploy |
Type experimenten | A/B/n Multivariate Split url Predictive Multi-armed Bandit | A/B/n Multivariate Split url Multipage | A/B/n Multivariate (16 – 36) Redirect | A/B/n Multivariate Split url Multi-armed Bandit Multipage | A/B/n Multivariate Split url Multi-armed Bandit (binnenkort) |
Aantal experimenten | Onbeperkt | Onbeperkt | Max. 5 gelijktijdig (gratis) of > 100 | Onbeperkt | Onbeperkt |
Integraties | > 25 o.a. web analytics, CRM, DMS, CMS, Tag manager, eCommerce | > 100 o.a. web analytics, CRM, DMS, CMS, eCommerce, Tag manager | 5 Google Analytics Ads BigQuery, Firebase AMP | > 35 o.a. web analytics, CRM, CMS, Tag manager | > 15 o.a. web analytics, CRM, CMS, Tag manager, eCommerce |
Handige features | Advanced audience segmentationAI widgets Targeting engine NPS, session recording, heatmaps Feature test en rollout (flag tracking) | Advanced targeting & DMP profiling Privacy notifications (compliance) Flicker/blink- free testing | Visuele editor (responsive) Google Analytics Audience targeting (alleen Optimize 360) Integratie met Hotjar | Feature test (flags) en rollout Rollouts Free (gratis, met beperkingen) en Rollouts Plus API (REST, Event data export, Webhooks) Optimizely Data and Attribution app voor Salesforce | Feature test en rollout VWO deploy Heatmaps / recording / funnels |
Single Page Application support | Ja | Ja | Ja | Ja | Ja |
Privacy | Ja | Ja, GDPR en ePrivacy Gebruikt alleen first-party cookies, geen persoonlijke data opslag Servers in Duitsland | ? | GDPR Compliance | GDPR / CCPA Compliance Servers in USA |
Personalisatie | Ja | Ja, afhankelijk van plan: tussen 5-100 | Ja, max. 10 (gratis) of > 100 gelijktijdig | Ja, Optimizely Personalization | Ja |
Server-side testen | Ja, Flagship (via API) | Ja | Ja | Ja, maar beperkt? | Ja, VWO Full Stack |
Mobile app testen | Ja | Nee | Ja, via Firebase A/B testing | Ja, Optimizely Full stack | Ja, VWO Full Stack |
Statistiek | Bayesian | Frequentist (two-tailed z-test) | Bayesian (session-based) | Sequential hypothesis testing Configure False discovery rate controls, SRM, Bayesian Engine (binnenkort) | Bayesian (visitor-based) |
Plans | Maandelijkse kosten (video) demo | Kickstart, Specialist, Leader en Enterprise plans Free trial | Google Optimize is gratis, de 360 versie is een betaalde versie. Prijzen 360 versie vanaf €80.000 per jaar. | Grow, Accelerate, Scale plans voor Full Stack en Web Demo | Growth, Pro en Enterprise plans Free trial or demo |
Investering | €€ | € | – | €€€ | € |
Kies de juiste A/B test tool voor jouw organisatie
Zoals je vast wel hebt gemerkt zijn er veel overeenkomsten tussen de genoemde tools. Dat maakt een keuze niet meteen makkelijker. Kijk daarom ook naar de organisaties achter de tools. Wat is hun mission statement? Wat vinden zij belangrijk? Hoe zien zij hun productontwikkeling en hebben ze een duidelijke roadmap voor de komende kwartalen? Maar ook: hoe is customer support geregeld en sluit dit aan bij mijn persoonlijke wensen?
Mijn advies: kies de tool die het beste past bij de doelen die je hebt en de test maturity van de organisatie en laat je niet te snel verleiden door alle extra mogelijkheden die er in potentie zijn. Het is belangrijker dat je aan het verbeteren bent, dan met welke middelen je dat doet. Iets wat mooier lijkt en groter klinkt, is niet altijd beter. Size doesn’t matter, remember? It’s how you use it!