We kennen allemaal ongetwijfeld de volgende situatie: jouw navigatiesysteem stuurt je een kant op die je niet helemaal vertrouwt. Dus je kiest voor je intuïtie of eigen kennis en negeert de algoritmen in jouw gps. Dit is een van de vele situaties waarin onze intuïtie concurreert met moderne technologie. Welke van de twee overwint? Of kunnen ze beide naast elkaar bestaan? En zo ja, hoe dan?
Wat deze tweestrijd tussen intuïtie en AI zo frustrerend maakt, is het gebrek aan integratie tussen wat iemand denkt te weten en de zelflerende systemen. Het ontbreekt zogezegd aan een gulden middenweg waarbij AI en intuïtie gezamenlijk tot de ideale oplossing komen. Veel ICT-leiders hebben op dagelijkse basis te maken met soortgelijke dilemma’s. Uit onderzoek van Gartner (Gartner Survey: Gartner 2020 reengineering the Decision) blijkt dat 65 procent van de ondervraagde ICT-leiders zegt dat de beslissingen waarmee ze nu worden geconfronteerd complexer zijn dan twee jaar geleden. Dit komt onder meer vanwege de noodzaak binnen veel organisaties om snel te evolueren. Er moet razendsnel, met de snelheid van relevantie, worden besloten omtrent bezuinigingen, extra bescherming en investeringen. Zo heeft de coronapandemie besparingen, investeringen en andere plannen flink overhoop gegooid.
Om onze weg te vinden in de overvloed aan complexe beslissingen is het zaak dat we de vele technologische hulpmiddelen beter integreren in ons kritische denkproces. Anders luisteren ICT-leiders, gedwongen door de noodzaak tot snelheid, alleen nog maar naar hun ‘onderbuik. Deze transformatie naar het beste van twee werelden bestaat uit drie elementen: 1) herontwerp van het besluitvormingsmodel, zodat onze ‘augmented’ prestaties beter worden ondersteund, 2) het vaststellen van de AI-balans en 3) het nemen van beslissingen met de snelheid van relevantie.
Besluitmodel
Besluiten komen tot stand door een combinatie van vijf componenten. 1) We moeten ons bewust zijn van de alternatieven voor iedere beslissing. 2) Onzekerheid over de uitkomst van de beslissing. Deze onzekerheid moet meetbaar zijn. 3) We moeten de gevolgen van onze beslissing begrijpen. 4) Tevens moeten we ons realiseren hoe wij onze persoonlijke voorkeuren en input van anderen meewegen in de uiteindelijke beslissing. 5) De waarden en ethiek van onze organisatie moeten we integreren in de beslissing. Om dit beslismodel te versterken moeten we beter begrijpen hoe we bepaalde componenten veel analytischer kunnen aanvliegen. Misschien kunnen we dat inzetten om alternatieven te ontwikkelen, of we kunnen het meten van die onzekerheid algoritmischer benaderen, zonder uiteraard onze menselijke alertheid te verliezen. Terwijl onze intuïtie aan de andere kant van het spectrum – onze voorkeuren, de input van anderen en de ethiek – misschien wat meer op de voorgrond mag treden, zonder direct de hulp van algoritmen terzijde te schuiven. Hoe dan ook, het vinden van de balans blijft een uitdaging, mede vanwege de continue input van data – digitaal en analoog.
Het validatiedilemma
Iedere ICT-leider moet voor zichzelf vaststellen: op welk punt hanteer ik mijn intuïtie of een deskundig oordeel en wanneer vertrouw ik op de algoritmen? Om überhaupt tot dat niveau te komen, moeten we eerst de algoritmen uit elkaar halen om te begrijpen wat ze doen en wat ze betekenen. Iemands AI-evenwicht is niets meer of minder dan de juiste mix van menselijke input gecombineerd met intelligentie automatisering. Dit wordt bepaald door verschillende vormen van input en de validatie daarvan. Zoals gezegd is er meestal weinig tijd en mag het valideren van alle input niet teveel geld kosten. Met dit validatiedilemma hebben alle besluitvormers te maken. Met data analytics kunnen we data valideren. Tegelijkertijd hebben we veel ervaring. We zijn experts omdat we al eerder complexe beslissingen hebben genomen onder hoge tijdsdruk. Om niet te verdwalen in de veelheid van elementen kan het model in de grafiek helpen.
Het AI-evenwicht
Dit is een evenwichtsoefening voor alle IC-leiders. Nieuwe input kunnen we het beste valideren door onzekerheden tot een minimum te beperken, door risico’s toe te wijzen en door de gevolgen in kaart te brengen. Als we nieuwe informatie toevoegen, moeten we kunnen vertrouwen op de ‘black box’ van het algoritme. Ook moeten we op onze bestaande kennis vertrouwen, zonder daarbij arrogant te worden. Wanneer we alle input metrisch bekijken, kunnen we deze in het model plaatsen ter validatie. Op de plaats waar de mogelijkheden om nieuwe input – afkomstig van algoritmes of anderszins – te valideren te duur wordt of teveel tijd vergt, daar bevindt zich het AI-evenwicht.
Gezag of toezicht
Dit model werkt alleen als het inzetbaar is met de snelheid van relevantie. Je kunt de interactie tussen sociale en technische elementen in het besluitvormingsproces inrichten als toezichthouder of als gezaghebbende. De gezaghebber plaatst de mens tussen de algoritmes en de beslissing. Hij voedt informatie aan een algoritme en evalueert of manipuleert de feedback net zo vaak tot de gewenste uitkomst tevoorschijn komt. Hiermee vertraagt de actiesnelheid dramatisch. De toezichthouder daarentegen plaatst de mens buiten het algoritme en de beslissing. Hij kalibreert het algoritme alleen indien dat nodig is. Hij bemoeit zich nauwelijks met de workflow binnen het proces, wat hem beter in staat stelt om te bewegen met de snelheid van relevantie.
De noodzaak tot snelheid motiveert steeds meer organisaties om vaker de manier van de toezichthouder te hanteren, of een combinatie van beide. Het loont zeker de moeite om de combinatie intuïtie en algoritme kritisch tegen het licht te houden.
Dit artikel is geschreven op basis van de keynote van Carlton Sapp van Gartner: ‘Algorithms vs. Intuition: Find Your AI Equilibrium to Boost Augmented Performance’
Lees ook:
- Digitale draken: er is geen ontkomen aan
- Hogeschool van Amsterdam brengt AI en praktijk samen
