De krankzinnige mogelijkheden van kunstmatige intelligentie geeft de it-manager straks alle ruimte om ver buiten zijn boekje te gaan. In spreekwoordelijke zin gaat hij dan een lijn over die beter niet overschreden kan worden.
Praktisch gezien kan de it-manager dingen doen dat tot dan toe niet mogelijk waren. Met ‘Artificial Intelligence’ wordt een geweldige toverdoos opengetrokken die zijn weerga niet kent. Mogelijkheden zijn legio, maar de grote vraag is of het in alle gevallen wel acceptabel is deze toe te passen. Moet de it-manager bij twijfel ingrijpen? En dus waar nodig de business disablen? Twee pagina’s vol AI-principes – opgesteld tijdens een conferentie over Kunstmatige Intelligentie in Asilomar – gaan de it-manager ongetwijfeld helpen bij deze dilemma’s.
KI in de directie
Kunstmatige intelligentie staat hoog op de agenda de komende decennia. En als ‘business enabler’ doet de it-manager wat hem opgedragen wordt. Hij draait wat zij vragen. Gedreven door opportunisme zet de organisatie voortdurend een tandje bij. Zo ook bij de grootste hedgefund van de wereld, het Amerikaanse Bridgewater Associates. CEO Ray Dalio heeft besloten dat de directie een AI-systeem nodig heeft. Het algoritme van dit systeem moet binnen vijf jaar 75 procent van alle managementbeslissingen kunnen nemen, inclusief werving en ontslag van medewerkers. Ongetwijfeld een logische stap voor Bridgewater Associates. Sinds jaar en dag nemen computers immers al de meeste investeringsbeslissingen. Dat is ‘core business’ van deze hedgefunder. Het is namelijk aantoonbaar managers zich namelijk dagelijks door beslissingen heen blunderen. Wie daar nog aan twijfelt, leest het magnus opus van Nobelprijswinnaar Daniel Kahneman ‘Thinking, Fast and Slow’. De vele cases die hij in zijn boek beschrijft, tonen overtuigend aan dat mensen symptomatisch foute beslissingen nemen. Ongeacht of je dokter, advocaat, manager of leraar bent. Iedereen die beroepsmatig aanspraak maakt op zijn of haar hersencapaciteit doet er verstandig aan een cognitief systeem aan te schaffen. De vraag is natuurlijk wanneer de computer het overneemt van de arts. Of in het geval van Bridgewater Associates, als het algoritme de medewerker ontslaat, wat is dan nog de verantwoordelijkheid van de directie?
Manipulatiemachines
Steeds vaker kijkt een algoritme mee over de schouders van mensen. Zo bij taxibedrijf Uber waar algoritmes de prestaties van de chauffeurs tot op de seconde volgen. Op basis van die feiten ‘nudgen’ ze chauffeurs iets meer gas te geven. Een digitaal seintje schijnt genoeg te zijn om taxi’s een extra rondje te laten rijden. Voor Uber extra winst. Het taxibedrijf krijgt nu het verwijt dat ze zonder medeweten van de bestuurders dergelijke ‘behavorial economics’ trucs toepassen. Als dergelijke toepassingen het voorland worden van onze kunstmatige intelligentie, stevenen we af op een flinke maatschappelijke clash. Ten langen leste zegeviert het gezonde verstand. Besluiten worden teruggedraaid en nieuwe wetgeving verbiedt ongetwijfeld een aantal geavanceerde maar evenzeer twijfelachtige digitale diensten. En wie weet kunnen we dan ook de stekker trekken uit manipulatiemachines.
Richtlijnen
De it-manager is verantwoordelijk voor de implementatie van een systeem als bij Bridgewater Associates. De businesscase hiervoor lijkt prima op orde en toch is het zaak dat de it-manager zich niet klakkeloos verschuilt achter zijn rol van business enabler. ‘Ik wist het niet’, gaat niet langer op. Gebeurtenissen voltrekken zich weliswaar volledig in het digitale domein, maar het blijft ook de taak van de it-manager om daar waarde te creëren en niet te vernietigen. Een verstandige it-manager ontkomt er dus niet aan om bij tijd en wijle aan business disabling te doen. Op de rem trappen dus. Tegen de marketingjongens en -meisjes zeggen dat zo’n Uber-achtige truc echt niet kan. Richtlijnen nodig? Met behulp van de ‘Asilomar AI principes’ zijn deze zonder al te grote problemen op te stellen. In de lange lijst van ondertekenaars van deze principes staan vooraanstaande techneuten en KI-Professoren. Experts kortom die het it-vak goed verstaan.
Wie zichzelf wil bijspijkeren op het vlak van KI, kan zijn voordeel doen met het boek van Kahneman. Hoe tegenstrijdig als dit mag klinken, het geeft ook veel vertrouwen in de digitale zaak.
Mensen hebben nu eenmaal hulpjes nodig omdat ze ‘dom’ zijn. Computers zullen nooit zo intelligent worden dat ze door hebben hoe dom mensen precies zijn. Daar zijn dan weer mensen voor nodig. Om organisaties voor domheid te behoeden, is het van belang de juiste set ethiek toe te passen op IT. Dat is de enige duurzame weg voor implementatie van een AI-systeem.
Menno van Doorn is directeur van Verkenningsinstituut Nieuwe Technologie (VINT) van Sogeti
