Beslissingen nemen over it-systemen, directie adviseren en ervoor zorgen dat de kennis van je collega’s op peil blijft in de wereld van snelle digitale ontwikkelingen. Het zijn zomaar een paar werkzaamheden uit de dagelijkse praktijk van de it-manager die diverser is dan ooit.
Waar dertig jaar geleden technologie allesbehalve in de schijnwerpers stond, is de impact daarvan inmiddels dagelijks nieuws. En daar komen elke dag weer nieuwe dimensies bij. Zo heeft marktanalist Gartner ‘digitale ethiek’ bestempeld tot de strategische trend van dit jaar. De it-manager kan er niet meer omheen: zijn of haar werk heeft een belangrijke ethische dimensie die alleen maar lijkt toe te nemen. Moeilijk? Niet per definitie. Gebruik de vroedvrouw als inspiratiebron en leer vragen stellen zoals Socrates.
Filosofie
De Grieks filosoof Socrates vergeleek zijn filosofische methode vaak met het werk van zijn moeder. Zij was vroedvrouw. Hij zag zichzelf als een vroedvrouw van kennis die anderen hielp om ware ideeën, stellingen en meningen te baren. We leren van Socrates dat scherpe vragen al snel laten zien waar ‘ware kennis’ ophoudt en aannames, idealen, meningen en geloof beginnen. Volgens Socrates lag hier ‘het kwaad’. Mensen doen veelal verkeerde dingen omdat ze hun acties baseren op geen of verkeerde kennis; uit onwetendheid dus. ‘Het goede’ komt dus voort uit het achterhalen van ware kennis.
Digitale ethiek
Wat hebben wij daar anno 2019 aan? We leven in een tijd waarin digitale ethiek steeds belangrijker wordt. Bijvoorbeeld bij de inzet van slimme algoritmes die in een zelfrijdende auto bepalen of bij een kritische situatie de voetganger of bestuurder gespaard moet worden. Of de intelligente assistente die gaat vertellen hoe ik gezonder moet leven, welke passie, partner- of carrièrekeuze ik moet maken. Bij de ontwikkeling van nieuwe technologie krijgt de it-professional dus steeds meer te maken met ethische vraagstukken. Tegelijkertijd staan genoemde voorbeelden doorgaans nog redelijk ver van zijn of haar bed.
Hoe breng je deze ethische uitdagingen dan naar de dagelijkse praktijk? Nu komt de rol van vroedvrouw goed van pas. Via het stellen van kritische vragen komen aannames, impliciete voorkeuren en de mening van it-managers, andere medewerkers en het bedrijf al snel boven tafel. Zo onderscheiden we drie perspectieven waarover vragen gesteld moeten worden.
1. Een duwtje in de goede (?) richting
Het felrode icoontje rechtsboven de app die onbewust je aandacht vraagt, het verdwijnen van een natuurlijk rustpunt door eindeloze newsfeeds, of het automatisch afspelen van het volgende filmpje. Of wat te denken van een optie standaard voorselecteren bij het vragen naar informatie. Het zijn allemaal voorbeelden van zogeheten nudging, neuromarketing en persuasive technologies die grote impact hebben op onze psychische gesteldheid en de keuzes die we in ons leven maken. Je zou het ook het ‘hacken van ons menselijke denken’ kunnen noemen. Het is dat duwtje in de ‘goede richting’ of dat verleidende of zelfs verslavende mechanisme in de software. Wie bepaalt welke bewuste en onbewuste duwtjes ingebouwd worden in uw applicaties en systemen?
2. Vooroordelen in kunstmatige intelligentie
De vruchten van kunstmatige intelligentie (KI) worden inmiddels volop geplukt. Deze intelligente systemen moeten ook onderworpen worden aan de vroedvrouwmethode. We willen tenslotte praktijken voorkomen als het experimentele recruitmentsysteem van Amazon dat mannen prefereerde boven vrouwen. Dit geldt ook voor ‘predictive policing’ situaties, waarbij data niet kritisch bevraagd of opgeschoond wordt. Daardoor komen discriminerende aannames uit de dagelijkse praktijk in het voorspellende systeem terecht.
Datascientist Karen Hao onderscheidt drie belangrijke fases waarin vooroordelen in KI-systemen kunnen sluipen. Allereerst bij het framen van het probleem. Wat is bijvoorbeeld het doel van het slimme kredietverleningssysteem? Is dat maximale winst maken of zoveel mogelijk mensen duurzaam krediet verstrekken? De tweede fase is het verzamelen van gegevens die mogelijk niet representatief zijn of vooroordelen reflecteren. In de laatste fase is bepalend welke data-attributen meetellen en welke wegingswaarde wordt toegedicht aan deze gegevens. Kortom, hoe wordt de data toegepast?
Hoezeer we ook een klinische en objectieve aanpak zoeken bij data science en deep learning, de menselijke subjectiviteit blijft een grote rol spelen. Correlatieve inzichten worden al snel onterecht als causale verbanden geïnterpreteerd. De it-manager moet ervoor zorgen, dat de subjectieve en ethisch geladen keuzes expliciet en bewust gemaakt worden.
3. Dynamische ethiek
Vragen die we nu stellen, zijn heel anders dan de vragen van twee decennia geleden. Zo verandert het begrip privacy met de dag. We praten nu over eigenaarschap van data. En generatie Z leert ons ook hoe dynamisch ethiek is. Waar we twintig jaar geleden zonder na te denken naar het geslacht van de persoon vroegen, willen de jongeren geboren na 1995-2000 niet zo graag meer in een hokje geduwd worden. Inmiddels is de gendervraag een ethisch beladen thema. Dit bevestigt dat ‘goed’ en ‘kwaad’, en het veel interessantere grijze gebied, aan flinke verandering onderhevig zijn. De vroedvrouw moet dus in staat zijn voortdurend nieuwe kennis en inzichten boven tafel te krijgen.
Blijven bevragen
Ethiek voor de it-manager dus. De één noemt het een goede marketingstrategie. De ander vindt het triest dat ethisch handelen pas ter sprake komt na de dertigste verjaardag van het internet. Weer een ander is hoopvol gestemd omdat we aan het begin staan van een tijdperk vol humane technologie. Als we het tenminste goed gaan doen. In april kondigde de Europese Unie een eerste aanzet aan voor ethische richtlijnen. Het staat inmiddels ook op de agenda van Facebook. Het bedrijf onthulde tijdens zijn developers-conferentie dat Instagram experimenteert om het aantal likes van postings te verbergen om sociale druk weg te nemen. En op die manier bij te dragen aan het digitale welzijn van gebruikers.
Er is duidelijk volop beweging rondom digitale ethiek. Dat zal ook moeten gebeuren in het domein van de it-manager. Socrates en zijn vroedvrouwmethode zijn daarbij een goed hulpmiddel. Wat wordt uw volgende vraag?
Thijs Pepping is trendanalist bij het Verkenningsinstituut Nieuwe Technologie (VINT) van Sogeti
