Data-explosie zet ethische discussies op scherp

Autootje Google Street View

We verzamelen steeds meer data. En dat is mooi, want daarmee kunnen we slimme toepassingen ontwikkelen. Met de sky als de limit. Aan de andere kant: er is ook nog zoiets als ethiek. Moeten we wel alles willen wat technisch kan en wettelijk mag? Of trekken we ergens een grens en wat zijn dan onze overwegingen daarbij?

Google Streetview legde tijdens zijn scrambletochten naar beeldmateriaal van ons stratennet tegelijk ook maar eventjes allerlei gegevens van wifi-routers vast, zoals de encryptiestatus van het netwerk, de MAC-adressen van de apparaten die aan de router hangen en zelfs wachtwoorden en e-mails. De gedachte daarbij was waarschijnlijk: ‘wie weet hebben we daar later nog plezier van en we zijn nu toch bezig’. Er was op dat moment geen wet die het vastleggen van deze gegevens nadrukkelijk verbood. Stond Google daarom in zijn recht?

Wij allemaal, de Europese Commissie voorop, vonden van niet. En wie even nadenkt, ziet ook meteen waarom. Google verzamelt met zijn camera’s AW-gegevens, dus van adres en woonplaats, maar geen naam. Zo op het eerste gezicht geen probleem, want het blijft anoniem. Totdat je deze gegevens combineert met andere datasets, zoals die van de gesnifte routers, maar ook data uit allerlei andere bronnen, zoals openbare telefoonboeken. Google heeft die zelf of kan daar makkelijk aan komen. Dan worden het NAWIP++-gegevens.
Gevolg van dit datasniffen: Google kwam hevig onder vuur te liggen en moest bakzeil halen. Al hanteerde het eerst nog diverse defensie-linies. De laatste daarvan was het meest ontluisterend: ‘Andere bedrijven doen dit ook’.

Schokkend

Dit voorbeeld is behulpzaam omdat het zo duidelijk is, maar het kan het beeld ook vertroebelen. De indruk zou kunnen ontstaan dat alleen de grote it-bedrijven met deze dilemma’s worstelen (of dat zouden moeten doen), terwijl we er allemaal mee te maken hebben.
Uit onderzoek dat TNS NIPO onlangs deed in opdracht van Yacht blijkt dat nog niet de helft (41 procent) van alle it’ers bij een bedrijf werkt waarvan de bedrijfsdoelen voldoende overeenkomst vertonen met de eigen idealen. Zes van de tien zitten ethisch dus niet echt lekker op hun plek. Dat is een schokkend gegeven. IT-bedrijven zouden er goed aan doen dit fenomeen bespreekbaar te maken.
Dat is ook de strekking van de presentatie over digitale ethiek die Frank Buitendijk van Gartner gaf tijdens de Gartner IT/xpo in Barcelona begin november vorig jaar. Hij vertelde dat uit recent onderzoek van zijn organisatie blijkt dat 60 procent van de CIO’s worstelt met ethische dilemma’s. So far so good, zou je zeggen, want het is prima om jezelf ethische vragen te stellen. Echter, uit hetzelfde onderzoek blijkt dat 70 procent van deze CIO’s geen plek heeft om over deze vragen te praten. Ook hier zien we de contouren van een ethische crisis. Wat te doen?

Ruimte maken

Buitendijk biedt een kinderlijk eenvoudig, maar heel goed bruikbaar model om ethische dilemma’s bespreekbaar te maken. Het bestaat uit drie woorden: can, alllow en should. Can gaat over wat er technisch mogelijk is. Allow over wat er wettelijk is toegestaan. En should over wat je hart, je moraal, je geweten, je normen en waarden je ingeven. De boodschap: wat kan en mag, hóeft daarom nog niet.

Buitendijk keert zich daarbij tegen wat hij ‘data determinisme’ noemt. Dat is de houding waarbij het bezit van de data min of meer automatisch leidt tot alle mogelijke daaruit voortvloeiende toepassingen. Dus zonder een morele afweging in te lassen tussen de technische mogelijkheid en de praktische uitvoering. Voor zo’n morele afweging moet ruimte worden gemaakt, vindt Buitendijk. Een goede manier daarvoor is het bespreken van cases. Buitendijk deed dit in Barcelona samen met de zaal aan de hand van de volgende vraagstelling:
‘Je ontwikkelt een HRM-applicatie die de profiel updates van je medewerkers op sociale netwerken bijhoudt. De gedachte daarbij: wie zich sterk profileert is mogelijk op zoek naar een nieuwe uitdaging. Dus deze app geeft een indicatie voor de stabiliteit van je workforce. Mag dat? Zijn we daar voor?’ Uit de reacties bleek dat hierover heel verschillend wordt gedacht.
Hij noemde ook een tweede case, die al wat ingewikkelder is: ‘Je verzamelt data van je klanten en je weet dat je wettelijk gebeiteld zit, maar je weet ook dat je klanten in dit opzicht nogal naïef zijn en niet over voldoende context beschikken. Je gaat ze echter niet wijzer maken dan ze zijn. Is dat moreel toelaatbaar of niet?’

Volwassenheid

Zulke ethische dilemma’s kunnen op vier verschillende manieren benaderd worden, verduidelijkt Buitendijk, die zich daarbij baseert op het moral maturity model van Harvard-professor Lawrence Kohlberg:

  1. Vanuit de optiek van compliance. Je houdt je aan de wet. Dit is het niveau van een kind van vier dat zijn kamer onder dwang moet opruimen, stelt Buitendijk.
  2. Vanuit de optiek van risicomanagement. Dan heb je het niveau van een tiener. Je houdt de boel zelf al netjes, zonder het op confrontaties met je ouders te laten aankomen.
  3. Vanuit de optiek van profilering. Je gebruikt ethische thema’s als reclame-uiting. Dan heb je het niveau van iemand van twintig, die zich wil onderscheiden en wil opvallen.
  4. Vanuit doorleefde waarden. Je doet de juiste dingen om de juiste redenen. Niet om straf te ontlopen of om op te vallen. Je doet ze, omdat je je daar zelf goed bij voelt. Dit is het niveau van morele volwassenheid van een organisatie.

Bezinning en discussie over ethische dilemma’s zijn belangrijk nu we het digitale tijdperk zijn binnengegaan. Big Data is nog maar het begin. Aan de horizon doemt kunstmatige intelligentie op. De ethische implicaties daarvan zijn nog vele malen ingrijpender. Omdat digitale ethiek een nieuw terrein is, kunnen we niet terugvallen op regels die al vastliggen. Zulke regels zullen we zelf moeten ontwikkelen. Goede gesprekken kunnen daarbij wonderen verrichten.

 

Groot wantrouwen
Bijna de helft (48 procent) van alle consumenten is wantrouwig over de manier waarop bedrijven omgaan met hun gegevens. Eén op de vijf vertrouwt geen enkel bedrijf als het gaat om het veilig opslaan van data. Dit is de uitkomst van recent onderzoek onder ruim 18.000 consumenten in negen verschillende landen, waaronder Nederland met 2000 respondenten.

Bijna helft van consumenten is wantrouwig

Bijna de helft van de consumenten is wantrouwig

Gerelateerde berichten...

X