Gevraagd naar wat echt grote problemen zijn in de wereld, kunnen we diverse dingen noemen. Van klimaatverandering tot aan geopolitieke spanningen, pandemische dreigingen of de logistieke opstoppingen. Maar op de achtergrond van al deze issues speelt een fundamenteel ander probleem. En dat is de explosieve toename van nepinformatie, malinformatie, desinformatie of hoe je het ook maar noemen wilt. In combinatie met de overdaad aan informatie wordt het er niet eenvoudiger op om beslissingen te nemen.
Opzettelijke desinformatie veroorzaakt verdeeldheid in samenlevingen en sterkere polarisatie van meningen. Dus als we al die grote problemen willen aanpakken, moeten we allereerst de toename van nepinformatie een halt toeroepen. Het is zaak dat we onderzoeken hoe slechte informatie in de supply chain komt en hoe het zich daar gedraagt, zodat we het kunnen aanpakken.
Drie voorbeelden
In augustus 2017 verscheen in diverse vormen een advertentie van Starbucks onder de kop ‘Dreamer Day’. De aanbieding was dat iedere immigrant zonder papieren 40 procent korting kreeg op alle Starbucksproducten. Dit was natuurlijk niet waar. Eerder had een anoniem persoon op het nogal rechtse social medium 4chan de wens geuit om problemen te veroorzaken op een liberale plek. Volgens hem was Starbucks zo’n liberale plek. Razendsnel creëerden hij en enkele aanhangers een Twittercampagne, wat inderdaad leidde tot veel onrust en boze mensen bij diverse Starbucksvestigingen.
De CEO van een Brits energiebedrijf kreeg in 2020 een telefoontje van zijn baas van het Duitse moederbedrijf. De twee hadden regelmatig contact. In Engels met een sterk Duits accent vroeg hij de CEO om direct € 220.000 over te maken naar een Hongaarse leverancier in verband met een dringende transactie. De CEO herkende de stem van zijn baas, en voerde het verzoek uit. Later bleek dat een AI een onwaarschijnlijk goede vocale deep fake had gemaakt van die Duitse manager. Op die manier konden criminelen, ondanks de beste cybersecurity, hun slag slaan.
Een derde voorbeeld is een deep fake video waarin de president van Oekraïne, Zelensky, kort na de inval van Rusland de Oekraïense troepen oproept zich over te geven.
Bedrijven en overheden hebben de fysieke en digitale security redelijk tot goed op orde, maar tegen deze vorm van social enginering door AI staan we vooralsnog machteloos. Social engineering is niets nieuws, alleen tilt de huidige kracht van data-analyse en AI het naar een compleet nieuw niveau.
Vijf informatieproblemen
In de geschiedenis van de mensheid zijn er altijd problemen geweest met informatie. Neem bijvoorbeeld geen of niet genoeg informatie. Dit was overigens niet voor iedereen een probleem. Mensen die nooit bepaalde informatie hadden gehad, misten het ook niet. Een overvloed aan informatie kan leiden tot een beslissingsinfarct. Bedenk bijvoorbeeld dat er op YouTube in 2020 iedere minuut 400 uur aan videomateriaal werd geüpload. Een jaar later, in 2021, was dat al gegroeid naar 500 uur per minuut. Te midden van deze veelheid aan informatie wordt het erg moeilijk om te bepalen wat echt is of nep. Een derde probleem is verkeerde informatie. Onjuiste informatie is niet per se het resultaat van slechte intenties, het kan ook afkomstig zijn van mensen die denken iets te weten. Met desinformatie daarentegen informeert iemand mensen opzettelijk verkeerd over iets, een fenomeen dat vooral tijdens verkiezingstijd weer de kop opsteekt. Deze vier voorgaande informatieproblemen zijn min of meer van alle tijd, maar de vijfde, malinformatie, is recenter. In de term zit een combinatie van ‘informatie’ en ‘malware’. Het is een soort van gewapende, gerichte desinformatie. Malinformanten kunnen met de huidige digitale mogelijkheden op grote schaal aangepaste desinformatie produceren, specifiek gericht op iemands voorkeuren, afkeuren, financiële positie of vriendennetwerk. Op die manier proberen ze mensen te beïnvloeden tot het nemen van bepaalde beslissingen. Het nieuwe element in malinformatie is de snelheid en schaal waarmee het tegenwoordig kan worden gecreëerd.
Mentaal model
De term ‘malinformatie’ betekent niet voor iedereen hetzelfde. De Amerikaanse overheid hanteert deze term voor wanneer correcte informatie op een kwalijke manier wordt ingezet, zoals het lekken van adressen van politieagenten of politici. In dit artikel hebben we het over doelgerichte desinformatie. Het is de mensen die hier goed in zijn niet alleen te doen om iemand foute informatie te geven. Waar het hen vooral om gaat is om een slecht mentaal model te creëren in iemands gedachten, zodat er foutieve interpretaties kunnen worden gemaakt. Het doel van malinformatie is helemaal bereikt wanneer mensen dat mentale model doorgeven aan anderen, wat een enorm versterkend effect kan hebben. Deze praktijken komen we veel tegen in de politieke arena, waar stemmingmakerij plaatsvindt op basis van malinformatie. Iemand opzadelen met een slecht mentaal model is vele malen effectiever dan iemand sec voeden met onjuiste informatie. Vanuit dat model creëren mensen dan namelijk op eigen kracht voortdurend slechte informatie, en ze beïnvloeden bovendien anderen om hetzelfde mentale model te hanteren.
Tien malinformatie strategieën
De malinformanten hanteren diverse strategieën om hun doel te bereiken. Allereerst hanteren ze misleiding door leugens te verspreiden en zo bepaalde mentale modellen te voeden. Een tweede strategie is het stellig ontkennen van algemeen geaccepteerde waarheden. De strategie van het verdelen is al millennia oud. Het bekende ‘Verdeel en heers’ staat niet voor niets gegrift in ons maatschappelijk bewustzijn. Hier proberen de slechte actoren niet zozeer één overtuiging over de bühne te brengen, maar verschillende zienswijzen. Als je een groep weet te verdelen met verschillende of zelfs tegengestelde overtuigingen, verdwijnt de eendracht of groepsdynamiek en dus de kracht uit die groep. Een voorbeeld is toen een internettrolgroep uit Sint Petersburg twee bijeenkomsten in Houston, Texas wist te organiseren. De ene bijeenkomst propageerde het beschermen van islamitische kennis, terwijl de tweede zich sterk maakte om de islamisering in Texas een halt toe te roepen. Dat leidde, zoals bedoeld, tot veel onrust. Een vierde strategie is het stilzwijgen of onderdrukken van bepaalde informatie, wat sterk in de buurt komt van censureren. Ook wordt het motief van juiste informatie in diskrediet gebracht. Door bijvoorbeeld te suggereren dat een bepaalde informatiebron vooringenomen is of een dubbele agenda heeft, kun je correcte informatie in een kwaad daglicht stellen. Een variatie op deze strategie is het in diskrediet brengen van de methode van informatieverspreiding, door te stellen dat de informatie bevooroordeeld is. Een zevende strategie is het verdraaien van informatie. Door informatie te demotiveren, probeer je het minder aantrekkelijk te maken voor een publiek. Om een publieke opinie te verlammen, hoef je niet eens valse informatie te verspreiden, je kan een groep ook overspoelen met teveel informatie. Een tiende strategie is afleiding. Als een bepaald kanaal zich focust op een specifiek onderwerp, kun je dat kanaal vervuilen met informatie over een compleet ander onderwerp.
Voor alle duidelijkheid: iedereen, goedbedoelende mensen, regeringen, criminelen, adverteerders, hebben deze strategieën tot hun beschikking.
Wie vertrouwen we wel/niet?
Waarheid en vertrouwen zijn niet echt hetzelfde, maar toch kan een wereld zonder waarheid afglijden tot een wereld zonder vertrouwen. Onderzoeksbureau Ipsos deed een opiniepeiling onder 20.000 deelnemers[1] over de vraag welke beroepsgroepen betrouwbaar zijn en welke niet (zie grafiek). Drie beroepen komen hier echt positief uit tevoorschijn. Artsen, wetenschappers en leraren genieten het meeste vertrouwen van ons allemaal.
Mensen in beroepen die meer argwaan dan vertrouwen oproepen zijn journalisten, bankiers en adverteerders. Politici hebben de twijfelachtige eer van de laagste plek op deze lijst. Dit wordt er in algemene zin niet beter op, integendeel. Het vertrouwen in de politiek is tot een historisch dieptepunt gedaald.
Verstoor de keten
Een wereld zonder vertrouwen klinkt weinig aanlokkelijk. Dus, wat kunnen we eraan doen om ervoor te zorgen dat dit niet nog verder uit de hand loopt? Om te beginnen is het belangrijk dat we ons bewust zijn van deze problematiek. Veel rondom de informatieproblemen hangt samen met ethiek of psychologie.
Ook werkt het verhelderend als we de machinatie achter malinformatie beschouwen als een toeleveringsketen, zodat we kunnen leren waar we deze kunnen verstoren. Uiteraard kan wetgeving hierin een belangrijke rol spelen, maar we kunnen het ook doen met behulp van onderricht. Een voorbeeld is dat jouw bankinstelling bij een contactmoment, zoals wanneer je geld overboekt, je informeert over een veelgebruikte zwendelpraktijk. Of denk aan meer algemene informatie over aanvallen en de manieren om je daartegen te verdedigen. Ook is er een soort van meta-educatie die geen onderricht biedt in kennis of feiten, maar zich meer richt op het verbeteren van iemands kritische denkvermogen.
Een derde methode is het geven van kleine gedragsduwtjes, om mensen bijvoorbeeld te stimuleren eerst te controleren voorafgaand aan handelen. We kunnen ook de menigte benutten zoals Wikipedia dat bijvoorbeeld doet. De organisatie heeft minder dan 450 medewerkers, maar werkt met bijna 120.000 bijdragers. Door hun crowd-opzet hebben ze een encyclopedie opgebouwd van ongeveer 58 miljoen artikelen in 300 talen. En ondertussen lukt het dit platform om onbevooroordeeld te blijven. Vanzelfsprekend kunnen we ook met behulp van technologie de supply-chain van malinformatie doorbreken. Door bijvoorbeeld blockchain in te zetten, kunnen we veel doen om de betrouwbaarheid van informatie te garanderen.
Ook komen er steeds betere tools voor het spotten van deep fakes. In zekere zin is hier een soort wapenwedloop gaande tussen de tools die verkeerde informatie maken en hun controleurs. En tot slot noemen we de digitale giganten. Sommige van hen kunnen we beschouwen als de schurken in dit verhaal, zeker als je weet hoe ze hun sociale media inzetten en hoe hun verdienmodel in elkaar zit. Maar tegelijkertijd hebben deze bedrijven zo’n enorme reikwijdte en schaalmogelijkheden, dat we manieren moeten vinden om samen met hen het informatieprobleem aan te pakken.
Lees ook:
- Open brief: las pauze in voor geavanceerde AI
- Verfijning van basisdata loont
