Wat hebben de Amazon videodeurbel Ring en de elektrische auto’s van Tesla eigenlijk met elkaar gemeen? Deze twee producten lijken heel verschillend. Maar het zijn beide manieren van digitale surveillance. Hierbij ontsluit men grote hoeveelheden data met algoritmes. Dit met als doel de samenleving veiliger te maken. Op 23 juni sprak Marc Schuilenburg, hoogleraar Digital Surveillance aan Erasmus School of Law, zijn oratie uit. In zijn rede getiteld Making Surveillance Public, bespreekt Schuilenburg de effecten van digitalisering en algoritmisering op het veiligheidsvraagstuk.
Waar surveillance aanvankelijk met het blote oog gebeurde, vulden we deze vorm van surveillance in 1990 aan met een groeiend aantal surveillance camera’s. Dit groeide sindsdien uit tot een groot netwerk van camera’s die men met elkaar verbindt. We rusten dit systeem door middel van digitalisering en algoritmisering tegenwoordig ook uit met automatische gezichtsherkenningstechnologie. “De opkomst van deze nieuwe vormen van digital surveillance leidt tot vraagstukken omtrent verandering van de veiligheidspraktijk”, aldus Schuilenburg.
Afweging van belangen
Binnen deze ontwikkeling benadrukt Schuilenburg de volgende vraagstukken. Hoe kan de opsporing en handhaving van criminaliteit zoveel mogelijk profiteren van deze nieuwe vormen van digitale surveillance? En hoe kunnen ethiek en de rechtsstaat deze nieuwe technieken beheersbaar en controleerbaar houden?
“Making Surveillance Public, de titel van mijn oratie, is voor mij het kernbegrip om op deze vragen een antwoord te geven. Het ‘publiek maken’ van surveillance is allereerst gebaseerd op het idee dat we met digitale surveillance de activiteiten van personen zichtbaar maken. Maar dat de toepassingen die we hiervoor gebruiken vaak onzichtbaar blijven voor het grote publiek. Dit heeft echter ook betrekking op de maatschappelijke rol van surveillance. Ze draagt bij aan de veiligheid, waarbij veiligheid kan worden beschouwd als het publieke goed”, aldus Schuilenburg.
Om zijn onderzoeksvragen te beantwoorden, benadert Schuilenburg het publiek maken van surveillance vanuit vier perspectieven.
Centrale plaats in de samenleving
“Allereerst zorgden ontwikkelingen zoals digitalisering, softening en normalisering ervoor dat surveillance uitgroeide tot ongekende proporties. Zowel de omvang als de diepgang van surveillance breidde hierdoor substantieel uit. Dit loopt van het massaal verzamelen van data in de gezondheidszorg tot het diep doordringen in het privéleven van burgers met surveillance-producten. Deze producten herkennen we zelfs niet meer als zodanig. Ze zijn nu een onderdeel van het dagelijks leven. Van slimme deurbellen tot thermostaten die zelf beslissingen nemen”, legt Schuilenburg uit.
Algoritmisering van de veiligheidspraktijk
“Wie daarnaast bij big data policing alléén denkt aan een wereld van spionnen, politie en de staat, komt bedrogen uit. Veel verschillende partijen maken gebruik van surveillance. Ze werken daarbij met grote datasets en algoritmes, waarbij ze aan veel minder regels zijn gebonden dan de nationale staat”, aldus Schuilenburg. “Naast reguleringsvragen voor de overheid van dit nieuwe digitale veiligheidsveld, leidt big data policing ook tot ethische en juridische zorgen. Dat gaat van discriminatie van minderheden tot een gebrek aan transparantie en publieke verantwoording over de gebruikte data en algoritmes”, benadrukt Schuilenburg.
De inzet van digitale technologie
Ook vanuit een publiek perspectief is het van belang dat de opsporing van criminaliteit zoveel mogelijk kan profiteren van deze nieuwe digitale tools. Maar dit betekent ook dat deze technieken beheersbaar en controleerbaar moeten worden gehouden binnen een kader van waarden waar onze democratische samenleving belang aan hecht. “Ik pleit er daarom voor om nieuwe technologie zo te ontwikkelen dat in de ontwerp- en ontwikkelfase al rekening wordt gehouden met datgene dat we als samenleving belangrijk vinden – denk aan zowel verankerende publieke waarden – privacy en non-discriminatie – als aan procesmatige waarden, transparantie en accountability”, stelt Schuilenburg.
Gevolgen voor de criminologie
“Er is noodzaak voor een benadering van digitale technologie die meer recht doet aan zowel de menselijke factor als aan de integratie van publieke waarden in het ontwerp- en ontwikkelproces. Hiervoor is het essentieel om het perspectief van surveillance-ervaring onderdeel te laten zijn van een goede zorg voor techniek.”
Making Surveillance Public is een pleidooi voor de start van een digitale criminologie, waarin het gaat om hoe de digital turn – het geheel aan digitale ontwikkelingen – het speelveld van de criminologie verandert, in termen van de aard en omvang van cybercriminaliteit. Maar digitale criminologie richt zich ook op wat digitalisering en algoritmisering teweegbrengen op gebieden van forensische zorg, strafrechtspleging en veiligheidspraktijk: welke digitale tools zijn er, door wie ze worden gebruikt, tot welke resultaten ze leiden en tegen wie ze worden gebruikt. “Voor dit alles is, wat ik zou willen noemen, digitale wijsheid noodzakelijk – en die begint al in het onderwijs, en de manier waarop we deze kennis meegeven aan onze studenten”, benadrukt Schuilenburg.
Hierbij neemt Schuilenburg afstand van een denken over digitale surveillance waarbij de veronderstelde technische en economische voordelen ervan prevaleren. En waarbij sociologische aspecten als macht en kennis onderbelicht blijven. “Soms lijkt het debat over data en algoritmes alleen te gaan om efficiëntie en effectiviteit. Dit zijn publieke waarden en het is begrijpelijk dat dit beoordelingsmaatstaven zijn. Maar de praktijk van surveillance, zo wil ik betogen, contrasteert dikwijls met onze verwachtingen erover. Niet door de enorme technische mogelijkheden ervan, maar juist omdat die technieken altijd in relatie zullen moeten worden bekeken met de sociale omgevingen waarvan ze deel uitmaken.”
“Alleen door het meenemen van digitale wijsheid en alle perspectieven begrijpen we beter wat big data en algoritmes allemaal kunnen doen. Maar ook wat big data en algoritmes allemaal met ons doen”, zo stelt Schuilenburg.
