Overmatig gebruik van algoritmes en Big Data kan leiden tot schending van grondrechten van burgers. Dat is te lezen in een onderzoeksrapport dat is opgesteld in opdracht van het ministerie van Buitenlandse Zaken. De Tweede Kamer moet het rapport nog bespreken.
Vooral beslissingen die worden genomen zonder menselijke tussenkomst vormen een groot risico. Het kan leiden tot onrechtvaardigheid, willekeur en zelfs rechtsongelijkheid. Verder tast het de pluriforme pers en dus ook het recht op informatie van burgers aan. De samenstellers roepen op tot actie.
Reikwijdte
Een van de voornaamste problemen is dat er een gedetailleerd beeld van burgers en hun leven ontstaat door gebruik van algoritmes. Dit schendt bijvoorbeeld het recht om vergeten te worden.
Het rapport haalt rechtspraak aan van het EHRM, het Europees Hof voor de Rechten van de Mens. Daarin staat dat vooral datasurveillance met Big Data en IoT inbreuk kunnen maken op het recht op privacy. Dit geldt voor zowel de privéomgeving als in publieke ruimtes, bijvoorbeeld in smart cities.
Werkvloer
De problemen doen zich zowel voor in overheid-burgercommunicatie als private verhoudingen. En ook op de werkvloer kan het recht op privacy sneuvelen. Bijvoorbeeld door automatische analyse van camerabeelden of als de baas kan meekijken in de mailboxen van de medewerkers. Volgens de EHRM-rechtspraak kan ook de inzet van het IoT bijten met het recht op privacy.
Het rapport stelt dat de eventuele inbreuken op de privacy daarom altijd getest moeten worden aan de grondwet en de EVRM. Daarbij geldt dat het niet alleen gaat om surveillance op afstand maar ook om datamining of gebruik van IoT bij opsporing door bijvoorbeeld de politie.
Regelgeving moet dus voldoende duidelijk zijn gesteld met voldoende waarborgen tegen willekeurig gebruik hiervan. Ten alle tijde moet toegang tot rechtsbescherming aanwezig zijn.
Zorgrobots en filterbubbels
Het rapport wijst ook op het gebruik van robots in de zorg. Aan de ene kant kan dit zorgen voor grote zelfstandigheid bij patiënten. Denk aan schending van het recht op relationele privacy. Tegelijkertijd kan robotisering juist leiden tot vergroting van de mogelijkheden van contact met de buitenwereld.
Het rapport heeft expliciete aandacht voor de zogenaamde filterbubbels. Deze ontstaan door algoritmes van sociale media en zoekmachines. Deze bubbels kunnen rechtstreeks de pluriformiteit en diversiteit van informatievoorziening aantasten. Daarmee komt het recht op vrijheid van meningsuiting en de vrijheid om informatie te ontvangen in het geding.
Volgens de samenstellers betekent dit dat actieve overheidsbescherming dringende noodzaak is. Zo moet de overheid helpen bij het beschermen van het pluralisme van de media en waarborgen van goede toegang tot informatie.
Het rapport vindt het gegeven alleen al dat vrije meningsuiting vaak plaatsvindt via private bedrijven als Facebook en Google, genoeg voor een actieve rol van de overheid.
Haatzaaiende content
Als de overheid samenwerkt met of dreigt met dwang richting sociale media of zoekmachines om onwelgevallige content te verwijderen ontstaan problemen als de gebruikte algoritmes overmatig gaan censureren.
Als de overheid stelt dat sociale netwerken haatzaaiende content direct moet verwijderen en alleen vertrouwt op een algoritme loop je het grote risico dat mensen met een eerlijke mening ook worden getroffen. In dat geval is er sprake van botsende grondrechten, zeker vanwege de snelheid waarmee uitingen door de moderne technologieën kunnen worden geplaatst en verwijderd.
Kiesrecht
De inzet van Big Data kan ook verstrekkende gevolgen hebben voor de uitoefening van het actieve kiesrecht. Filterbubbels en private of publieke censuur raken aan de toegang tot diverse, onafhankelijke informatie en aan het recht op vrije meningsuiting.
Het rapport hekelt bij de vrijheid van meningsuiting met name de inzet van algoritme-gedreven bots die het politieke discours beïnvloeden, de inzet van Big Data tijdens verkiezingscampagnes en. Ze laten ook geen spaan heel van de door algoritmes van Google of Facebook die bijvoorbeeld in verkiezingstijd bepalen welke informatie tot kiezers komt.
Hoe de Tweede Kamer en het Kabinet zullen omgaan met de resultaten is nog niet duidelijk. Mogelijk zak het na het reces verder worden besproken.
