De gemeente Amsterdam heeft besloten om een pilot met de AI-toepassing Microsoft Copilot stop te zetten. Uit een recente privacytoets, uitgevoerd door Strategisch Leveranciersmanagement Microsoft (SLM Rijk), blijkt dat het gebruik van Copilot op dit moment niet compliant is met de geldende privacywetgeving. De Vereniging van Nederlandse Gemeenten (VNG) adviseert gemeenten om een bewuste afweging te maken tussen de risico’s en de baten van deze technologie.
Privacyrisico’s en gebruiksdoeleinden
Microsoft Copilot wordt ingezet voor taken zoals het notuleren van vergaderingen, het opstellen van documenten en het doorzoeken van e-mails en chats. De toepassing werkt met prompts, waarbij gebruikers vragen kunnen stellen en antwoorden ontvangen van het AI-hulpprogramma. Dit betekent dat er een aanzienlijke hoeveelheid gegevens wordt verwerkt, wat moet voldoen aan de Europese privacyregelgeving.
SLM Rijk voerde een Data Protection Impact Assessment (DPIA) uit en constateerde diverse risico’s, vooral op het gebied van transparantie. Het gebrek aan inzicht in hoe gegevens worden verwerkt, en de mogelijke opslag en analyse daarvan door Microsoft, vormen een aanzienlijk obstakel voor veilig gebruik binnen overheidsinstanties.
Afweging over generatieve AI
Verschillende gemeenten maken al gebruik van generatieve AI, zoals Copilot, maar streven naar meer zekerheid omtrent de effectiviteit, doelgerichtheid en betrouwbaarheid ervan. Het is cruciaal dat AI-producten voldoen aan Europese regelgeving, ten aanzien van privacyrisico’s zodat gemeenten verantwoord kunnen beslissen over het gebruik ervan. De Informatiebeveiligingsdienst (IBD) heeft een aanvullende notitie opgesteld om de mogelijke gevolgen voor gemeentelijke organisaties te verduidelijken.
Reactie gemeente
De gemeente Amsterdam benadrukt het belang van zorgvuldigheid bij de inzet van nieuwe technologieën. “De uitkomsten van de DPIA bevestigen onze zorgen over Microsoft Copilot. De geïdentificeerde risico’s maken het momenteel onmogelijk om deze technologie veilig en juridisch verantwoord toe te passen. Daarom stoppen we de pilot en zullen we Copilot voorlopig niet implementeren”, aldus de gemeente.
Amsterdam sluit zich aan bij het standpunt van SLM Rijk en eist dat Microsoft eerst concrete stappen zet om de vastgestelde risico’s weg te nemen voordat verdere implementatie wordt overwogen.