De Autoriteit Persoonsgegevens (AP) heeft vandaag haar visie op generatieve AI gepresenteerd. De Nederlandse toezichthouder ziet kansen, maar waarschuwt tegelijk voor reële maatschappelijke risico’s.
De nood is hoog, stelt de AP. De impact van generatieve AI wordt namelijk steeds duidelijker. Dat komt onder andere door de wildgroei aan applicaties die in hoog tempo op de markt worden gebracht. Veel toepassingen komen van Amerikaanse techbedrijven, waardoor de Europese afhankelijkheid groeit en de digitale autonomie onder druk staat.
Bijna een kwart van de Nederlanders (23 procent) gebruikt volgens het CBS AI-programma’s zoals ChatGPT. Bij jongeren ligt dat percentage aanzienlijk hoger, dan bij ouderen. De visie is opgesteld met inbreng van bedrijven, experts en maatschappelijke organisaties en weerspiegelt daardoor ook inzichten uit de samenleving.
Nederland zoekt uitweg uit Amerikaanse cloud, politiek heeft goede hoop
Stevige vangrails nodig
De capaciteiten van generatieve AI nemen ondertussen verder toe. De Autoriteit Persoonsgegevens geeft voorbeelden van apps die foto’s kunnen bewerken, waardoor mensen opeens ongekleed zijn of chatbots die hulp zeggen bieden bij psychische problemen. Mensen gebruiken zulke AI-assistenten bovendien steeds vaker als enige informatiebron. De AP vindt deze ontwikkeling zorgelijk omdat organisaties generatieve AI vaak te snel inzetten. Er moet vooraf voldoende aandacht aan de gevolgen van het gebruik ervan worden besteed aldus de toezichthouder.
“Dit brengt nieuwe en complexe uitdagingen op het gebied van beheersing met zich mee”, zegt Aleid Wolfsen, voorzitter van de AP. “Generatieve AI biedt enorme kansen, maar we moeten de technologie zorgvuldig inzetten. Innovatie is welkom, maar wel voorzien van stevige vangrails.” Volgens de AP is het essentieel dat AI-modellen in lijn met de AVG en AI-verordening rechtmatig worden getraind en ingezet.
Drie onwenselijke toekomstbeelden
In de visie beschrijft de Autoriteit Persoonsgegevens drie onwenselijke toekomstbeelden. In een Wilde Westen-scenario groeit generatieve kunstmatige intelligentie zonder duidelijke regels. In een scenario van gemiste kansen valt Europa stil doordat complexe en onduidelijke wet- en regelgeving weer leidt tot onzekerheid. In een bunker-scenario belemmert overmatige voorzichtigheid juist innovatie.
AI is nu nog beheersbaar, maar alleen als er nu wordt gekozen voor specifieke waarden als uitgangspunt, benadrukt Wolfsen. Daarom pleit de AP voor een vierde koers: waarden aan het werk. De toezichthouder koerst op ruimte voor innovatie, met bescherming van democratie, grondrechten en onderling vertrouwen.
Sinds deze week is de eerste fase van de AI-verordening ingegaan. Dat is de eerste uitgebreide wet over kunstmatige intelligentie ter wereld. Hierin staan regels voor het verantwoord ontwikkelen en gebruiken van AI door bedrijven, overheden en andere organisaties. Begin augustus 2027 moet de verordening geheel van kracht zijn.
Aanbieders van systemen zoals ChatGPT moeten daardoor waarborgen dat door AI gegenereerde inhoud identificeerbaar is en er duidelijk wordt getoond dat iets een deepfake is. De AP vraagt organisaties die generatieve AI gebruiken om daar verantwoord mee om te gaan. Oftewel transparant, met oog voor risico’s en met respect voor grondrechten.