De Europese Commissie gaat deze week een lijst AI-toepassingen publiceren die een hoog veiligheidsrisico vormen voor burgers. Dat blijkt uit een concepttekst voor een nieuwe wet die in behandeling komt bij het parlement. De nieuwe wet moet een aanvullingen worden op de AVG.
Dit betekent dat veel ai-oplossingen die nu al draaien aangemerkt worden als hoog-risico. De gevolgen voor ontwikkelaars maar ook gebruikers zijn fors. De lijst hoor bij een wetsvoorstel over zowel AI als machine learning.
Criteria
Deze toepassingen moeten, als de wet eenmaal gaat gelden, voldoen aan een aantal strenge criteria. Daarbij gaat dan gelden dat toepassingen als biometrie en allerlei vormen van risicobeoordeling standaard al het predicaat hoog risico krijgen.
Ook toepassingen in bijvoorbeeld slim speelgoed moeten daardoor aan scherpere eisen voldoen. Ook AI-oplossingen in de medische sector, en apparatuur in de luchtvaart en radiocommunicatie moeten aan extra eisen voldoen.
Dit soort producten moeten voortaan eerst een extra beoordeling ondergaan. Daarin staan eisen in bijvoorbeeld de manier van data documenteren en de manier waarop daarover administratie gevoerd wordt. Verder zijn er aanvullende eisen rond veiligheid en toezicht.
Uitbreiding
De lijst is niet definitief kan later ook nog uitbreiding krijgen. Dat kan bijvoorbeeld gebeuren als er door een AI-toepassing mensenrechten worden geschonden.
De boetes worden overigens fors, blijkt uit het concept. Die kunnen onder andere oplopen tot 4% van de procent wereldwijde jaaromzet van een bedrijf. De hoogste boetebedragen gaan onder andere gelden als een bedrijf of instelling toch aan de gang gaat met een van de op de lijst voorkomende verboden AI-toepassingen. Verder verplicht de nieuwe wet de aparte lidstaten van de EU on zelf ook extra regels op te stellen rond AI-gebruik en die samen met de Europese wet te handhaven.
Lees ook:
- 44 procent van professionals mist toekomstbestendige vaardigheden
- TU Delft en Fujitsu realiseren nieuwe Nederlandse supercomputer
