Open brief: las pauze in voor geavanceerde AI

ai

Las een pauze in voordat we verder gaan met geavanceerde AI. Dat zegt een groep van meer dan duizend (ai)wetenschappers en zakenmensen uit de techsector in een open brief. Onder hen zijn gerenommeerde onderzoekers van ASML, Google en IBM. Ook Elon Musk is een van de ondertekenaars.

De stop moet zeker zes maanden duren. Het gaat volgens de ongeruste groep vooral om de training van systemen die krachtiger zijn dan GPT-4. De stop op verdere ontwikkeling van deze kunstmatige intelligentie zou per direct moeten ingaan.

De groep vreest vooral dat de snelle ontwikkeling van kunstmatige intelligentie (AI) en de gevaren die dit met zich mee kan brengen. Die liggen vooral op het vlak van beheersing van de steeds krachtiger wordende niet-menselijke intelligente systemen die onbeheersbaar dreigen te worden. Het risico op algoritmes met fouten die nepnieuws of deepfakes verspreiden en zo een schijnwerkelijkheid creëren waar de mens te weinig invloed op kan uitoefenen is te groot.

Apple

Onder de ondertekenaars bevinden zich kopstukken uit de techwereld als mede-oprichter van Apple Steve Wozniak en ceo’s van ai-bedrijven Conjecture, Stability AI, Deepmind, Beneficial AI, Attain.ai en Unanimous AI. Verder is ook machine learning-deskundige Jeroen Franse  van ABN Amro een van de ongeruste ondertekenaars. In de groep zit ook een aantal Belgische kopstukken zoals ai-expert Luc Steels, verbonden aan de Universiteit van Brussel.

De petitie staat op de site van Future of Life.org. Volgens de groep is er momenteel gebrek aan veiligheidsprotocollen in de geavanceerde AI. Die moeten eerst tot stand komen voordat je verder kunt met de ontwikkeling van grote systemen met kunstmatige intelligentie. In de tijd dat de ontwikkeling op pauze staat moeten die regels tot stand komen. Verder moet er goede governance tot stand komen. Dit moet zorgen dat de ontwikkeling van black box-systemen stopt en de transparante AI een vlucht kan gaan nemen. Het moet zorgen dat de mens de ontwikkeling van kunstmatige intelligentie kan blijven beheersen.

Lees ook:

Gerelateerde berichten...