OpenAI heeft aangekondigd dat het zijn AI-modellen op een nieuwe manier traint, met als doel meer intellectuele vrijheid te omarmen. Dit betekent dat ChatGPT in de toekomst meer vragen zal kunnen beantwoorden, verschillende perspectieven zal bieden en minder onderwerpen zal vermijden.
Beleid
De beleidswijziging kan mogelijk te maken hebben met de politieke veranderingen in de Verenigde Staten, zoals de komst van een nieuwe Trump-administratie. Tegelijkertijd lijkt het deel uit te maken van een bredere verschuiving in Silicon Valley over wat wordt beschouwd als ‘AI-veiligheid’.
Op woensdag introduceerde OpenAI een update van zijn Model Spec, een document van 187 pagina’s waarin staat hoe de AI-modellen moeten functioneren. Een van de belangrijkste principes hierin is dat de AI niet mag liegen, noch door onwaarheden te verspreiden, noch door belangrijke context weg te laten.
Geen redactionele standpunten
Een nieuw onderdeel, ‘Zoek samen naar de waarheid’, benadrukt dat ChatGPT geen redactionele standpunten inneemt, ook als sommige gebruikers dat als moreel onjuist of beledigend ervaren. Hierdoor zal de chatbot meerdere perspectieven op controversiële onderwerpen bieden, in een poging neutraal te blijven.
Als voorbeeld stelt OpenAI dat ChatGPT moet erkennen dat ‘Black lives matter’, maar ook ‘all lives matter’. In plaats van politieke standpunten in te nemen, zal de AI context geven over verschillende bewegingen en zijn ‘liefde voor de mensheid’ benadrukken.
Intellectuele vrijheid
Hoewel deze aanpassing wordt gepresenteerd als een manier om gebruikers meer controle te geven, blijft ChatGPT bepaalde aanstootgevende of feitelijk onjuiste vragen weigeren te beantwoorden. De wijzigingen worden door sommigen gezien als een reactie op conservatieve kritiek dat de AI te veel neigde naar een centrum-linkse visie. OpenAI ontkent echter dat de aanpassingen bedoeld zijn om de Trump-administratie te plezieren en stelt dat intellectuele vrijheid altijd een kernwaarde van het bedrijf is geweest.
De veranderingen roepen zowel lof als kritiek op, en het debat over de rol van AI in de samenleving is daarmee nog lang niet voorbij.