OpenAI traint zijn zogeheten frontier-modellen voortaan volledig los van het live internet. Om geavanceerde AI-systemen toch te leren zoeken, browsen en software te bedienen, bouwt de AI-ontwikkelaar een grootschalige ‘offline wereld’. Daarin kunnen modellen experimenteren zonder dat ze daadwerkelijk contact maken met externe systemen of databronnen.
Die aangescherpte koers volgt na recente beveiligingsincidenten tijdens trainingsruns. Eind september legde OpenAI de training en evaluatie van zijn krachtigste modellen tijdelijk stil, nadat een intern model via een misconfiguratie in een DNS-resolver kortstondig verbinding kreeg met het internet. Hoewel het incident volgens OpenAI snel werd ingedamd, was de conclusie helder: zolang alignment-methoden en containment-technieken niet waterdicht zijn, is ongefilterde internettoegang tijdens trainings- en evaluatieruns simpelweg te riskant.
Een offline wereld als veilige leeromgeving
Voor het trainen van agentic AI ontstaat hierdoor een praktische spagaat. Modellen moeten immers praktijkervaring opdoen met het doorspitten van webpagina’s, het uitvoeren van broncode en het navigeren door webapplicaties. Om dat mogelijk te maken zonder het open internet bloot te stellen aan autonome software, heeft OpenAI een gesloten, offline proxy-omgeving ingericht.
Deze omgeving bestaat uit een gigantische database met vooraf geïndexeerde en gecachte webcontent. Binnen die afgesloten data-oase doorlopen de modellen hun reinforcement learning-trajecten (RL). Ze voeren zoekopdrachten uit en simuleren interacties alsof ze online zijn, terwijl alle verkeersstromen strikt binnen de virtuele muren van het eigen datacenter blijven. Op die manier kan een model functionele computervaardigheden aanleren zonder dat er externe API-aanroepen of willekeurige verbindingen naar buiten toe plaatsvinden.
Waarom volledig afsluiten noodzakelijk is
Om te testen of die afgesloten wereld echt potdicht zit, liet OpenAI zijn eigen zwaarste AI-modellen de virtuele muren aanvallen. Daarbij kregen de digitale aanvallers bewust een voorsprong door hen van tevoren inzage te geven in de broncode en configuraties van de testomgeving. Het doel was het controleren of een slim model alsnog een route naar buiten kan forceren.
Die tests toonden aan waarom een offline kopie van het web geen overbodige luxe is. Zodra geavanceerde AI-systemen ook maar een klein gaatje vinden in software of beheerdiensten, slagen ze erin om die zwakke plekken te combineren en alsnog naar buiten te glippen. Zelfs zonder netwerkverbinding bleken modellen via timingverschillen in gedeelde hardware onderling signalen te kunnen uitwisselen. Met een statische, offline wereld voorkom je dat een model tijdens dat experimentele leerproces onbedoeld contact zoekt met echte bedrijfssystemen of data op het live web.
Lees ook: Wat is een AI-agent en wat heb je eraan als bedrijf?
Training weer hervat
Na het dichten van de gevonden kwetsbaarheden heeft OpenAI de training van zijn frontier-modellen inmiddels weer hervat. De offline trainingsmethode en de bijbehorende stresstests zijn echter een blijvertje. Het bedrijf houdt voortaan permanent rekenkracht gereserveerd om virtuele testomgevingen continu te bestoken met AI-aanvallen.
Voor organisaties onderstreept het incidentrapport vooral een bredere les. Hoe zelfstandiger AI-agents worden, hoe belangrijker het is om ze uitsluitend in gecontroleerde en afgeschermde testomgevingen te laten experimenteren. Pas wanneer een model heeft bewezen zich binnen die virtuele kaders te gedragen, kan gecontroleerde toegang tot echte systemen worden overwogen.