OpenAI voegt zijn safety- en researchteams opnieuw samen onder één leider. Johannes Heidecke, het hoofd van safety systems, verlaat het bedrijf. Zijn taken gaan naar Mia Glaese, die de nieuwe functie VP of Research and Safety krijgt. Het is de tweede reorganisatie van dit type in minder dan twee jaar.
Chief Research Officer Mark Chen bracht het nieuws in een interne memo, zo meldt Wired. Heidecke kwam in 2021 binnen als AI safety analist en nam in 2024 de leiding over veiligheidssystemen over van Lilian Weng. Zijn werk draaide om model alignment, rule-based reward systems en de preparedness-evaluaties voor mogelijk gevaarlijke modelcapaciteiten.
Heidecke test de veiligheid van AI-modellen. De methode die hij hier het meest voor gebruikte zijn:
Model alignment
Dit is het proces waarbij een AI-model zo wordt getraind en afgestemd dat het zich gedraagt volgens menselijke waarden, intenties en veiligheidsrichtlijnen. Het doel is dat het model doet wat mensen bedoelen, ook in onverwachte situaties.
Rule-based reward systems
Dit zijn beloningssystemen die gebaseerd zijn op vooraf vastgelegde regels. Tijdens het trainen krijgt een AI-model een beloning wanneer het zich aan die regels houdt en een straf wanneer het ervan afwijkt. Zo wordt gewenst en veilig gedrag gestimuleerd.
Preparedness-evaluaties voor mogelijk gevaarlijke modelcapaciteiten
Dit zijn veiligheidstests waarmee wordt onderzocht of een AI-model risicovolle of gevaarlijke capaciteiten bezit, zoals het helpen bij cyberaanvallen, het ontwikkelen van schadelijke stoffen of het misleiden van gebruikers. Deze evaluaties bepalen of een model veilig genoeg is om te worden ingezet.
Komen en gaan van afdelingen
Reorganisatie en het minderen van veiligheidsnormen zijn een terugkerend onderwerp bij OpenAI. Het Superalignment-team, in 2023 aangekondigd, werd een jaar later alweer ontbonden na het vertrek van co-leiders Ilya Sutskever en Jan Leike. Een team dat was opgezet vanuit de volgende intentie: “We hebben wetenschappelijke en technische doorbraken nodig om AI-systemen die veel slimmer zijn dan wij, aan te sturen en te beheersen.” Sutskever richtte daarna Safe Superintelligence Inc. op, een bedrijf dat expliciet inzet op het veilig ontwikkelen van superintelligentie, waarin OpenAI volgens hem tekortschiet.
Daarna volgden meer vertrekken. Het AGI Readiness-team viel in oktober 2024 uit elkaar toen leider Miles Brundage opstapte. Het Mission Alignment-team, de opvolger van Superalignment, werd in februari 2026 ontbonden na zestien maanden. Leider Joshua Achiam kreeg de nieuwe titel “chief futurist”. En in april verloor OpenAI op één dag zijn productchef, het hoofd van Sora en de enterprise-CTO.
Waarom integratie?
De vraag blijft wel of de samenvoeging van de teams een goede of slechte zaak is voor de veiligheid van AI-modellen. Chen verdedigt de keuze en redeneert: veiligheid krijgt zo vanaf het begin een stem in modelbeslissingen, in plaats van als laatste controle voor de lancering.
Toch klinkt er kritiek. Een safetyteam dat binnen research rapporteert, heeft minder structurele onafhankelijkheid en minder ruimte om een product tegen te houden. OpenAI zoekt intussen wel actief naar een nieuwe Head of Preparedness voor het beoordelen van catastrofale AI-risico’s.
Het vertrek komt op een gevoelig moment. Tweeënveertig Amerikaanse staten openden een onderzoek naar OpenAI en dienden een dagvaarding in over advertenties, gebruikersdata en interne policy’s, kort nadat het bedrijf vertrouwelijk een beursgang aanvroeg.