OpenAI heeft eind juli zijn preparedness-team ontbonden, het onderdeel dat ernstige risico’s van AI-modellen beoordeelde. De taken die het team uitvoerde zijn verdeeld over bestaande teams. Het is de zoveelste verschuiving binnen de veiligheidsorganisatie van het bedrijf, dat richting een beursgang koerst.
De Financial Times meldt dat OpenAI eind vorige maand een streep heeft gezet door het preparedness-team. Dat team onderzocht of nieuwe modellen serieuze gevaren opleverden en bedacht manieren om die te beperken. Daarbij kan gedacht worden aan scenario’s waarin een model zich onttrekt aan controle of systemen van een ander bedrijf binnendringt, een realistische situatie waar OpenAI reeds ervaring over opdeed.
De verantwoordelijkheden verdwijnen niet volledig. Ze worden opgesplitst naar specifieke domeinen zoals bio en cyber en vervolgens ondergebracht bij bestaande teams. Volgens meerdere berichten zou OpenAI de reorganisatie intern presenteren als een stroomlijning in aanloop naar de beursgang.
Derde team dat sneuvelt
OpenAI ontmantelde eerder al zijn AGI readiness- en superalignment-teams. Het preparedness-framework werd eind 2023 operationeel en deelde risico’s in vier categorieën in. Het ging om cybersecurity, chemische en biologische wapens, overtuigingskracht en autonome operaties. Vorig jaar zocht het bedrijf nog actief een nieuwe Head of Preparedness om precies dat werk te leiden.
Ook aan de top verdwenen mensen. Ethiekverantwoordelijke Chloé Bakalar, chief futurist Josh Achiam en veiligheidshoofd Johannes Heidecke vertrokken recent. Jan Leike, die in 2024 zelf opstapte bij OpenAI, zei tegen FT dat het bedrijf veiligheid negeert ten gunste van “shiny products”.
Beursgang op de achtergrond
Dylan Scandinaro, die het preparedness-team leidde en in februari werd weggekaapt bij Anthropic, richt zich voortaan op de gevolgen van “recursive self-improving” AI. De reorganisatie speelt tegen de achtergrond van de verwachte beursgang. Een officiële datum of waardering ontbreekt nog. OpenAI sloot eind maart wel een financieringsronde af op een waardering van 852 miljard dollar. Reuters meldde eerder dat het bedrijf mikt op een IPO tot een biljoen dollar.