Open AI is roekeloos. Het bedrijf achter ChatGPT denkt eerder aan winst dan aan de risico’s die kunstmatige intelligentie met zich meebrengt. Dat zegt een groep medewerkers van het bedrijf in een open brief.
Techbedrijf OpenAI doet volgens de groep van negen medewerkers, waarvan een deel nog steeds bij het bedrijf werkt, onvoldoende om te zorgen dat AI gevaarlijk wordt. Volgens de briefschrijvers vindt OpenAI winst en de groei van het bedrijf belangrijker dan veiligheid. Het bedrijf zou onvoldoende oog hebben voor de risico’s van kunstmatige intelligentie. Verder ontbreekt het aan toezicht.
Het bedrijf zou zich naast roekeloos gedrag, zich schuldig maken aan het verspreiden van desinformatie en niks doen aan het grote risico op discriminatie en uitsluiting die bij het leerproces van de software komt kijken. Volgens de briefschrijvers kan dit zelfs ‘mogelijk leiden tot het uitsterven van de mensheid’.
Zwijgcontracten
De briefschrijvers stellen dat OpenAI ‘keiharde tactieken’ gebruikt om te zorgen dat medewerkers hun mond houden, ook als ze zorgen hebben over de software die het bedrijf ontwikkelt. OpenAI zou medewerkers bijvoorbeeld dwingen tot het tekenen van zwijgcontracten. Die gaan zo ver dat medewerkers ook niets mogen zeggen als ze al bij het bedrijf weg zijn.
De briefschrijvers zijn niet de enigen die flinke kritiek op het bedrijf uiten. AI-onderzoeker en mede-oprichter van OpenAI zelf Ilya Sutskever was eerder al uitermate kritisch op de werkwijze van het bedrijf. Vorig jaar waarschuwde hij al dat het bedrijf er een gevaarlijke werkwijze op nahield. Sutskever ontsloeg vorig jaar topman Sam Altman, voorstander van deze manier van werken. Die keerde later echter terug na spijtbetuigingen van het bestuur.
Commotie
De commotie rond OpenAI groeit sinds de oprichting van de commerciële tak van het bedrijf in 2019. Die kwam tot stand met een meer dan forse kapitaalinjectie van techreus Microsoft. De heuse richtingenstrijd van het bedrijf begon een jaar geleden door te sijpelen naar de rest van de wereld. Het ene deel wil de verdere ontwikkeling van AI juist nog harder aanjagen, terwijl het andere deel juist waarschuwt voor de gevaren en de ontwikkeling daardoor eerst wil remmen. Het debat werd een echte bedrijfscrisis, die Altman zijn baan kostte. Maar dat duurde dus maar kort.
In een reactie op de commotie zegt OpenAI aan de New York Times enkel trots te zijn op het “meest capabele en veilige AI-systemen” en “discussie [daarover] juist wil aanmoedigen”. Wat de eventuele gevolgen zijn voor klokkenluiders blijft nog ongewis.
Lees ook:
- Blijf van mijn brokjes af!