OpenAI is een initiatief van tech-miljardairs Elon Musk en Sam Altman. Hun doelstelling: kunstmatige intelligentie losmaken van corporate controle en ten goede laten komen aan de gehele mensheid. Of het echt wel zo’n nobel initiatief is, valt nog te bezien. En ook is het de vraag of het wel op tijd komt.
Op 11 december 2015 werd OpenAI (1) gelanceerd tijdens een conferentie over neurale netwerken in Montreal, Canada. De initiatiefnemers schoven samen één miljard dollar aan funding onder deze non-profit start-up. Genoeg om nog jaren verder te kunnen zonder een greintje geldzorg. Zo kan de organisatie zich helemaal concentreren op een positieve impact voor de mensheid, aldus een verklaring die op de website van het initiatief is gezet. Daarin staat ook de volgende zin: “Wij geloven dat AI een uitbreiding (‘extension’) zou moeten zijn van de individuele menselijke wil en in een geest van vrijheid zo breed en gelijkelijk als maar kan verspreid zou moeten worden.” Mooi toch?
Naar de letter
Of toch niet? Laten we wat preciezer kijken naar de bewoordingen in deze oprichtingsverklaring. De vraag is wat onder ‘uitbreiding van de individuele menselijke wil’ moet worden verstaan. Ik kan mij daar namelijk niets bij voorstellen. Je wil is immers je wil. Wat zou een uitgebreide wil zijn? Hoe ziet zoiets er uit? Ik kan me wel iets bij een ‘uitbreiding op’ mijn wil voorstellen, namelijk een ‘extern’ element. Iets dat niet ‘eigen’ is. Denk niet dat dit een woordenspel is, want het raakt aan de kern van de discussie rondom AI. Die kern is een heel simpele vraag: wie is de baas?
Interessant zijn daarom ook de woorden ‘zou moeten zijn’ (‘should be’) in de verklaring. Waarom is er niet gekozen voor de gebiedende wijs (‘must be’)? Should be laat ruimte open voor een minder ethische koers in de toekomst. En ook dit is geen woordenzifterij. Wie herinnert zich nog de begindagen van Google? Het roemruchte ‘do no evil’ waarmee Google zichzelf toen profileerde en zich afzette tegen de gevestigde it-reuzen? Als je de startverklaring van OpenAI naar de letter leest, dan stuit je op twee belangrijke vragen: wie is de baas en wat is de morele basis van een (grote) it-onderneming?
Niet in alles open
Maar er zijn meer vragen. OpenAI ontwikkelt zich niet in een vacuüm. De grote corporate research-instellingen, waarvan dit non-profit initiatief zich wil onderscheiden, doen forse inspanningen op het vlak van AI. OpenAI zou hen alleen op afstand kunnen houden als het een enorme doorbraak zou weten te bewerkstelligen om die vervolgens op de een of andere manier exclusief te houden. Maar dat is in strijd met haar eigen uitgangspunt. Als alles van OpenAI open source is en ten goede komt aan de gehele mensheid, dan hebben ook organisaties en individuen die niet het beste met ons voorhebben daar toegang toe.
In een interview met Andrej Karpathy, een van de medewerkers van het eerste uur van OpenAI, wordt precies op deze tegenstrijdigheid ingezoomd. Wat nu als OpenAI een grote doorbraak bereikt richting superintelligentie, zo luidt de vraag, wordt die doorbraak dan ook gedeeld met de wereld? “Daar praten we dan eerst intern over”, luidt het antwoord. “We zijn niet verplicht om alles te delen – in die zin is de naam van de onderneming verkeerd gekozen. Ons uitgangspunt is dat we dat standaard wel doen.”(2). Hier lijkt het initiatief dus in zijn eigen staart te bijten. Er is een verschil gemaakt tussen standaard en niet standaard. Conclusie: wat wel en niet gedeeld wordt en wie dat bepaalt, is bij OpenAI nog een open vraag.
Lesser evil
Daar komt bij dat Elon Musk en Sam Altman geen filantropen zijn, maar topondernemers met allebei een wolk van bedrijven, die volop meedraaien in de reguliere kapitalistische economie. Musk met Tesla Cars en ruimtevaartonderneming SpaceX en Altman met zijn investeringsfirma Y Combinator, waarmee hij honderden it- en tech-start-ups financiert en aan zich bindt.
Vanuit dit perspectief kun je OpenAI zien als een ‘shared AI research center’, een krachtenbundeling van de beide techgiganten om – komend vanuit een achterstandspositie – te kunnen aanhaken bij het AI-ontwikkelingsgeweld van onder meer Google, IBM, Microsoft en Amazon, en enkele autofabrikanten, zoals Toyota en BMW. OpenAI is dan een handige manoevre om toptalent aan te trekken en zich te verzekeren van open source medewerking door mee-ontwikkelaars, verspreid over de hele wereld.
Maar, je kunt Musk en Altman ook het voordeel van de twijfel geven en geloof hechten aan hun verzekering dat ze tegenwicht willen bieden aan greedy it-superpowers die AI zouden kunnen misbruiken.
Andrej Karpathy zegt in dit verband in het eerder aangehaalde interview dat OpenAI een ‘lesser evil’ is. Hij doelt dan op de grote maatschappelijke risico’s die aan de ontwikkeling van AI verbonden zijn. Er is vooral nervositeit rondom computersystemen die net zo slim of slimmer zijn dan de mens en die ‘out of control’ zouden kunnen raken. Als zulke systemen er toch al komen, aldus Karpathy, dan liever niet exclusief in handen van private ondernemingen. Maar hoe je het ook wendt of keert, Tesla Cars, SpaceX en Y Connector zijn toch echt… private ondernemingen.
Opzienbarend
OpenAI zal flink aan de bak moeten, want onlangs verraste Google vriend en vijand met een nieuwe doorbraak in AI. Dat gebeurde met AlphaGo, een machine die door het team van Google’s Deepmind is ontwikkeld. AlphaGo versloeg onlangs Lee Sedol, een van de sterkste Go-spelers van de wereld (3) tijdens een best of five tournooi van 8 tot 15 maart 2016 in hotel Four Seasons in Seoul, Zuid-Korea. Nadat het eerst 3-0 werd, kwam Sedol terug met zijn eerste winst in de vierde partij. Maar uiteindelijk bepaalde AlphaGo de eindstand op 4-1. Het verlies van Lee Sedol is opzienbarend, want Go is een spel dat je niet met alleen rekenkracht kunt winnen. Er komt ook intuïtie en ‘feeling’ bij kijken.
Google heeft met AlphaGo dan ook een grote stap gezet op de weg naar een AGI, een Artificial General Intelligence: een systeem dat in een reeks opzichten aan de mens gelijk is. Op het punt van Go is de computer ons zelfs al de baas. Zoals dat eerder met schaken het geval was – IBM’s Deep Blue versloeg in 1997 immers schaakgrootmeester Garry Kasparov. We zijn er inmiddels aan gewend dat de computer sommige dingen beter doet dan wij. Maar intuïtie en feeling – dat is iets nieuws.
De nervositeit van de techgiganten draait om de ontwikkeling van deze human-like intelligentie (AGI). Wie zal straks de eerste zijn? Wie zal de scepter over deze machine-intelligentie zwaaien? En over de ASI (met de S van superintelligentie) die daar geheid op gaat volgen?
Een AGI werd tot voor kort zo rond 2024 verwacht. De ontwikkelingen bij Google’s Deepmind laten zien dat we daar misschien een paar jaar af moeten halen. De vraag is dan ook of Musk en Altman nog wel op tijd zijn met hun initiatief.
(1) https://openai.com/blog/introducing-openai/
(2) https://singularityhub.com
(3) https://deepmind.com/alpha-go.html
