De democratisering van deep learning

Google, Intel en Nvidia zien nieuwe groeimarkt opbloeien

Deep Learning is de volgende stap in kunstmatige intelligentie en lijkt voorbehouden aan de techreuzen van nu. De potentiële toepassingen en daarmee ook de markt zijn echter veel groter, geloven bijvoorbeeld Intel en Nvidia.

Google gooide eerder dit jaar hoge ogen met zijn overwinning op de Zuid-Koreaanse wereldkampioen in het klassieke bordspel Go. De aparte Google-divisie AlphaGo voor kunstmatige intelligentie (KI) heeft niet alleen de tegenstander en de wereld verrast met de overwinning op Go-meester Lee Sedol. Na het met 4-1 gewonnen toernooi heeft Google op zijn ontwikkelaarsconferentie I/O onthuld dat de triomferende AlphaGo-software draaide op zelfontworpen speciale hardware.

Googles geheim

Nu is het voor KI-toepassingen als machine learning en het diepergaande deep learning al gangbaar om speciale processors in te zetten. Dit zijn dan grafische chips die normaliter dienst doen op krachtige videokaarten, zoals die voor gamers en grafische professionals. Naast ‘Intel Inside’ CPU’s (central processing units) gaat het hierbij dus om GPU’s (graphical processing units) van AMD en Nvidia. (Zie voor meer achtergrond over deze processoren het artikel ‘De bottleneck van parallel programmeren’ in ICT/Magazine, editie oktober 2015.) Google heeft voor zijn deep learning echter een geheel eigen, nieuwe processor ontwikkeld en laten maken, in het grootste geheim.

Vooralsnog houdt Google die speciale chips voor zichzelf. Niemand buiten de zoekreus krijgt toegang tot de zogeheten TPU’s (tensor processing units, vernoemd naar de TensorFlow-library voor machine learning). Terwijl de TensorFlow-software wel is vrijgegeven als open source houdt Google details over zijn TPU’s geheim. Ondertussen plukken gebruikers van Googles diverse diensten al wel de vruchten van deze versnellingsprocessors voor deep learning. TPU’s drijven al applicaties aan als RankBrain, om relevantere zoekresultaten te presenteren, en StreetView, om kaarten en routenavigatie te verbeteren.

Intel aside

Tegengesteld aan Googles eigen ontwikkeling en daarna eigen gebruik staat de aanpak van fabrikanten als Intel en ook Nvidia. Eerstgenoemde heeft zijn aparte lijn Phi-processors die onder de Xeon-merknaam vallen. In tegenstelling tot de Xeon-serverprocessors zijn Phi-chips ondersteunende rekeneenheden, vervat in insteekkaarten. Ondertussen gaat Nvidia, vooral bekend van zijn videokaartchips, een flinke stap verder.

Het is de Amerikaanse chipmaker te doen om niets minder dan de democratisering van deep learning, vertelt vice-president Jaap Zuiderveld aan ICT/Magazine. Nvidia maakt namelijk niet alleen snelle chips voor video- en rekenkaarten van andere fabrikanten. Evenmin houdt de firma het bij complete ontwerpen die derden zo mogen overnemen en op de markt brengen. Nvidia wil zelf de serverracks van gewone bedrijven in en biedt daarvoor een kant-en-klare appliance: de DGX-1.

Nvidia-appliance

“De eerste supercomputer in een 3U hoge appliance”, claimt de Nederlandse topman. Hij schetst het brede toepassingsveld voor deep learning, dat anno nu echt niet meer is voorbehouden aan alleen de allergrootste organisaties met de allergrootste dataproblemen. Ook kleinere bedrijven en instanties hebben met grote hoeveelheden gegevens te maken en willen daar nuttige analyses op uitvoeren.

Zuiderveld vertelt dat de krachtige appliance van Nvidia meer is dan alleen een stuk hardware. De supercomputer-in-een-doos komt compleet met software: frameworks voor data-analyse. Hierdoor kan de DGX-1 direct in gebruik worden genomen, verzekert de leverancier. “We willen deep learning echt toegankelijk maken.”

Kansen voor Europa

Nvidia denkt vooral in Europa hoge ogen te kunnen gooien. “Want hier hebben we geen Google, Facebook, Microsoft Azure enzovoort”, legt Zuiderveld uit. Natuurlijk, die Amerikaanse reuzen zijn hier wel actief, maar het ontbreekt aan ‘lokale’ tegenhangers. Deep learning kan de voorsprong vanuit de VS nivelleren voor Europese ondernemingen, zo is de gedachte.

“Deep learning komt echt op nu”, stelt Zuiderveld. Hij ziet drie grote aanjagers van deze ontwikkeling. Ten eerste de groei van big data: de enorme hoeveelheden informatie waar organisaties goud uit kunnen putten. “Heel veel bedrijven zijn op zoek naar duiding in véél data.” Dit kan interne data van een reus als Unilever zijn, maar ook externe data zoals de reacties van klanten op een impactvolle gebeurtenis. Wat klanten zeggen maar ook daadwerkelijk dóen is dan geen geheim meer.

Exponentiële rekenkrachttoename

Ten tweede is er de enorm toenemende rekenkracht van GPU’s. Nvidia’s nieuwste chips van de Pascal-architectuur geven een factor tien tot twaalf prestatieverbetering, zo geeft Zuiderveld aan. “De prestaties nemen niet ‘slechts’ toe met een factor twee”, zoals in het verleden toch de norm was. En Nvidia is niet de enige die prestatiesprongen maakt. Ook Google met zijn eigen TPU’s voor eigen gebruik en Intel met de wel verkrijgbare Phi’s claimen flinke vooruitgang.

En ten derde is er de erkenning van deep learning, rondt Zuiderveld zijn opsomming af. De mogelijke toepassingen van KI en specifiek deep learning worden steeds breder. Dit is mede aangedreven door het fors toenemende GPU-rekenvermogen tegen relatief licht stijgende kosten. Naast computerwetenschappelijk – en PR-technisch – interessante zaken als schaak en Go komen er nieuwe, praktisch toepasselijke gebruiksscenario’s op. Het gaat dan om slimme systemen die al doende kunnen leren en bijleren.

Al doende leren

Zelfleren voor een bepaalde taak neemt dan de plaats in van vooraf programmeren. Voorprogrammeren kan namelijk problemen geven met onvoorziene zaken of onduidelijkheden. Een concreet voorbeeld is beeldherkenning voor auto’s, die meesturend of echt zelfrijdend kunnen zijn, zodat versleten wegmarkeringen toch als zodanig worden herkend. Andere voorbeelden zijn analyse van bezorgproblemen door webwinkels of pakketbezorgers, waarbij vele miljarden records doorgespit moeten worden.

Daarnaast zijn er in landen als Frankrijk, Spanje en ook Nederland start-ups actief bezig met deep learning voor toepassingen als robotics en intelligente videosurveillance. De te boeken resultaten en de mate van zelflerend vermogen hangen af van hoe diep het gebruikte model van deep learning is en dat is grotendeels een kwestie van vermogen. Toch meent Zuiderveld dat hardware en software nu niet langer de hordes vormen. “De grootste uitdaging is niet de techniek, maar de kennis erover.” Kortom, de behoefte aan ict-experts.

Jaap Zuiderveld

Jaap Zuiderveld

Gerelateerde berichten...