Dell heeft de Dell Pro Max met GB10-superchip gelanceerd, nadat dit ‘desktopwerkstation met datacenterprestaties’ in maart van dit jaar al werd gepresenteerd. De desktop is gericht op onderzoekers, ontwikkelaars en studenten die bezig zijn met AI, oftewel kunstmatige intelligentie.
De Pro Max levert tot 1 petaflop aan AI-rekenkracht en is uitgerust met 128GB unified geheugen. AI-modellen tot 200 miljard parameters kunnen zo verwerkt worden. Dell noemt dat computers vaak beperkingen hebben qua rekenkracht als deze gebruikt worden voor AI-doeleinden. Grote AI-modellen zorgen namelijk al snel voor overbelaste standaardwerkstations. Organisaties die hiermee werken kunnen dan kiezen voor kostbare cloudoplossingen, werken onder strikte regelgeving voor gevoelige data of moet modellen verkleinen om er zo wel mee aan de slag te kunnen.
Er zijn tal van mogelijkheden te bedenken om de potentie van deze Pro Max-supercomputer te benutten. Zo kunnen grote AI-modellen lokaal worden getraind en hebben gebruikers geen hoge kosten voor clouddiensten. Ook individuele ontwikkelaars of contentcreators kunnen zo aan de slag dankzij de grote hoeveelheid rekenkracht.
Verouderde systemen zorgen voor verliezen van honderden miljoen bij bedrijven
Nvidia Project Digits
De GB10 Grace Blackwell-superchip is het kloppende hart van de GB10-desktop en werd door Nvidia geïntroduceerd in januari van dit jaar. Er kunnen twee Dell-systemen aan elkaar gekoppeld worden om zo de rekenkracht te verdubbelen. Ook zijn verschillende tools voorgeïnstalleerd waaronder: AI Workbench, CUDA, Docker en JupyterLab.
Voor ontwikkelaars is het met deze krachtpatser mogelijk om modellen te verplaatsen tussen omgevingen, bijvoorbeeld van de desktop naar de cloud, zonder dat er veel code moet worden aangepast. Modellen ontwikkelen en testen kan zo lokaal, terwijl er verder gewerkt kan worden in de cloud of in een datacenter.
Eerder presenteerde Dell ook de nog krachtigere Pro Max met GB300-chip. Die computer is vooral gericht op AI-ontwikkelaars en -teams die prestaties nodig hebben op serverniveau. Dat systeem is voorzien van 784GB geünificeerd geheugen en levert tot 20 petaflops aan rekenkracht voor AI-toepassingen. Daardoor kun je AI-modellen trainen en uitvoeren met tot 460 miljard parameters.