3min Gadgets

Microsoft Surface Laptop Ultra: AI-krachtpatser met RAM-probleem

Microsoft Surface Laptop Ultra: AI-krachtpatser met RAM-probleem

Na maanden speculatie en lekken is de Microsoft Surface Laptop Ultra bekendgemaakt, uitgerust met de Nvidia RTX Spark-chip. Een Europees equivalent van de startprijs is er nog niet, met de 2.599 dollar uit de VS als beste indicatie. Voor die prijs krijg je geen workstation: 8 cores, 24GB aan RAM en 512GB aan opslag. Wel is de ingebouwde magnetische USB-C-oplader als premium ogende feature aanwezig.

Met 128GB aan geheugen, waarbij de AI-workstation een zinnige hoeveelheid RAM voor vaardige AI-modellen heeft, is de Surface Laptop Ultra bijna 6000 dollar. Op dat prijsniveau is er een ander aangekondigd alternatief, de Surface RTX Spark Dev Box, als mini-pc voor developers met tevens 128GB aan RAM. Pre-orders zijn begonnen, leveringen worden verwacht op 16 oktober.

Nvidia als CPU en GPU

Na de introductie van Qualcomm als Windows-speler in 2024 is de hypecyclus rondom Windows op Arm rap afgenomen. Hoewel de systemen efficiënt en capabel zijn voor veel gebruikers, is compatibiliteit nog altijd niet perfect en zijn Intel en AMD in staat gebleken hun accuduur en prestaties aanzienlijk te verbeteren.

Nu volgt Nvidia met een eigen RTX Spark-chip, ook wel een System-on-a-Chip (SoC) als optelsom van CPU en GPU. Dit betekent dat de hardware van ‘unified memory’ voorzien is: één geheugenreservoir voor alle taken. Dit is voor lokale AI-workloads van groot belang, omdat alle parameters van een LLM in het geheugen geladen moeten zijn voor snelle prestaties.

RAM als bottleneck

Het probleem waar de Surface Laptop Ultra, en menig consument, tegenaan loopt, is de RAM-crisis. Doordat geheugen tegenwoordig peperduur is dankzij de grote vraag ernaar, is het niet per se aantrekkelijk om zelf de hardware in te kopen voor AI. Het probleem: omdat er dan enkel AI op afstand te koop is, zoals Claude, ChatGPT of allerlei via API opvraagbare modellen, groeit de vraag op dat gebied en kopen de leveranciers daarvan meer geheugen in. Zie hier hoe de prijsspiraal doordendert.

Het gevolg hiervan is dat het instapmodel van de Microsoft Surface Laptop Ultra erg beperkt is. 24GB, hoewel unified, is ronduit weinig voor AI. Dat is evenveel als een RTX 4090-GPU te bieden heeft; het verschil is dat die chip als losse grafische kaart veel sneller te werk gaat ten koste van veel meer verbruik. Maar de rest van de PC heeft dan nog meer DRAM voor het draaien van het systeem zelf, waar unified memory een balans moet zijn. Werkelijk 24GB gebruiken voor één LLM is dus niet denkbaar: het OS, andere processen en eventuele applicaties hebben ook ruimte in het geheugen nodig.

MacBook-alternatief

Consumenten hebben uiteindelijk weinig te willen als het om de prijzen gaat. Wel is er de keuze tussen Apple en Microsoft. De Surface Laptop Ultra is expliciet een tegenhanger van de MacBook Pro met M5 Pro-chip. De specificaties voor het instapmodel zijn zelfs erg vergelijkbaar: een 18-core CPU, 24GB aan RAM en Wi-Fi 7. Bluetooth 6 ontbreekt echter bij het Microsoft-model, met ‘slechts’ 5.4 aanwezig.

Uiteindelijk zijn beide ecosystemen praktisch het equivalent van elkaar als je eenmaal hetzelfde AI-model draait met de benodigde hardware. Het voordeel voor Windows is een grotere compatibiliteit met onder meer Nvidia’s CUDA-stack voor AI-ontwikkeling. Tevens is het geheugen níét gesoldeerd zoals op de MacBook bij de Surface Laptop Ultra. Wie dus kiest voor het 24GB-model, zou (indien de RAM-crisis niet verergert) zelf voor een upgrade kunnen kiezen.

Lees ook: Microsoft ziet toekomst voor ‘intelligenter’ Windows dankzij AI-chips