Dell generatieve AI-open ecosysteem uitgebreid met AMD Instinct Accelerators

Dell en AMD presenteren een uitbreiding van het Dell Generative AI Solutions-portfolio en werken hiermee verder aan het versnellen van geavanceerde workloads en het bieden van meer keuze zodat bedrijven hun unieke GenAI-reis kunnen voortzetten. Deze nieuwe technologie benadrukt de cruciale rol van open ecosystemen en siliciumdiversiteit om klanten eenvoudige, betrouwbare en op maat gemaakte oplossingen te bieden om AI naar hun data te brengen.

De explosieve groei van data en de vraag wat we ermee moeten doen, staan centraal in het huidige AI-landschap. AI is de nieuwste innovatie en het is van belang dat organisaties toegang hebben tot de rekenkracht die nodig is om te innoveren. Samen met AMD biedt Dell klanten meer keuze om hun AI en GenAI workloads te verwerken dan ooit tevoren.

Dell PowerEdge XE9680 met AMD Instinct MI300X
De Dell PowerEdge XE9680, de snelste ramping-oplossing in de geschiedenis van Dell [2], ondersteunt de aankomende AMD Instinct MI300X accelerator die klanten meer keuze biedt wat betreft AI-prestaties. De PowerEdge XE9680 met AMD Instinct MI300X biedt krachtige mogelijkheden voor organisaties die de waarde van hun data willen ontsluiten en hun organisatie willen differentiëren met op maat gemaakte grootschalige taalmodellen (large language models, LLM’s).

De oplossing heeft acht MI300X GPU’s, 192 GB 5,3 TB/s High Bandwidth Memory (HBM3) per GPU voor een totale coherente HBM3-capaciteit van 1,5 TB per server en meer dan 21 petaflops aan FP16-prestaties. Hierdoor is de PowerEdge XE9680 met MI300X klaar om de toegang tot GenAI verder te democratiseren voor organisaties die grotere modellen willen trainen, hun datacenter voetafdruk willen verkleinen, lagere TCO willen en een voorsprong op de concurrentie willen nemen.

De PowerEdge XE9680 biedt krachtige prestaties en is een kampioen op het gebied van beveiliging en eenvoud. Dell Open Manage Enterprise-software vereenvoudigt en versnelt de implementatie van GenAI-infrastructuur, terwijl CloudIQ-software intelligente automatisering vanaf elke locatie biedt. De PowerEdge XE9680 wordt ondersteund door geïntegreerd cyberherstel en een brede Zero Trust-aanpak voor betere beveiliging.

De PowerEdge XE9680 maakt gebruik van het AMD Instinct Platform – mogelijk gemaakt door acht AMD Instinct MI300X accelerators – dat bijna-lineaire schaalbaarheid en gedistribueerde GenAI-training en inferencing met lage latency met Global Memory Interconnect (xGMI) mogelijk maakt. Dit alles over een cluster van PowerEdge-servers die MI300X GPU’s met elkaar verbindt via een op Ethernet gebaseerde AI-fabric, met behulp van een door Dell gevalideerde GPU-fabric met Dell PowerSwitch Z9664F-ON.

Gerelateerde berichten...