AMD heeft zijn nieuwe MI300X AI Accelerator chip onthuld, een directe uitdaging voor NVIDIA’s heersende H100, in een zet om zijn succes in de industriële waanzin over AI te benutten. De nieuwste toevoeging aan het AI-chiparsenaal van de techgigant is bedoeld om NVIDIA’s dominantie in de AI-versnellingsmarkt te verstoren.
De MI300X is speciaal ontworpen voor AI-taken en heeft tot 192 GB geheugen, waardoor het een ideale keuze is voor het uitvoeren van grote modellen zoals LLM’s. AMD’s keuze voor een configuratie met veel geheugen is een strategische keuze, waardoor uitgebreide modellen eenvoudig kunnen worden ingezet. AI-training vereist enorme rekenkracht, maar heeft over het algemeen veel vRAM nodig om informatie op te slaan tijdens trainingssessies – dit is de reden waarom sommige gaming GPU’s goed zijn om crypto te delven, maar niet echt geweldig zijn voor AI-taken.
Verder is de onderliggende architectuur van de chip ontworpen om generatieve AI workloads soepel te ondersteunen. AMD CEO Lisa Su wijst erop dat de nieuwste generatie toonaangevende modellen gemakkelijk een thuis kunnen vinden in de 192 GB HBM3 (high-bandwidth memory) van de MI300X.
“Met al die extra geheugencapaciteit hebben we eigenlijk een voordeel voor modellen met grote talen, omdat we grotere modellen direct in het geheugen kunnen draaien.” Lisa Su ging verder en legde uit dat gebruikers minder GPU’s nodig zullen hebben om dezelfde taken in minder tijd uit te voeren.
Deze productlancering komt op een moment dat de marktkapitalisatie van NVIDIA de grens van $ 1 biljoen heeft bereikt. Hoewel de marktkapitalisatie van AMD daar niet mee te vergelijken is – die is net iets meer dan 207 miljard dollar – onderstreept de lancering van de MI300X AMD’s vastberadenheid om zijn stempel te drukken op het groeiende AI-landschap.
Om zijn vastberadenheid verder aan te tonen, heeft AMD tijdens de onthulling van de chip met succes de Falcon 40B LLM uitgevoerd op de MI300X. Volgens Su is dit de “eerste keer dat een LLM van deze omvang volledig in het geheugen kan worden uitgevoerd”.
AMD: een sterke concurrent voor Nvidia’s dominantie in de AI-ruimte
In een gelijktijdige onthulling heeft AMD een update uitgebracht voor RocM, een softwarestack voor het programmeren van grafische verwerkingseenheden (GPU’s) die een robuuste concurrent is voor NVIDIA’s CUDA-taal. De aanzienlijke geheugenbandbreedte die beschikbaar is met de MI300X zou bedrijven kunnen overhalen om minder GPU’s aan te schaffen, waardoor AMD een overtuigende waardepropositie biedt, met name voor kleinere bedrijven met lichte tot middelzware AI-workloads.
AMD heeft sterk geprofiteerd van de AI-hype en de aandelen zijn dit jaar flink gestegen. De stijging van het bedrijf heeft niet alleen de aandacht van investeerders getrokken, maar ook positieve gesprekken in de sector gegenereerd.
Evolutie van de aandelenkoersen van AMD in 2023. Afbeelding: Tradingview
Kan AMD de volgende NVIDIA worden? Het is een moeilijke vraag, gezien het enorme verschil in hun marktkapitalisatie. Eén ding is echter zeker: AMD’s MI300X AI Accelerator is een kracht om rekening mee te houden.
In deze AI-gedreven arena gaat het niet alleen om de grootte van de speler, maar ook om de kracht van hun spel. Nu AMD op de plaat stapt, zal de wereld toekijken om te zien of deze underdog een homerun kan slaan.
