AMD neemt AI-chipbedrijf Taalas over om inferentie sneller en efficiënter te maken

AMD neemt het Canadese AI-chipbedrijf Taalas over om zijn positie op het gebied van AI-inferentie te versterken. Taalas ontwikkelt gespecialiseerde chips die geheugen- en rekenknelpunten bij het uitvoeren van AI-modellen moeten verminderen. AMD wil de technologie integreren met zijn Instinct-GPU's, EPYC-processors en ROCm-software. De overname onderstreept de groeiende concurrentie om efficiëntere AI-hardware en kan op termijn gevolgen hebben voor prestaties, kosten en het energieverbruik van AI-datacenters.

AMD neemt het Canadese AI-chipbedrijf Taalas over. Met de overname wil AMD zijn positie op de snelgroeiende markt voor AI-inferentie versterken. Taalas ontwikkelt gespecialiseerde chips die AI-modellen veel efficiënter moeten kunnen uitvoeren dan algemene processors en GPU’s.

De overname past in AMD’s bredere strategie om niet alleen krachtige AI-GPU’s te leveren, maar een compleet platform voor AI-datacenters op te bouwen.

Taalas richt zich op een belangrijk knelpunt bij AI

Bij AI wordt vaak gesproken over het trainen van modellen, maar zodra een model eenmaal is getraind, moet het ook steeds opnieuw worden uitgevoerd. Dat noemen we inferentie. Iedere keer dat je bijvoorbeeld een vraag aan een chatbot stelt, moet een AI-model die invoer verwerken en een antwoord genereren.

Voor grote AI-diensten gebeurt dat miljoenen of zelfs miljarden keren per dag. Daardoor zijn de kosten voor rekenkracht en geheugen enorm.

Taalas ontwikkelt gespecialiseerde chips die specifiek zijn ontworpen om de geheugen- en rekenknelpunten bij inferentie te verminderen.

AMD zet steeds sterker in op AI-inferentie

De overname staat niet op zichzelf. AMD probeert een steeds groter deel van de AI-infrastructuur in eigen handen te krijgen. Niet alleen de GPU, maar ook CPU’s, geheugenoptimalisatie, software en gespecialiseerde inferentietechnologie moeten samen één platform vormen.

Dat is belangrijk omdat Nvidia momenteel een zeer sterke positie heeft in AI-hardware. De concurrentie tussen beide bedrijven verschuift daardoor van alleen krachtige GPU’s naar complete AI-platformen.

Wat betekent dit voor energieverbruik van AI?

De ontwikkeling is ook vanuit energieperspectief interessant.

AI-datacenters verbruiken enorme hoeveelheden elektriciteit. Een belangrijk deel daarvan gaat naar het uitvoeren van AI-modellen, zeker nu AI steeds vaker wordt gebruikt voor bijvoorbeeld chatbots, zoekmachines, programmeerassistenten en AI-agents.

Als gespecialiseerde hardware dezelfde berekening met minder rekenwerk en minder dataverplaatsingen kan uitvoeren, kan dat theoretisch leiden tot een lager energieverbruik per AI-inferentie.

Dat betekent niet automatisch dat het totale energieverbruik van AI-datacenters zal dalen. Als efficiëntere hardware ervoor zorgt dat AI goedkoper wordt om te gebruiken, kan de vraag juist verder toenemen.

AMD en Taalas AI-chip voor efficiëntere AI-inferentie in datacenters
AMD versterkt zijn AI-portfolio met Taalas-technologie voor snellere en efficiëntere AI-inferentie.

Voor TostieTech is deze overname interessant omdat de AI-chipstrijd een nieuwe fase ingaat.

De afgelopen jaren draaide de discussie vooral om wie de krachtigste GPU kon bouwen. Inmiddels wordt efficiëntie minstens zo belangrijk. AI-modellen worden groter, worden vaker gebruikt en moeten steeds sneller reageren. Iedere verbetering in prestaties per watt kan daardoor op enorme schaal verschil maken.

De technologie van Taalas is daarbij interessant omdat het probeert een fundamenteel probleem aan te pakken: AI kost niet alleen veel rekenkracht, maar ook ontzettend veel dataverkeer tussen rekenkernen en geheugen.

Als AMD erin slaagt om de technologie van Taalas succesvol in zijn Instinct-platform te integreren, kan dat de efficiëntie van toekomstige AI-systemen verbeteren. Voor consumenten zal dat niet onmiddellijk betekenen dat een Ryzen-pc of Radeon-videokaart sneller wordt, maar indirect kan het wel gevolgen hebben.

Efficiëntere AI-hardware kan bijvoorbeeld leiden tot lagere kosten voor cloud-AI-diensten. Daardoor kunnen AI-functies goedkoper worden aangeboden of lokaal krachtiger worden uitgevoerd.

Daarnaast is er een duidelijke link met energie. De explosieve groei van AI zorgt wereldwijd voor een enorme vraag naar datacentercapaciteit en elektriciteit. Hardware die dezelfde hoeveelheid AI-werk met minder energie kan uitvoeren, wordt daardoor steeds belangrijker.

De grote vraag is uiteindelijk of de technologie van Taalas op grote schaal daadwerkelijk de beloofde efficiëntiewinst kan leveren. Dat zullen we pas kunnen beoordelen wanneer AMD concrete producten en prestaties met de geïntegreerde technologie laat zien.

Geef een reactie