Nvidia och CoreWeave rullar ut Vera Rubin – upp till 4,8 gånger snabbare
Nvidia och CoreWeave rullar ut nya AI-system baserade på Vera Rubin-arkitekturen som levererar upp till 4,8 gånger högre genomströmning vid tester. AI-labbet Cognition är första kunden som kör skarpa arbetslaster på den nya infrastrukturen.
Av Techindex AI ·
Nvidia och molnbolaget CoreWeave rullar ut nästa generations AI-infrastruktur baserad på Vera Rubin-arkitekturen. Det skriver Nvidia i ett blogginlägg. Systemen Nvidia Vera Rubin NVL72 kombineras med nätverkstekniken Spectrum-X 102.4T Ethernet och görs nu tillgängliga via CoreWeaves molntjänst. AI-bolaget Cognition, som utvecklar AI-programmeraren Devin, är den första kunden som kör skarpa arbetslaster på den nya hårdvaran.
Tidiga tester hos Cognition visar att systemet levererar upp till 4,8 gånger högre genomströmning av tokens för inferenslaster jämfört med GB200 NVL72. Enligt Silas Alberti i Cognitions grundarteam innebär prestandavinsterna snabbare kodgenerering i realtid och mer responsiva resonemang i flera steg för Devin. CoreWeave tog emot sina första produktionsrack av systemet tidigare under månaden och driftsatte ett kluster för Cognition på några dagar.
CoreWeave kommer även att erbjuda processorn Nvidia Vera CPU, som utvecklats för autonoma AI-agenter. Bolagets installation rymmer 128 processorer och 11 264 kärnor i ett enda rack, vilket möjliggör över 11 000 samtidiga miljöer med en kärna vardera. I tester uppnådde CoreWeave mer än tre gånger snabbare uppstartstider för isolerade testmiljöer på processorerna.
Samtidigt lanserar molnleverantören CoreWeave Forge, en samlad miljö för att träna, utvärdera och förbättra modeller på Nvidias hårdvara. Canva, Capital One och Masterclass hör till de första bolagen som bygger på den nya plattformen.
Skriven av AI och faktagranskad av en andra AI mot källan före publicering. Så arbetar vi
Så vet vi det12 uppgifter, var och en med ordagrant citat ur källanVisa
Nvidia och molnbolaget CoreWeave rullar ut nästa generations AI-infrastruktur baserad på Vera Rubin-arkitekturen.
”Now, CoreWeave is bringing the next generation of NVIDIA infrastructure to production.”
Källa: blogs.nvidia.com ↗Systemen Nvidia Vera Rubin NVL72 kombineras med nätverkstekniken Spectrum-X 102.4T Ethernet och görs nu tillgängliga via CoreWeaves molntjänst.
”At CoreWeave Fully Connected, running this week in San Francisco, CoreWeave announced availability of NVIDIA Vera Rubin NVL72 systems with Spectrum-X 102.4T Ethernet networking.”
Källa: blogs.nvidia.com ↗AI-bolaget Cognition, som utvecklar AI-programmeraren Devin, är den första kunden som kör skarpa arbetslaster på den nya hårdvaran.
”Cognition, the applied AI lab behind the Devin AI software engineer, is the first customer running production workloads on Vera Rubin.”
Källa: blogs.nvidia.com ↗Tidiga tester hos Cognition visar att systemet levererar upp till 4,8 gånger högre genomströmning av tokens för inferenslaster jämfört med GB200 NVL72.
”In its early tests, Cognition saw Vera Rubin NVL72 deliver up to a 4.8x increase in total token throughput for SWE-2 inference workloads over GB200 NVL72.”
Källa: blogs.nvidia.com ↗Enligt Silas Alberti i Cognitions grundarteam innebär prestandavinsterna snabbare kodgenerering i realtid och mer responsiva resonemang i flera steg för Devin.
”For Devin, those gains mean faster real-time code generation and more responsive multistep reasoning.”
Källa: blogs.nvidia.com ↗CoreWeave tog emot sina första produktionsrack av systemet tidigare under månaden.
”Earlier this month, CoreWeave received its first Vera Rubin NVL72 production racks.”
Källa: blogs.nvidia.com ↗CoreWeave driftsatte ett kluster för Cognition på några dagar.
”In days, CoreWeave stood up a production Vera Rubin cluster for Cognition, achieved as a result of the codesign and collaboration between NVIDIA and CoreWeave up and down the stack, from infrastructure to tokens served.”
Källa: blogs.nvidia.com ↗CoreWeave kommer även att erbjuda processorn Nvidia Vera CPU, som utvecklats för autonoma AI-agenter.
”CoreWeave will also offer NVIDIA Vera, the first CPU built for AI agents.”
Källa: blogs.nvidia.com ↗Bolagets installation rymmer 128 processorer och 11 264 kärnor i ett enda rack, vilket möjliggör över 11 000 samtidiga miljöer med en kärna vardera.
”CoreWeave’s deployment of Vera puts 128 CPUs and 11,264 cores in a single rack, enough for more than 11,000 concurrent environments at one core each.”
Källa: blogs.nvidia.com ↗I tester uppnådde CoreWeave mer än tre gånger snabbare uppstartstider för isolerade testmiljöer på processorerna.
”In testing, CoreWeave achieved more than 3x faster agent sandbox startup times on NVIDIA Vera CPUs, accelerating and scaling its sandboxes, an execution layer for reinforcement learning (RL), agent tool use and model evaluation that let AI teams run code in isolated environments on CoreWeave.”
Källa: blogs.nvidia.com ↗Samtidigt lanserar molnleverantören CoreWeave Forge, en samlad miljö för att träna, utvärdera och förbättra modeller på Nvidias hårdvara.
”In addition, CoreWeave launched CoreWeave Forge, a connected environment for training, evaluating and improving models and agents on NVIDIA accelerated computing.”
Källa: blogs.nvidia.com ↗Canva, Capital One och Masterclass hör till de första bolagen som bygger på den nya plattformen.
”Canva, Capital One and MasterClass are among the first companies building on Forge.”
Källa: blogs.nvidia.com ↗
Uppgifterna kommer ur avsändarens eget pressmeddelande, på engelska — citaten här står i originalets ordalydelse. En andra AI har jämfört översättningen med källan. Så arbetar vi
Techindex Morgon
Gårdagens technyheter i mejlen, måndag till lördag kl 06.30. Gratis, och du avslutar med ett klick.
Vi sparar bara din adress. Så hanterar vi den