• TWEAK
• Teknologi

NVIDIA lancerer nye CUDA-biblioteker

NVIDIA har lanceret en række nye CUDA-biblioteker med det formål at udvide mulighederne inden for accelereret computing. Ifølge NVIDIA Blog lover disse biblioteker betydelige forbedringer i hastighed og energieffektivitet på tværs af en række applikationer.

De nye biblioteker retter sig mod forskellige applikationer, herunder store sprogmodeller (LLM), databehandling og fysisk AI. Nogle af de vigtigste højdepunkter inkluderer:

Virksomheder over hele verden tager i stigende grad NVIDIAs løsninger til accelereret computing i brug, hvilket resulterer i bemærkelsesværdige hastighedsforøgelser og energibesparelser. For eksempel kører CPFD's Barracuda Virtual Reactor-software, som bruges i genanvendelsesfaciliteter, 400 gange hurtigere og 140 gange mere energieffektivt på CUDA GPU-accelererede virtuelle maskiner sammenlignet med CPU-baserede arbejdsstationer.

En populær videokonferenceapplikation oplevede en 66x hastighedsforøgelse og en 25x forbedring i energieffektivitet efter at have migreret sit system til live-tekstning fra CPU'er til GPU'er i skyen. På samme måde reducerede en e-handelsplatform latenstid og opnåede en 33x hastighedsforøgelse samt næsten 12x forbedring i energieffektivitet ved at skifte til NVIDIAs accelererede cloud computing-system.

NVIDIA estimerer, at hvis alle AI-, HPC- og dataanalytiske arbejdsbelastninger, der i øjeblikket kører på CPU-servere, blev skiftet til CUDA GPU-accelererede systemer, kunne datacentre spare 40 terawatt-timer energi årligt – svarende til energiforbruget i 5 millioner amerikanske hjem om året.

Accelereret computing udnytter CUDA GPU'ernes parallelle behandlingsmuligheder til at udføre opgaver meget hurtigere og mere energieffektivt end CPU'er. Selvom tilføjelse af GPU'er øger det maksimale energiforbrug, er det samlede energiforbrug markant lavere på grund af den hurtigere opgaveafslutning og den efterfølgende lavenergitilstand.

NVIDIA leverer et alsidigt sæt biblioteker optimeret til forskellige arbejdsbelastninger. De nye opdateringer udvider CUDA-platformen til at understøtte et bredere udvalg af applikationer:

• NeMo Curator og Nemotron-4 340B tilbyder avancerede muligheder for at skabe brugerdefinerede datasæt og generere syntetiske data af høj kvalitet.
• cuVS og Polars giver betydelige præstationsforbedringer, hvilket muliggør storskala databehandling med forbedret effektivitet.
• Warp, Aerial og Sionna introducerer nye funktioner til fysiksimuleringer og forskning i trådløse netværk, hvilket øger mulighederne på disse platforme.

NVIDIAs CUDA-biblioteker er essentielle for at accelerere specifikke arbejdsbelastninger og tilbyder specialiserede værktøjer til at imødekomme forskellige beregningsbehov. Med over 400 biblioteker fortsætter NVIDIA med at være førende inden for levering af kraftfulde og effektive løsninger til moderne computing-udfordringer.