• TWEAK
• Hardware
• Processor

Ny AI Chip Revolutionerer ChatGPT

Nvidia's H100 og B200 Graphics Processing Units (GPUs) er kraften bag AI-chatbots som ChatGPT. Disse chipsets har sendt Nvidia i spidsen for AI-hardwareindustrien, med en markedsværdi på over 3 billioner dollar - mere end Microsoft og Apple sidste måned. 

Men nu har en relativt ung startup grundlagt af to Harvard-dropouts sat deres øjne på en del af AI-hardwarekagen. Etched, et Californien-baseret startup firma, er ude på at forstyrre AI chipset-markedet med deres transformer ASIC chip ved navn Sohu. Sohu hævder at være 20 gange hurtigere til at køre transformermodeller som ChatGPT end Nvidia's flagskib H100. 

B200, som er Nvidias mere kraftfulde tilbud end H100, er ifølge virksomhedens hævder 10 gange langsommere end Sohu, baseret på emulationstests. Sohu tager en helt anderledes tilgang til at levere høj beregningskraft til at køre milliarder af parametre for transformermodeller. I modsætning til GPU'er, der kan udføre flere beregningstunge opgaver, vælger Etched at skabe en specialiseret chip, der kun er designet til transformer AI-modeller - dem der driver ChatGPT, Sora og Google's Gemini. 

Dette betyder, at Sohu ikke kan køre andre AI-modeller som Convolutional Neural Networks. Dette åbner op for muligheden for at udforske nye AI-produkter, som indtil nu ikke har været mulige på grund af begrænset kraft på GPU'er. 

Etched har hævdet, at de allerede har forudbestillinger for "millioner af dollars". Virksomheden har også sikret en aftale med TSMC (Taiwan Semiconductor Manufacturing Company) om at fabrikere den 4-nanometer chip, med løfte om at denne aftale vil hjælpe med at "opskalere vores første produktionsår."