• TWEAK
• Teknologi

Nvidia præsenterer AI-chatbot til PC'er

I tirsdags offentliggjorde Nvidia en teknologidemo med navnet "Chat med RTX." Softwaren er gratis at downloade og giver brugerne mulighed for at bruge open source AI store-sprogmodeller - inklusive Mistral eller Meta Platforms 'Llama 2 - til at interface med deres filer og dokumenter. 

Efter en bruger peger "Chat med RTX" på en mappe på deres computer med .txt, .pdf og Microsoft Word-dokumenter, kan de stille chatboten spørgsmål om informationer indeholdt i filerne. 

Nvidia holdet forklarede: "Siden Chat med RTX kører lokalt på Windows RTX-computere og arbejdsstationer, er de fremlagte resultater hurtige - og brugerens data forbliver på enheden. I stedet for at stole på skybaserede LLM-tjenester, lader Chat med RTX brugerne behandle følsomme data på en lokal PC uden behov for at dele det med en tredjepart eller have en internetforbindelse."  

Nvidia siger, at den nuværende version af softwaren er god til informationsforespørgsler, men ikke er så god til spørgsmål, der involverer ræsonnement på tværs af hele datasættet af filer. Chatbotens ydeevne forbedres også på et specifikt emne, når den får mere filindhold om emnet. 

Chat med RTX" kræver Windows 10 eller Windows 11, sammen med en Nvidia GeForce RTX 30 Series GPU eller 40 Series GPU med mindst 8 GB RAM. 

Læs mere hos Nvidia her.