NVIDIA har precis släppt en gratis chatbot-demo som körs lokalt på din PC. Detta är väldigt bekvämt eftersom det ger chatboten tillgång till dina filer och dokument. Du kan tillhandahålla Chatta med RTX vissa personuppgifter och be honom skapa ett CV baserat på den informationen. Du kan också ställa frågor till den som vilken chatbot som helst och den kommer att dyka ner i din data för att få svar.
Företaget säger att det tillåter användare att "snabbt och enkelt ansluta lokala PC-filer som en datauppsättning till en stor språkmodell med öppen källkod som Mistral eller Llama 2." NVIDIA ger ett exempel på en användare som frågar en chatbot om en restaurang som rekommenderas av en partner i Las Vegas. Programvaran skannar lokala filer för att hitta svaret. Den stöder en rad filformat inklusive .txt, .pdf, .doc, .docx och .xml. Företaget säger att det laddar upp relevanta filer till sin datauppsättning "på några sekunder."
Chatt med RTX integrerar också videor och spellistor YouTube. Du kan lägga till videons URL till datamängden och den kommer att integrera kunskapen i videon för kontextuella frågor. NVIDIA säger att det kommer att vara användbart när du begär reserekommendationer "baserat på innehåll från favoritvideor från influencers" eller när du söker efter handledningar och sammanfattningar som härrör från utbildningsresurser.
Det här låter som ett stort steg mot något som liknar en riktig digital assistent som arbetar i samband med dina personuppgifter. De flesta chatbots skickar data till molnet, men Chat med RTX "låter användare behandla känslig data på en lokal dator utan att behöva dela den med en tredje part eller ha en internetanslutning." Så det är säkrare och mer kontextorienterad kommunikation.
Det finns vissa begränsningar. Detta är en demoprodukt så förvänta dig dock många buggar NVIDIA bör börja fixa dem så fort användare börjar skriva felrapporter och sådant. Det finns också några strikta hårdvarubegränsningar här. Chatta med RTX fungerar bara på Windows 11-datorer med GPU:er NVIDIA GeForce RTX 30-serien eller högre och minst 8 GB VRAM.
Nyligen NVIDIA visar verkligen upp sin AI-förmåga eftersom företaget precis har lanserat sin nästa generation av AI-superdatorchips. Det simmar helt enkelt i vinster, främst på grund av dess AI- och datacentersegment.
Läs också: