Tecnologia

Il nuovo chatbot AI di Nvidia gratuito e funziona localmente sul tuo PC

Il nuovo chatbot AI di Nvidia gratuito e funziona localmente sul tuo PC

Nvidia ha rilasciato una versione demo di un nuovo chatbot AI che funziona localmente su alcuni PC con GeForce RTX. L’app demo, chiamata Chat with RTX, può essere scaricata gratuitamente e consente agli utenti di eseguire un chatbot AI sui propri PC, personalizzato con i propri contenuti.

Hai una GPU GeForce RTX serie 30 o superiore? Questa app demo può fornire contenuti personalizzati, non è necessaria alcuna connessione Internet.

Basata sul software Nvidia TensorRT-LLM, l’app può generare contenuti e può essere addestrata su una selezione di contenuti da parte dell’utente, inclusi file .txt, .pdf, .doc/.docx e .xml e persino URL di video di YouTube.

Dopo aver scelto il contenuto per addestrare il bot, gli utenti possono porre domande personalizzate sul contenuto che hanno fornito. Ad esempio, il bot può riassumere le istruzioni passo passo in un video dimostrativo da YouTube o dire a un utente quale tipo di batterie aveva nella lista della spesa.

Addestrare il bot sui contenuti preferiti dell’utente rende l’esperienza veramente personalizzata, ma il fatto che tutto avvenga localmente mantiene privati ​​i dati dell’utente. Chat con RTX può restituire risposte rapide mantenendo al sicuro tutte le informazioni dell’utente perché non si basa su servizi basati su cloud, il che significa che può funzionare anche senza una connessione Internet.

Il bot richiede una GPU Nvidia GeForce RTX serie 30 o successiva, con almeno 8 GB di VRAM. Chatta con RTX richiede anche Windows 10 o 11 e i più recenti driver GPU Nvidia.

Nvidia afferma che il suo software TensorRT-LLM, combinato con la generazione aumentata di recupero (RAG) e l’accelerazione RTX, consente a Chat with RTX di fornire risposte pertinenti utilizzando file locali come set di dati e collegandoli a LLM open source come Mistral e Llama 2.

Playblog.it

Netflix        News        Serie TV        Film        Amine        

Apple        Android        Tecnologia        Prime Video        Offerte        Disney+

Seguici su Facebook      Twitter      Pinterest
Seguici su TelegramNetflixOfferte Amazon PrimePrime Video

POST CORRELATI

OnePlus Watch non funzionerà con Wear di Google

Questa scacchiera intelligente ti consente di giocare online con pezzi reali

Leonardo Playblog.it

Che cos’è Amazon Prime? Scopri i vantaggi

Lascia un commento