Nvidia ha rilasciato una versione demo di un nuovo chatbot AI che funziona localmente su alcuni PC con GeForce RTX. L’app demo, chiamata Chat with RTX, può essere scaricata gratuitamente e consente agli utenti di eseguire un chatbot AI sui propri PC, personalizzato con i propri contenuti.
Hai una GPU GeForce RTX serie 30 o superiore? Questa app demo può fornire contenuti personalizzati, non è necessaria alcuna connessione Internet.
Basata sul software Nvidia TensorRT-LLM, l’app può generare contenuti e può essere addestrata su una selezione di contenuti da parte dell’utente, inclusi file .txt, .pdf, .doc/.docx e .xml e persino URL di video di YouTube.
Dopo aver scelto il contenuto per addestrare il bot, gli utenti possono porre domande personalizzate sul contenuto che hanno fornito. Ad esempio, il bot può riassumere le istruzioni passo passo in un video dimostrativo da YouTube o dire a un utente quale tipo di batterie aveva nella lista della spesa.
Addestrare il bot sui contenuti preferiti dell’utente rende l’esperienza veramente personalizzata, ma il fatto che tutto avvenga localmente mantiene privati i dati dell’utente. Chat con RTX può restituire risposte rapide mantenendo al sicuro tutte le informazioni dell’utente perché non si basa su servizi basati su cloud, il che significa che può funzionare anche senza una connessione Internet.
Il bot richiede una GPU Nvidia GeForce RTX serie 30 o successiva, con almeno 8 GB di VRAM. Chatta con RTX richiede anche Windows 10 o 11 e i più recenti driver GPU Nvidia.
Nvidia afferma che il suo software TensorRT-LLM, combinato con la generazione aumentata di recupero (RAG) e l’accelerazione RTX, consente a Chat with RTX di fornire risposte pertinenti utilizzando file locali come set di dati e collegandoli a LLM open source come Mistral e Llama 2.
Netflix News Serie TV Film Amine
Apple Android Tecnologia Prime Video Offerte Disney+
Seguici su Facebook Twitter Pinterest
Seguici su Telegram: Netflix, Offerte Amazon Prime, Prime Video
