NVIDIA tocmai am lansat un demo gratuit de chatbot care rulează local pe computerul tău. Acest lucru este foarte convenabil deoarece oferă chatbotului acces la fișierele și documentele dvs. Puteți oferi Chat cu RTX anumite date personale și cereți-i să creeze un CV pe baza acestor informații. De asemenea, îi poți adresa întrebări, așa cum ai face-o oricărui robot de chat și se va scufunda în datele tale pentru răspunsuri.
Compania spune că permite utilizatorilor să „conecteze rapid și ușor fișierele locale ale PC-ului ca set de date la un model mare de limbă open source, cum ar fi Mistral sau Llama 2”. NVIDIA oferă un exemplu de utilizator care întreabă un chatbot despre un restaurant recomandat de un partener în timp ce se află în Las Vegas. Software-ul scanează fișierele locale pentru a găsi răspunsul. Acceptă o gamă largă de formate de fișiere, inclusiv .txt, .pdf, .doc, .docx și .xml. Compania spune că încarcă fișiere relevante în setul de date „în câteva secunde”.
Chat cu RTX integrează, de asemenea, videoclipuri și liste de redare YouTube. Puteți adăuga adresa URL a videoclipului la setul de date și va integra cunoștințele conținute în videoclip pentru interogări contextuale. NVIDIA spune că va fi util atunci când se solicită recomandări de călătorie „pe baza conținutului din videoclipurile preferate de la influenți” sau când se caută tutoriale și rezumate derivate din resurse educaționale.
Acesta pare un pas mare către ceva asemănător unui adevărat asistent digital care funcționează în contextul datelor dvs. personale. Majoritatea chatbot-urilor trimit date în cloud, dar Chat with RTX „permite utilizatorilor să proceseze date sensibile pe un computer local fără a fi necesar să le partajeze unei terțe părți sau să aibă o conexiune la internet”. Deci este o comunicare mai sigură și mai orientată pe context.
Există unele limitări. Acesta este un produs demonstrativ, așa că așteptați-vă totuși la o mulțime de erori NVIDIA ar trebui să înceapă să le repare imediat ce utilizatorii încep să scrie rapoarte de erori și altele. Există, de asemenea, câteva limitări stricte de hardware aici. Chat cu RTX funcționează numai pe computere cu Windows 11 cu GPU NVIDIA GeForce RTX seria 30 sau mai mare și cel puțin 8 GB de VRAM.
Recent NVIDIA își arată cu adevărat priceperea AI, deoarece compania tocmai și-a lansat următoarea generație de cipuri de supercomputer AI. Pur și simplu înoată în profituri, în primul rând datorită segmentelor sale de AI și centre de date.
Citeste si: