Nvidia meluncurkan ‘Chat with RTX’, chatbot bertenaga AI yang berjalan secara native di PC
Nvidia telah merilis “Chat with RTX,” chatbot AI baru yang berjalan secara native pada PC Windows yang dilengkapi dengan kartu grafis Nvidia GeForce RTX. Chatbot memungkinkan pengguna untuk menyesuaikannya dengan umpan dokumen, file teks, PDF, dan video YouTube untuk meningkatkan responsnya.
Chatbot, tersedia sebagai demo di Windows, memanfaatkan akselerasi GPU dan teknologi RAG (Retrieval Augmented Generation) Nvidia untuk dengan cepat memindai file lokal yang direferensikan dan memberi pengguna jawaban yang cepat dan relevan secara kontekstual terhadap pertanyaan bahasa alami tanpa perlu menelepon melalui Internet. Misalnya, pengguna dapat bertanya: “Restoran apa di Vegas yang diceritakan istri saya?” Obrolan dengan RTX akan mencari file lokal pengguna untuk menemukan jawabannya.
Fitur Obrolan dengan RTX memungkinkan pengguna “dengan cepat dan mudah menautkan file lokal di PC sebagai kumpulan data ke model bahasa sumber terbuka besar seperti Mistral atau Llama 2,” kata perusahaan tersebut.
Obrolan dengan RTX mendukung berbagai format file, seperti txt, pdf, doc, serta transkrip video YouTube. Alat ini dapat dengan cepat mengindeks konten file-file ini untuk membuat database pengetahuannya sendiri. Pengguna dapat meminta Chat dengan RTX untuk merangkum video atau dokumen YouTube berdasarkan informasi yang diindeks.
Chatbot berjanji untuk merespons dengan cepat karena pemrosesan dilakukan secara lokal di PC menggunakan kemampuan AI kartu grafis Nvidia GeForce RTX 30 atau 40. Data sensitif pengguna hanya tersisa di perangkat mereka daripada dikirim ke cloud. Meskipun terdapat beberapa keterbatasan, seperti kurangnya konteks carryover antara pertanyaan dan tindak lanjut yang tidak tertangani dengan baik. Namun Nvidia berharap untuk terus meningkatkan obrolan dengan RTX seiring berjalannya waktu.
Demo Ngobrol dengan RTX dapat diunduh gratis bagi pemilik PC GeForce RTX yang memenuhi persyaratan perangkat keras minimum untuk Windows 10/11, GPU RTX 30/40 dengan memori video 8GB+, dan driver Nvidia terbaru.
Nvidia juga mensponsori kompetisi bagi pengembang untuk membuat aplikasi dan plug-in bertenaga AI untuk akselerasi Windows dan RTX menggunakan kerangka TensorRT-LLM yang ditunjukkan oleh Chat with RTX. Hal ini dapat menghadirkan lebih banyak kemampuan AI asli pada PC RTX.
Chatbot, tersedia sebagai demo di Windows, memanfaatkan akselerasi GPU dan teknologi RAG (Retrieval Augmented Generation) Nvidia untuk dengan cepat memindai file lokal yang direferensikan dan memberi pengguna jawaban yang cepat dan relevan secara kontekstual terhadap pertanyaan bahasa alami tanpa perlu menelepon melalui Internet. Misalnya, pengguna dapat bertanya: “Restoran apa di Vegas yang diceritakan istri saya?” Obrolan dengan RTX akan mencari file lokal pengguna untuk menemukan jawabannya.
Fitur Obrolan dengan RTX memungkinkan pengguna “dengan cepat dan mudah menautkan file lokal di PC sebagai kumpulan data ke model bahasa sumber terbuka besar seperti Mistral atau Llama 2,” kata perusahaan tersebut.
Obrolan dengan RTX mendukung berbagai format file, seperti txt, pdf, doc, serta transkrip video YouTube. Alat ini dapat dengan cepat mengindeks konten file-file ini untuk membuat database pengetahuannya sendiri. Pengguna dapat meminta Chat dengan RTX untuk merangkum video atau dokumen YouTube berdasarkan informasi yang diindeks.
Chatbot berjanji untuk merespons dengan cepat karena pemrosesan dilakukan secara lokal di PC menggunakan kemampuan AI kartu grafis Nvidia GeForce RTX 30 atau 40. Data sensitif pengguna hanya tersisa di perangkat mereka daripada dikirim ke cloud. Meskipun terdapat beberapa keterbatasan, seperti kurangnya konteks carryover antara pertanyaan dan tindak lanjut yang tidak tertangani dengan baik. Namun Nvidia berharap untuk terus meningkatkan obrolan dengan RTX seiring berjalannya waktu.
Demo Ngobrol dengan RTX dapat diunduh gratis bagi pemilik PC GeForce RTX yang memenuhi persyaratan perangkat keras minimum untuk Windows 10/11, GPU RTX 30/40 dengan memori video 8GB+, dan driver Nvidia terbaru.
Nvidia juga mensponsori kompetisi bagi pengembang untuk membuat aplikasi dan plug-in bertenaga AI untuk akselerasi Windows dan RTX menggunakan kerangka TensorRT-LLM yang ditunjukkan oleh Chat with RTX. Hal ini dapat menghadirkan lebih banyak kemampuan AI asli pada PC RTX.
“Pop culture ninja. Social media enthusiast. Typical problem solver. Coffee practitioner. Fall in love. Travel enthusiast.”
