Nvidia представила генеративного чат-бота, который способен работать локально на компьютере с Windows. Доступ к интернету при этом не потребуется.
В программе можно выбрать одну из двух больших языковых моделей — Mistral или Llama 2. Chat with RTX может сканировать локальные файлы и находить ответы в них. Поддерживаются файлы с расширениями *.txt, *.pdf, *.doc, *.docx и *.xml. Помимо этого, нейросеть Chat with RTX способна собирать информацию из видео и плейлистов на YouTube.
Поскольку нейросеть работает локально и не обращается к облачным серверам, все данные пользователя остаются непосредственно на компьютере.