Verge: Nvidia представила локальную генеративную нейросеть Chat with RTX

Nvidia представила чат-бот с генеративным ИИ Chat with RTX, который запускается на компьютерах с видеокартами компании. Об этом сообщает The Verge. Chat with RTX способен получать информацию из видео с YouTube по URL-адресу и получать текстовое содержание. Сервис также поддерживает поиск по расшифровке видео. Нейросеть также умеет обрабатывать PDF-файлы. Согласно источнику, чат-бот Nvidia превосходит в этой задаче Microsoft Copilot, который работает на базе языковой модели GPT-4 от Open AI. Среди основных недостатков нейросети называют ее невозможность запоминать контекст. Из-за этого каждый новый запрос будет независим и не сможет ссылаться на данные из предыдущего вопроса или ответа. Для установки Chat with RTX потребуется веб-сервер и экземпляр Python, который использует модели Mistral или Llama 2. Приложение занимает около 40 ГБ. По отзывам Verge, Chat with RTX пока походит на бета-версию из-за большого количества багов и ограничений. В связи с этим нейросеть на данном этапе может быть интересна разработчикам и энтузиастам.