Chat with RTX от Nvidia: локальный ИИ теперь реальность
NewsMakerНовое приложение обещает революцию в доступности языковых моделей на домашних компьютерах.
Nvidia анонсировала приложение Chat with RTX, открывающее новые возможности для работы с языковыми моделями локально. Теперь пользователи, имеющие определенное техническое оснащение, могут взаимодействовать с искусственным интеллектом на своих компьютерах.
Приложение Chat with RTX, совместимое с Windows 11, позволяет запускать большие языковые модели на устройстве пользователя. Для его использования требуется наличие видеокарты RTX 30 или 40 серии и минимум 16 ГБ оперативной памяти.
Chat with RTX дает возможность работать с известными языковыми моделями, такими как Llama и Mistral, как показано в видео от Nvidia. Пользователи могут также интегрировать собственные документы или заметки в процесс, чтобы программа учитывала эти данные при формировании ответов.
" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture" allowfullscreen=""> Особенностью приложения является функция анализа содержания YouTube-видео: пользователи могут предоставить ссылку на видео и задавать вопросы о его содержании или получить краткое содержание. В случае работы с локальными файлами, приложение укажет источник данных, использованный для генерации ответа, что обеспечивает дополнительную проверку полученной информации. Nvidia анонсировала приложение Chat with RTX, открывающее новые возможности для работы с языковыми моделями локально. Теперь пользователи, имеющие определенное техническое оснащение, могут взаимодействовать с искусственным интеллектом на своих компьютерах.
Приложение Chat with RTX, совместимое с Windows 11, позволяет запускать большие языковые модели на устройстве пользователя. Для его использования требуется наличие видеокарты RTX 30 или 40 серии и минимум 16 ГБ оперативной памяти.
Chat with RTX дает возможность работать с известными языковыми моделями, такими как Llama и Mistral, как показано в видео от Nvidia. Пользователи могут также интегрировать собственные документы или заметки в процесс, чтобы программа учитывала эти данные при формировании ответов.
Nvidia подчеркивает, что вся обработка данных происходит на устройстве пользователя и не передается на внешние сервера. Для работы приложения необходима не только соответствующая видеокарта и оперативная память, но и 8 ГБ видеопамяти.