Чат-бот NVIDIA с искусственным интеллектом на устройстве теперь поддерживает Google Gemma и ChatGLM3

Плюс расширенные возможности распознавания изображений и голосового ввода.

NVIDIA’s On-Device AI Chatbot Now Supports Google Gemma and ChatGLM3

Вышло третье обновление для приложения NVIDIA ChatRTX. Он добавляет новые возможности распознавания изображений, функцию голосового ввода и расширенный выбор LLM с открытым исходным кодом. <п>NVIDIA ChatRTX, ранее называвшаяся «Чат с RTX», — это персонализируемый чат-бот с искусственным интеллектом, который может работать локально на ПК с ОС Windows. Он действует как своего рода личный помощник, отвечая на вопросы о документах, заметках и других файлах на вашем компьютере без какого-либо взаимодействия с облаком. Он также может суммировать видеоролики YouTube, что может быть полезно, если вы хотите получить рецепт или просмотреть руководство, не слушая чью-то болтовню в течение 15 минут. (Однако сканирование YouTube стало недоступно после обновления безопасности 0.2.)

<п>Одна из интересных особенностей ChatRTX — это возможность запуска различных LLM. ChatRTX запущен с поддержкой Mistral и Llama 2, хотя теперь он поддерживает Google Gemma (облегченное ответвление Gemini) и ChatGLM3 (англо-китайский LLM, основанный на платформе GLM). Каждый из этих LLM подходит для определенных задач, отсюда и необходимость разнообразия.

Новая версия ChatRTX также может похвастаться интеграцией Whisper и Open AI CLIP. В то время как Whisper добавляет распознавание речи на основе искусственного интеллекта для голосового ввода, CLIP расширяет возможности распознавания изображений ChatRTX. Например, фотограф может использовать ChatRTX для поиска и систематизации группы немаркированных фотографий.

Чтобы внести ясность, ChatRTX по-прежнему считается «технологической демоверсией». Это пример того, что разработчики могут создать с помощью эталонного проекта с открытым исходным кодом TensorRT-LLM RAG, и это то, что может помочь среднестатистическому пользователю компьютера лучше познакомиться с LLM.

И я должен отметить, что ни один из этих ChatRTX-совместимых LLM на самом деле не требует ChatRTX. Преимущество ChatRTX в том, что он не требует каких-либо знаний и позволяет без особых усилий обучать персонализированного местного чат-бота. Хотя я надеюсь, что ChatRTX превратится в настоящий продукт, для этого не обязательно 60~/em>, поскольку это вдохновит разработчиков на создание еще лучших приложений искусственного интеллекта.

Вы можете бесплатно установить ChatRTXtoday с сайта NVIDIA. Однако для ChatRTX требуется графический процессор RTX 30-й или 40-й серии с объемом видеопамяти не менее 8 ГБ (да, некоторые ноутбуки соответствуют этим характеристикам). Вам также понадобится достаточно терпения, чтобы дождаться загрузки 30 ГБ. ChatRTX — относительно большое приложение.

Источник: NVIDIA

Оцените статью