Плюс расширенные возможности распознавания изображений и голосового ввода.

п>
Вышло третье обновление для приложения NVIDIA ChatRTX. Он добавляет новые возможности распознавания изображений, функцию голосового ввода и расширенный выбор LLM с открытым исходным кодом. п> <п>NVIDIA ChatRTX, ранее называвшаяся «Чат с RTX», — это персонализируемый чат-бот с искусственным интеллектом, который может работать локально на ПК с ОС Windows. Он действует как своего рода личный помощник, отвечая на вопросы о документах, заметках и других файлах на вашем компьютере без какого-либо взаимодействия с облаком. Он также может суммировать видеоролики YouTube, что может быть полезно, если вы хотите получить рецепт или просмотреть руководство, не слушая чью-то болтовню в течение 15 минут. (Однако сканирование YouTube стало недоступно после обновления безопасности 0.2.)
<п>Одна из интересных особенностей ChatRTX — это возможность запуска различных LLM. ChatRTX запущен с поддержкой Mistral и Llama 2, хотя теперь он поддерживает Google Gemma (облегченное ответвление Gemini) и ChatGLM3 (англо-китайский LLM, основанный на платформе GLM). Каждый из этих LLM подходит для определенных задач, отсюда и необходимость разнообразия. п>
Новая версия ChatRTX также может похвастаться интеграцией Whisper и Open AI CLIP. В то время как Whisper добавляет распознавание речи на основе искусственного интеллекта для голосового ввода, CLIP расширяет возможности распознавания изображений ChatRTX. Например, фотограф может использовать ChatRTX для поиска и систематизации группы немаркированных фотографий. п>
Чтобы внести ясность, ChatRTX по-прежнему считается «технологической демоверсией». Это пример того, что разработчики могут создать с помощью эталонного проекта с открытым исходным кодом TensorRT-LLM RAG, и это то, что может помочь среднестатистическому пользователю компьютера лучше познакомиться с LLM. п>
И я должен отметить, что ни один из этих ChatRTX-совместимых LLM на самом деле не требует ChatRTX. Преимущество ChatRTX в том, что он не требует каких-либо знаний и позволяет без особых усилий обучать персонализированного местного чат-бота. Хотя я надеюсь, что ChatRTX превратится в настоящий продукт, для этого не обязательно 60~/em>, поскольку это вдохновит разработчиков на создание еще лучших приложений искусственного интеллекта. п>
Вы можете бесплатно установить ChatRTXtoday с сайта NVIDIA. Однако для ChatRTX требуется графический процессор RTX 30-й или 40-й серии с объемом видеопамяти не менее 8 ГБ (да, некоторые ноутбуки соответствуют этим характеристикам). Вам также понадобится достаточно терпения, чтобы дождаться загрузки 30 ГБ. ChatRTX — относительно большое приложение. п>
Источник: NVIDIA