Intel сообщает, что сейчас существует 500 генеративных моделей искусственного интеллекта, оптимизированных для процессоров Core Ultra.

п>
Революция генеративного ИИ в основном была сосредоточена на запуске больших и сложных моделей ИИ в серверных центрах обработки данных. Однако некоторые модели искусственного интеллекта достаточно оптимизированы для работы на типичных компьютерах, и Intel добилась в этом определенного прогресса. п> <п>Сегодня компания Intel объявила, что в настоящее время существует более 500 моделей искусственного интеллекта, оптимизированных для ее новых процессоров Intel Core Ultra, которые были представлены в декабре и начали появляться в новых ноутбуках. Этот список, вероятно, включает в себя множество экспериментальных и тестовых моделей, которые не служат практическим целям для большинства приложений, но есть несколько крупных: Phi-2, модель Lllama от Meta, Mistral, Bert, Whisper и Стабильная диффузия 1.5. п>
В пресс-релизе Intel говорится: «Модели составляют основу программных функций с расширенными возможностями искусственного интеллекта, таких как удаление объектов, суперразрешение изображений или обобщение текста». Существует прямая связь между количеством включенных/оптимизированных моделей и широтой функций искусственного интеллекта, ориентированных на пользователя, которые могут быть выведены на рынок. Без модели невозможно спроектировать функцию. Без оптимизации времени выполнения функция не сможет достичь максимальной производительности.” п> <п>
Большинство (если не все) этих моделей искусственного интеллекта могут работать на оборудовании сторонних производителей, но добавление поддержки новых аппаратных функций, специфичных для новейших чипов Intel, делает их более практичными для реального использования. использовать. Например, Intel заявила, что процесс оптимизации модели OpenVINO AI включает «балансировку нагрузки на все вычислительные блоки, сжатие моделей для эффективной работы на ПК с искусственным интеллектом и оптимизацию времени выполнения для использования преимуществ пропускной способности памяти». и архитектура ядра Intel Core Ultra.” п>
Модели машинного обучения и искусственного интеллекта, которые работают локально на компьютерах, не являются чем-то новым, но запуск новых генеративных моделей искусственного интеллекта локально на ПК имеет несколько интересных вариантов использования. Вы могли бы полностью запустить что-то вроде ChatGPT и Microsoft Copilot на своем собственном ПК, что потенциально устраняет проблемы конфиденциальности и требования к сетевому подключению, связанные с отправкой оперативных данных на внешние серверы. Локальный чат-бот NVIDIA ChatRTX — это шаг в этом направлении, но он все еще экспериментальный и требует ПК с мощной видеокартой RTX 30 или 40-й серии. п>
Intel надеется, что программное обеспечение, использующее эти оптимизированные модели, может подтолкнуть людей к покупке новых компьютеров с процессорами Core Ultra. Однако на данный момент облачные инструменты искусственного интеллекта, такие как ChatGPT и Copilot, никуда не денутся. п>
Источник: Intel