Сайем Ахмед

ChatGPT серьезно изменил современный технологический ландшафт, но с новыми технологиями искусственного интеллекта появляются новые уязвимости, как обнаруживает Касперский в новом отчете.
Увлечение ChatGPT и искусственным интеллектом, похоже, не собирается прекращаться: на выставке CES 2024 были продемонстрированы десятки новых устройств, ориентированных на искусственный интеллект. Но в одном из крупнейших приложений искусственного интеллекта на планете, ChatGPT, было обнаружено несколько уязвимостей, которые позволяют вам перепрыгнуть через его встроенные защитные ограждения, как показал новый отчет охранной фирмы Касперского (через The Register).
Отчеты показывают, что в период с января по декабрь 2023 года произошел бум использования GPT для создания вредоносного ПО, которое выполняется в домене ChatGPT. Хотя Касперский отмечает, что вредоносных программ такого типа еще не появилось, они остаются угрозой в будущем.
Он также демонстрирует, как ChatGPT можно использовать для помощи в преступлениях: ChatGPT генерирует код для решения проблем, возникающих при краже пользовательских данных. Касперский отмечает, что ChatGPT может снизить входной барьер для пользователей, желающих использовать знания ИИ в вредоносных целях. «Действия, которые раньше требовали команды людей с некоторым опытом, теперь могут выполняться на базовом уровне даже новичками». Касперский отмечает в своем отчете.
Приглашения к джейлбрейку покупаются и продаются
В джейлбрейках ChatGPT нет ничего нового, как, например, эксплойт «Бабушка», получивший известность в прошлом году. Однако многие из этих эксплойтов теперь заблокированы OpenAI. Но они все еще существуют и продаются, если знать, где искать. В отчете Касперского утверждается, что в течение 2023 года «было найдено 249 предложений по распространению и продаже таких наборов подсказок».
Эти запросы на взлом джейлбрейка предположительно распространены и их находят пользователи «социальных платформ и участников теневых форумов». Однако охранная фирма отмечает, что не все подсказки предназначены для выполнения незаконных действий, а некоторые используются для получения более точных результатов.
Связано:
Лучшая видеокарта 2023 года: Nvidia, AMD и другие
В отчете по-прежнему утверждается, что получить информацию из ChatGPT, которая обычно ограничена, очень просто, просто запросив ее еще раз.
В отчете продолжает утверждаться, что ChatGPT также можно использовать в сценариях тестирования на проникновение, а также использовать базовый LLM в «злых» модулях, которые стремятся нанести вред и ориентированы на незаконную деятельность.
Бум преступности в области искусственного интеллекта
Количество «обманных» ChatGPT или «злых» претензий ChatGPT растет, поскольку они предназначены только для фишинга и рассылки пользовательских данных. Это может быть связано с количеством украденных учетных записей ChatGPT Plus, которые незаконно продаются в даркнете. Количество сообщений, связанных с ИИ, достигло пика в апреле 2023 года, но продолжает вызывать постоянный интерес у пользователей вредоносных форумов. Касперский заканчивает свой отчет резким предупреждением:
“Вероятно, что возможности языковых моделей скоро достигнут уровня, на котором станут возможными сложные атаки.”
А пока просто не забудьте сохранить свои личные данные в безопасности насколько это возможно.
Связанные темы
Об авторе
Сайем Ахмед< p class="text-body-2 line-clamp-2">Редактор оборудования Dexerto. Сайем — эксперт во всем, что касается Nvidia, AMD, Intel и компонентов ПК. У него 10-летний опыт написания статей для таких изданий, как Eurogamer, IGN, Trusted Reviews, Kotaku и многих других. Свяжитесь с нами по электронной почте Sayem.ahmed@dexerto.com.