Увидеть больше не значит поверить.

п>
Ключевые выводы
<ул>
Термин “мошенничество” применимо ко всему: от изощренной целевой атаки до хитроумной рекламы в начале ролика на вашем любимом сайте потокового видео. Плохая новость заключается в том, что разрабатывать подобные мошенничества становится все проще. п>
Демократизация фейковых изображений
Существует тонкая, но отчетливая грань между мошенничеством и спамом, но эти две сферы регулярно пересекаются. Это особенно актуально, когда речь идет об онлайн-рекламе, независимо от того, просматриваете ли вы Интернет или просматриваете социальные сети. Рекламодатели не одобряют каждую показываемую рекламу, вместо этого полагаясь на отчеты пользователей, чтобы отсеять злоумышленников. п> <п>Если вы проводите много времени в Интернете, вы, вероятно, каждый день просматриваете бесчисленное количество сомнительных рекламных объявлений. Возможно, наиболее интересными из них являются продукты, которые не существуют и представляют собой изделия, изготовленные либо вручную, либо с использованием генеративного искусственного интеллекта, такого как DALL-E или Midjourney. п>
В привлечении потенциальных покупателей поддельными продуктами нет ничего нового, но однажды вам понадобится видение, некоторые навыки работы с Photoshop и немного свободного времени. С появлением генераторов преобразования текста в изображение вы можете тратить столько времени, сколько захотите, задавая подсказки в генератор изображений, пока не получите нужные результаты. Когда дело доходит до продуктов, которые вы можете придумать, нет предела. п>

<п>В апреле 2024 года Snopes сообщил, что большое количество пользователей “Cat’s Eye Dazzle” мошенничество обрушилось на социальные сети как шторм. Мошенничество заключалось в создании поддельных цветов, похожих на кошек, для привлечения пользователей в социальных сетях, таких как Facebook. На eBay появились списки семян, в то время как другие “поставщики” использовали собственные торговые порталы для вывода средств. п>
<п>Для некоторых сразу очевиден тот факт, что эти цветы — подделки, созданные искусственным интеллектом. Другие подобные мошенничества не столь надуманны. Канал YouTube Atomic Shrimp создал видео, документирующее это явление, исследуя более разумно звучащие списки “true” синие розы и подсолнухи, ни того, ни другого не существует. п> <стр> Цветы, похожие на кошек, и растения невозможной окраски — это всего лишь два примера мошенничества, в которых, судя по всему, были обмануты сотни, если не тысячи людей. Создание этих изображений заняло несколько секунд, и еще несколько секунд — их публикация на Facebook. п>
Голоса ИИ повышают достоверность видео
Вы, вероятно, хорошо знаете о росте популярности функций преобразования текста в голос: социальные платформы, такие как TikTok, позволяют легко создавать закадровый голос, который звучит естественно, но при этом легко понять. К настоящему времени “Леди из TikTok” Голос — это не только брендинг TikTok, но и полезный инструмент для создателей контента. п>
Но голоса ИИ – это нечто большее. ChatGPT может генерировать озвучку, если вы платите за премиум-уровень, а для таких сервисов, как ElevenLabs, доступны бесплатные уровни. Я видел, как небольшие каналы YouTube, управляемые авторами, которым неудобно говорить на камеру, обращались к голосам, генерируемым ИИ. Это может раздражать, но, по крайней мере, основано на добрых намерениях. п> <стр> Основная загвоздка в том, что закадровый голос повышает достоверность вашего видео. Несколько лет назад вам нужно было тратить время, усилия или средства на добавление закадрового голоса к вашему видео. Вам понадобится оборудование и практика или нанятый актер озвучивания. Теперь это так же просто, как написать сценарий, который вас устраивает, и выбрать голос, который вы хотите использовать. п> <п>Это делает мошенническую рекламу схем быстрого обогащения и дропшиппинговых продуктов еще более заслуживающей доверия. Если реклама звучит правдоподобно, вы, вероятно, склонны больше доверять продукту. Люди, размещающие эту рекламу, знают это, поэтому за последний год произошел взрывной рост этой практики. п>
На данный момент не так уж сложно распознать закадровый голос, сгенерированный ИИ. Изменения и произношение могут показаться немного роботизированными, а естественный ритм человеческой речи отсутствует. Пристегнитесь, потому что эти инструменты будут только совершенствоваться, и в конечном итоге вы не сможете заметить разницу. п>
Мошенники в приложениях для знакомств раскидывают более широкие сети
Одно дело — наживка поддельными продуктами и роботизированной озвучкой, но как насчет мошенничества, нацеленного лично на вас? Именно это и происходит в мире. пространство онлайн-знакомств в огромных масштабах благодаря возможностям больших языковых моделей, которые могут общаться как настоящие люди (ну, достаточно близко). п>
Используя чат-ботов на базе искусственного интеллекта, мошенники могут создать широкую сеть, чтобы заманить в ловушку своих жертв, используя программное обеспечение, которое может эффективно удерживать разговор на время, достаточное для того, чтобы привлечь чье-то внимание. Есть несколько способов его использования, и все они кажутся агрессивными. п>
<п>Некоторые используют чат-ботов, чтобы отправлять сообщения огромному количеству людей, а затем связываются с ними в надежде встретить кого-то, кто им действительно нравится. В начале 2024 года появилось бесчисленное количество сообщений о мужчине, который встретил свою жену с помощью этой техники. Хотите верьте, хотите нет, но существует огромное количество мобильных приложений и сервисов, которые обещают за вас пообщаться с потенциальными партнерами (конечно, за определенную плату).

AI-видео уже на горизонте
На момент написания статьи убедительное преобразование текста в видео не было широко доступно, но с появлением на горизонте таких инструментов, как OpenAI SORA, оно станет силой, с которой придется считаться. С помощью всего лишь подсказки инструмент OpenAI может создавать реалистично выглядящие движущиеся изображения (хотя, если вы посмотрите внимательно, вы сможете обнаружить недостатки). п>

Если вы чувствуете себя особенно предприимчивым, вы можете использовать большую языковую модель, чтобы повысить репутацию вашего продукта… п>
ИИ может даже подделывать отзывы
<п>В фейковых отзывах нет ничего нового. Мы все их видели, и многие из нас влюбились в них (знаем мы об этом или нет). Но еще несколько лет назад фальшивые отзывы требовали определенных усилий. С появлением крупных языковых моделей фейковые отзывы могут буквально писаться в огромных масштабах. п> <стр> Неправильное использование больших языковых моделей для создания обзоров и продвижения продуктов или бизнеса – это одно, но технология работает в обе стороны. А как насчет использования этой технологии для создания обзоров, несправедливо критикующих конкурирующий продукт? Создать негативную статью еще никогда не было так просто, даже если вам придется копировать и вставлять ее самостоятельно. п>
Соедините отзывы, созданные искусственным интеллектом, с более традиционными мошенничествами с чисткой зубов, и вы получите правдоподобность «проверенной покупки». ярлык для загрузки. В конечном итоге именно владельцы платформ должны бороться с этой новой волной вводящего в заблуждение онлайн-контента. п>
Дела могут только стать лучше (хуже)
Со временем эти инструменты станут лучше, и отличить настоящее от фантастического станет сложнее. Вам нужно хорошо разбираться в технологиях, если вы хотите опередить мошенников. Если вы понимаете, что возможно, вы лучше вооружены, чтобы понять, что реально, а что нет. п>
Facebook особенно изобилует изображениями, сгенерированными ИИ, поэтому понимание того, как распознавать фейки, сгенерированные ИИ, является ценным навыком. Всегда следует с осторожностью относиться к онлайн-рекламе, независимо от того, видите ли вы ее на своих любимых веб-сайтах или в социальных сетях. п>

<стр> Всегда исследуйте информацию, прежде чем что-то покупать, будь то технология или пакет семян, который вы увидели на Facebook. По иронии судьбы, вы также можете спросить своего любимого чат-бота, который является источником его утверждений. п>