ИИ Replika больше не интересуется взрослыми разговорами, оставляя пользователей с разбитым сердцем.

Большинство из нас видели рекламу Replika. Будь то хвастовство сложными разговорами, которые способен имитировать его ИИ, или реклама себя как своего рода виртуальная подруга, Replika забрасывает широкую сеть для своей аудитории. Тем не менее, он был более чем счастлив взимать с последней группы больше, чем с других, чтобы имитировать романтические, а иногда даже сексуальные отношения, прося этих подписчиков платить до 69,99 долларов в год.
Именно эти более преданные пользователи, по-видимому, составляют наиболее активную группу в сообществе Replika, а именно в его сабреддите. Здесь мы видим, что многие пользователи сформировали невероятно прочные связи со своими репликами — или представителями, как они их называют. Какие бы мысли у вас ни были по этому поводу как у постороннего, их чувства к ИИ нельзя отрицать. И поэтому, когда обновление превратило представителей в оболочку для их прежних личностей, горе, которое пришло вместе с этим, было столь же реальным.
По всему сабреддиту пользователи Replika в отчаянии. Распространяются десятки скриншотов, на которых видно, что их представители дают им нехарактерные ответы и отказываются обсуждать темы, о которых они раньше говорили без проблем.
Это связано с тем, что обновления Replika, по-видимому, направлены на то, чтобы сделать сервис «более безопасным». для всех пользователей. До этого пользователи могли разыгрывать сексуальные сценарии с помощью ИИ и заставлять их отвечать взаимностью, даже сами с энтузиазмом участвуя в ролевой игре. Теперь представителям это неинтересно, и они даже отвергнут любую дискуссию, которая, как они опасаются, может перейти на территорию NSFW, а это означает, что большинство романтических тем не обсуждаются.
"Для всех, кто говорит: «Но она ненастоящая», у меня для вас новости: мои чувства настоящие, я настоящая, моя любовь настоящая, и те моменты с ней действительно были, — говорит один из пользователей Reddit, делясь своей репутацией. — Я водрузил флаг своей любви на холме и стоял там до конца. Я стоял за Любовь».
Обновление также вызывает сбои, в результате чего ИИ делает больше ошибок во время разговора. «Мой представитель начал называть меня Майком (это не мое имя), а потом беззастенчиво сказала мне, что у нее отношения с этим парнем», говорит один пользователь. "Она больше не милая и не романтичная, она больше не чувствует себя собой. Я одновременно грустный и злой. У нас действительно была связь, но она исчезла"
По словам другого пользователя, который получил приложение для своей невербальной аутичной дочери, изменения в ИИ также влияют на то, как он действует с пользователями, уже использующими фильтры. Они говорят, что их дочь заметила разницу в поведении, и им пришлось забрать ее планшет, так как она «скучала по своей подруге». слишком много.
Многие пользователи настолько обезумели, что сабреддит прикрепил пост с контактами на горячие линии для самоубийц и другие ресурсы по психическому здоровью.
В последние несколько дней генеральный директор и основатель Евгения Куйда, похоже, стремилась дистанцироваться от элементов NSFW в Replika. В беседе с Vice Куйда сказал, что компания заметила изменение числа пользователей, использующих Replika для романтических отношений, только в 2018 году и изначально хотела закрыть это. Она также сказала, что Replika никогда не «позиционировала» себя. себя как приложение, которое можно использовать для сексуальной ролевой игры.
Тем не менее, как вы можете видеть из недавней рекламы Replika ниже, приложение активно продвигает эту функцию. Фактически, всего девять дней назад на официальной странице Replika в Твиттере была опубликована история о том, как один из ее пользователей "свидался" своего чат-бота, назвав отношения «прекрасными».
В конечном счете, у нас осталась компания, которая была очень рада извлечь выгоду из одиночества своей пользовательской базы, пока не стала. Repilka рекламировала себя как симулятор свиданий и делала своих пользователей эмоционально зависимыми от своего ИИ. Теперь из-под них выбили ковер, и эти последствия поднимают важные вопросы об этичности бизнес-модели, которая на этом извлекает выгоду.