Меня действительно беспокоит то, что люди ссылаются на ИИ, чтобы выиграть споры в Интернете

Меня действительно беспокоит то, что люди ссылаются на ИИ, чтобы выиграть споры в Интернете

Резюме

  • Люди используют ненадежные чат-боты на основе искусственного интеллекта, такие как ChatGPT, в качестве источников информации в онлайн-спорах.
  • Точность ИИ-ботов, таких как GPT-4.5 и 4o, составляет от 38% до 63%.
  • Не используйте ботов на основе искусственного интеллекта в качестве основных источников, проверяйте информацию и дайте отпор тем, кто полагается на них в сети.

Нет сомнений, что публичный доступ к сложным чат-ботам ИИ окажет глубокое влияние на общество — как положительное, так и отрицательное. Не потребовалось много времени, чтобы люди начали полагаться на ботов ИИ в тех вещах, в которых, возможно, не следовало бы, и теперь я вижу, как это выплескивается в социальные сети.

Будь то в Facebook, Instagram, X или в разделе комментариев к онлайн-статьям, вы увидите, как люди публикуют комментарии, написанные ИИ, или используют информацию, предоставленную ИИ, и это меня глубоко беспокоит.

Люди используют ИИ, чтобы выигрывать споры в Интернете

Всякий раз, когда я в последнее время прокручиваю X, я неизбежно вижу, как люди вступают в споры друг с другом. Пока что это нормально для интернета. Что не так уж и нормально, так это маленькая электронная молитва о мудрости, которая теперь выходит, по-видимому, каждые три или четыре ответа — @grok.

Меня действительно беспокоит то, что люди ссылаются на ИИ, чтобы выиграть споры в Интернете

Тегирование чат-бота X на основе искусственного интеллекта действует как подсказка и является быстрым и простым способом вызвать бота для ответа на ваш вопрос. Поэтому вы можете спросить, является ли пост выше правдой или кто-то прав. В качестве альтернативы вы увидите скриншоты чатов с ботами вроде ChatGPT и Claude. Размещенные как доказательства в поддержку тех моментов, которые кто-то пытается высказать, или для опровержения моментов своего собеседника.

Меня действительно беспокоит то, что люди ссылаются на ИИ, чтобы выиграть споры в Интернете

Это означает, что они не знают, насколько ненадежны боты на основе искусственного интеллекта

Меня действительно беспокоит то, что люди ссылаются на ИИ, чтобы выиграть споры в Интернете

Как человек, который ежедневно использует чат-ботов с искусственным интеллектом и пристально следит за их развитием и возможностями, я нахожу это ужасным. Я бы никогда, никогда не использовал информацию, предоставленную одним из этих чат-ботов, дословно как источник чего-либо. Обобщить проверенную информацию? Конечно. Составить обзоры, которые укажут мне на первоисточники? Определенно.

Но это что происходит в социальных сетях. Я вижу, как пользователи на этих сайтах подчиняются ИИ и просто принимают все, что он говорит. Даже если информация явно неверна на первый взгляд. Посмотрите на этот результат теста SimpleQA Accuracy с сайта OpenAI.

Меня действительно беспокоит то, что люди ссылаются на ИИ, чтобы выиграть споры в Интернете

Лучший результат — GPT-4o с доступом в Интернет на уровне 90%. Звучит хорошо, но я бы, конечно, проверил каждое утверждение на предмет наличия 10% неточности! Для моделей, которые люди чаще используют, таких как GPT-4.5 или 4o, показатель точности умеренно лучше или хуже 50%, с 63% и 38% соответственно. Еще более важно то, что BBC обнаружила, что чат-боты ИИ плохо справляются с точным обобщением и представлением текущих событий. После оценки 51% ответов, данных различными протестированными ИИ, имели «значительные неточности», согласно исследованию

Таким образом, удобство быстрого предоставления информации ИИ во время онлайн-спора значительно перевешивается вероятностью того, что эта информация будет иметь точность подбрасывания монетки!

Меня действительно беспокоит то, что люди ссылаются на ИИ, чтобы выиграть споры в Интернете

Пожалуйста, не используйте ИИ в качестве основного источника

Меня действительно беспокоит то, что люди ссылаются на ИИ, чтобы выиграть споры в Интернете

Возможно, наступит день, когда чат-боты с искусственным интеллектом будут столь же надежны, как и такие учреждения, как Associated Press, но этот день не сегодня, и трудно представить, что это будет правдой в ближайшее время. Даже если бы эти боты были на 99% точными, вам все равно пришлось бы проверять любые заявления, сделанные с использованием стороннего источника.

Поэтому я практически умоляю вас не использовать прямой вывод чат-бота в качестве боеприпасов для любого вида онлайн-дискуссии. В лучшем случае вы только выставите себя глупыми; в худшем — можете распространить опасную дезинформацию. Это была достаточно большая проблема до Боты с искусственным интеллектом стали обычным явлением, так что вы можете себе представить, насколько ужасна ситуация сейчас.

Если вы используете веб-версии этих ботов ИИ, не забудьте добавить запрос к вашему запросу на источники. Затем сначала проверьте источники, которые цитирует ИИ, прежде чем использовать эту информацию дальше. Не чувствуйте себя уверенными только потому, что ИИ предоставляет источник, поскольку они могут даже галлюцинировать ссылки на веб-сайты, названия источников или искажать то, что говорит этот источник.

Многое из того, что производят ИИ-боты, имеет видимость авторитетности и легитимности, но если к этому подойти критически, то все быстро развалится.

Меня действительно беспокоит то, что люди ссылаются на ИИ, чтобы выиграть споры в Интернете

Дайте отпор людям, использующим ИИ в качестве источника информации в Интернете

Даже если вы не используете ИИ в качестве источника в обсуждениях, вы столкнетесь с множеством людей в сети, которые это делают. В большинстве случаев я подозреваю, что они не будут знать, что эти боты ненадежны и что их ответы нуждаются в тщательной проверке. Так что если кто-то попытается возразить вам старым «@grok» или скриншотами из ChatGPT, вы должны дать отпор.

Дайте понять, что чат-боты ИИ не являются законным источником информации, а вместо этого являются существенным источником дезинформации. Если люди могут оспорить Википедию как источник (у которой есть прозрачная редакционная страница обсуждения, которую может прочитать каждый), то они должны обязательно оспорить использование ИИ в любой онлайн-дискуссии.

Я понимаю, что может быть приятно привлечь напарника по команде с искусственным интеллектом, чтобы он помог вам набрать больше очков, но в этом матче некоторые участники, скорее всего, мошенничают, и вам не хочется быть в этом замешанным.

Оцените статью