ИИ может быть недостаточно, чтобы решить все наши проблемы с Интернетом

Недавно Google объявила, что включит ИИ в поиск, что облегчит вам поиск нужной информации без необходимости сначала продираться через кучу мусорных результатов поиска. Однако есть несколько причин, по которым это не сработает.
- Видение Google будущего поиска основано на искусственном интеллекте
- Поиск с помощью ИИ — это стратегия Google по борьбе со спамом в Интернете ч2> Одна из главных причин, по которой Google углубляется в AI Search, заключается в том, что компания видит в нем решение одной из своих давних проблем: интернет-спама. п> На протяжении большей части своего существования Google находился в постоянной гонке с интернет-спамерами, которые постоянно пытались обмануть систему, чтобы перенаправить часть интернет-трафика. Каждый раз, когда Google совершенствует свои алгоритмы, спамеры находят новые способы их использования. п> <п>Однако в конце 2022 года что-то изменилось, что изменило баланс сил. Open AI представила свою генеративную модель искусственного интеллекта ChatGPT и тем самым невольно доставила ядерные коды этим интернет-спамерам, что позволило им быстро и дешево штамповать статьи. Эти спам-статьи, возможно, не имеют высокого рейтинга, но они мутят воду, делая Google качественно хуже для всех. Это также может объяснить, почему вездесущее мнение о том, что «Google умирает» в последние месяцы усилилась. п> Google надеется, что AI Search решит эту проблему, но с этим планом есть некоторые проблемы. п> Проблема с поиском ИИ в том, что он вызывает галлюцинации и подрывает доверие ч2> Когда Google впервые объявила, что будет публиковать обзоры ИИ, моей первой мыслью было: «Что они собираются делать с проблемой галлюцинаций?” п> Оказывается, ответ был: не очень. Спустя некоторое время после анонса «Обзоров ИИ» люди заметили, что одно из предложений в демонстрационном видео в ответ на вопрос о том, как починить сломанную пленочную камеру, скорее испортит все ваши фотографии, чем поможет решить проблему. п> п> Но на этом всё не закончилось. Вскоре после того, как начали появляться обзоры ИИ, люди заметили, что некоторые из его ответов были смешными или даже вредными. Например, предлагалось использовать бензин для приготовления спагетти и выпивать не менее 2 литров мочи в день. п> п> Ну и что? Все знают, что нельзя верить всему, что видишь в Интернете, да и другие чат-боты тоже выдумывают, так почему же это так важно? п> Вот в чем дело: галлюцинации ИИ в Поиске поднимают проблему доверия. Одно дело, когда новый экспериментальный чат-бот с искусственным интеллектом время от времени лжет вам и фабрикует информацию. Совсем другое дело, когда Google делает это, потому что люди доверяют Google. п> <п>Google заявляет, что устранил странные результаты обзоров искусственного интеллекта и ввел дополнительные меры безопасности, но я все еще настроен скептически. Некоторые эксперты даже считают, что галлюцинации невозможно исправить и что они являются фундаментальной частью LLM. Если это правда, мы можем вступить в эпоху Интернета, когда вы действительно не сможете доверять ничему в Интернете, даже своей поисковой системе. п> Теряем нюансы с обзорами ИИ Обзоры искусственного интеллекта Google не генерируют ответы, основываясь только на данных обучения. Он также просматривает лучшие веб-страницы Google. Предполагается, что это поможет ему избежать галлюцинаций, но это также поднимает новую проблему контекста и нюансов. п> <п>Мы уже видели эту игру в вирусном запросе “Как предотвратить соскальзывание сыра с пиццы?”, где ИИ предложил добавить клей в пиццу. Он взял этот ответ из поста Reddit 11-летней давности, который любой мог бы легко проигнорировать как шутку или комментарий тролля, если бы рассматривал его в исходном контексте. Однако Google’s AI Overviews лишает его этого нюанса и представляет его как неопровержимый факт в той же авторитетной манере, в которой он предлагает другие варианты. Другим примером является рекомендация ИИ съедать по крайней мере один небольшой камень в день. Опять же, Google’s AI Overviews вырвал эту информацию из ее источника — в данном случае из сатирической статьи Onion, лишив ее контекста и представив ее как неопровержимый факт. стр> <стр> стр> <стр>Это очевидные ошибки, от которых легко отмахнуться как от безобидных. Но что произойдет в следующий раз, когда обзоры ИИ неверно истолкуют что-то важное, что не так-то легко обнаружить? Обзоры ИИ могут убить открытый Интернет Обзоры ИИ угрожают всей бизнес-структуре Интернета. Для получения прибыли веб-сайты полагаются на доход от рекламы, и этот доход от рекламы зависит от трафика. Таким образом, у веб-сайтов есть стимул создавать отличный контент, который удерживает людей на посещении сайта. п> Обзоры ИИ нарушают эту структуру, когда они извлекают информацию непосредственно с веб-сайтов. Теперь вам не нужно фактически посещать веб-сайт, тем самым снижая его трафик и доходы от рекламы. Естественным развитием событий может стать то, что веб-сайты будут вынуждены блокировать свой контент с помощью платного доступа, чтобы оставаться в бизнесе. п> <п>Google утверждает, что ссылки в обзорах AI получают больше кликов, чем традиционные списки, но они не предоставили данных, подтверждающих это. Это также кажется маловероятным, учитывая, что эти ссылки спрятаны в самом низу результатов обзора ИИ. Даже если это верно для страниц с более низким рейтингом, трудно поверить в результаты с верхними позициями. п> Если контент будет заблокирован за платным доступом, чтобы выжить, что произойдет с Интернетом? Некоторые говорят, что это может привести к теории мертвого интернета, когда все, что осталось от открытой сети, — это куча LLM бесконечно перерабатывают контент друг друга, пока Интернет не превратится в неузнаваемую смесь предсказаний слов. п> В конце концов, людям нужен человеческий опыт и контент < /ч2> У Google хорошие намерения в отношении обзоров ИИ. Проблема, однако, в том, что они в корне неправильно понимают, чего люди хотят от Поиска: аутентичности. п> Люди устали от стандартного контента. Им нужен настоящий человеческий опыт, а не просто отрыгнутый совет. Вот почему все больше и больше людей ищут Reddit в надежде найти мнения реальных людей, которые действительно понимают свои проблемы. п> Вместо большего количества искусственного интеллекта будущее поиска могло бы быть лучше обеспечено алгоритмом, который вознаграждает аутентичный контент и реальный опыт. п>
- Проблема с поиском ИИ в том, что он вызывает галлюцинации и подрывает доверие ч2> Когда Google впервые объявила, что будет публиковать обзоры ИИ, моей первой мыслью было: «Что они собираются делать с проблемой галлюцинаций?” п> Оказывается, ответ был: не очень. Спустя некоторое время после анонса «Обзоров ИИ» люди заметили, что одно из предложений в демонстрационном видео в ответ на вопрос о том, как починить сломанную пленочную камеру, скорее испортит все ваши фотографии, чем поможет решить проблему. п> п> Но на этом всё не закончилось. Вскоре после того, как начали появляться обзоры ИИ, люди заметили, что некоторые из его ответов были смешными или даже вредными. Например, предлагалось использовать бензин для приготовления спагетти и выпивать не менее 2 литров мочи в день. п> п> Ну и что? Все знают, что нельзя верить всему, что видишь в Интернете, да и другие чат-боты тоже выдумывают, так почему же это так важно? п> Вот в чем дело: галлюцинации ИИ в Поиске поднимают проблему доверия. Одно дело, когда новый экспериментальный чат-бот с искусственным интеллектом время от времени лжет вам и фабрикует информацию. Совсем другое дело, когда Google делает это, потому что люди доверяют Google. п> <п>Google заявляет, что устранил странные результаты обзоров искусственного интеллекта и ввел дополнительные меры безопасности, но я все еще настроен скептически. Некоторые эксперты даже считают, что галлюцинации невозможно исправить и что они являются фундаментальной частью LLM. Если это правда, мы можем вступить в эпоху Интернета, когда вы действительно не сможете доверять ничему в Интернете, даже своей поисковой системе. п> Теряем нюансы с обзорами ИИ Обзоры искусственного интеллекта Google не генерируют ответы, основываясь только на данных обучения. Он также просматривает лучшие веб-страницы Google. Предполагается, что это поможет ему избежать галлюцинаций, но это также поднимает новую проблему контекста и нюансов. п> <п>Мы уже видели эту игру в вирусном запросе “Как предотвратить соскальзывание сыра с пиццы?”, где ИИ предложил добавить клей в пиццу. Он взял этот ответ из поста Reddit 11-летней давности, который любой мог бы легко проигнорировать как шутку или комментарий тролля, если бы рассматривал его в исходном контексте. Однако Google’s AI Overviews лишает его этого нюанса и представляет его как неопровержимый факт в той же авторитетной манере, в которой он предлагает другие варианты. Другим примером является рекомендация ИИ съедать по крайней мере один небольшой камень в день. Опять же, Google’s AI Overviews вырвал эту информацию из ее источника — в данном случае из сатирической статьи Onion, лишив ее контекста и представив ее как неопровержимый факт. стр> <стр> стр> <стр>Это очевидные ошибки, от которых легко отмахнуться как от безобидных. Но что произойдет в следующий раз, когда обзоры ИИ неверно истолкуют что-то важное, что не так-то легко обнаружить? Обзоры ИИ могут убить открытый Интернет Обзоры ИИ угрожают всей бизнес-структуре Интернета. Для получения прибыли веб-сайты полагаются на доход от рекламы, и этот доход от рекламы зависит от трафика. Таким образом, у веб-сайтов есть стимул создавать отличный контент, который удерживает людей на посещении сайта. п> Обзоры ИИ нарушают эту структуру, когда они извлекают информацию непосредственно с веб-сайтов. Теперь вам не нужно фактически посещать веб-сайт, тем самым снижая его трафик и доходы от рекламы. Естественным развитием событий может стать то, что веб-сайты будут вынуждены блокировать свой контент с помощью платного доступа, чтобы оставаться в бизнесе. п> <п>Google утверждает, что ссылки в обзорах AI получают больше кликов, чем традиционные списки, но они не предоставили данных, подтверждающих это. Это также кажется маловероятным, учитывая, что эти ссылки спрятаны в самом низу результатов обзора ИИ. Даже если это верно для страниц с более низким рейтингом, трудно поверить в результаты с верхними позициями. п> Если контент будет заблокирован за платным доступом, чтобы выжить, что произойдет с Интернетом? Некоторые говорят, что это может привести к теории мертвого интернета, когда все, что осталось от открытой сети, — это куча LLM бесконечно перерабатывают контент друг друга, пока Интернет не превратится в неузнаваемую смесь предсказаний слов. п> В конце концов, людям нужен человеческий опыт и контент < /ч2> У Google хорошие намерения в отношении обзоров ИИ. Проблема, однако, в том, что они в корне неправильно понимают, чего люди хотят от Поиска: аутентичности. п> Люди устали от стандартного контента. Им нужен настоящий человеческий опыт, а не просто отрыгнутый совет. Вот почему все больше и больше людей ищут Reddit в надежде найти мнения реальных людей, которые действительно понимают свои проблемы. п> Вместо большего количества искусственного интеллекта будущее поиска могло бы быть лучше обеспечено алгоритмом, который вознаграждает аутентичный контент и реальный опыт. п>
- Теряем нюансы с обзорами ИИ
- Обзоры ИИ могут убить открытый Интернет
- В конце концов, людям нужен человеческий опыт и контент < /ч2> У Google хорошие намерения в отношении обзоров ИИ. Проблема, однако, в том, что они в корне неправильно понимают, чего люди хотят от Поиска: аутентичности. п> Люди устали от стандартного контента. Им нужен настоящий человеческий опыт, а не просто отрыгнутый совет. Вот почему все больше и больше людей ищут Reddit в надежде найти мнения реальных людей, которые действительно понимают свои проблемы. п> Вместо большего количества искусственного интеллекта будущее поиска могло бы быть лучше обеспечено алгоритмом, который вознаграждает аутентичный контент и реальный опыт. п>
Видение Google будущего поиска основано на искусственном интеллекте
На выставке Google I/O 2024 компания представила «Поиск в эпоху Близнецов» – это способ сказать, что она интегрирует ИИ в поиск. Этот шаг не был удивительным, поскольку Google уже некоторое время экспериментирует с идеей AI-поиска с помощью Search Generative Experience. п>
На конференции Google продемонстрировал некоторые новые экспериментальные функции искусственного интеллекта, такие как планирование в поиске, страницы, организованные с помощью искусственного интеллекта, и поиск видео. Однако особенность, которая привлекла внимание, — это обзоры ИИ. п> <п>Идея обзоров ИИ заключается в том, что вместо сканирования нескольких веб-страниц для сбора необходимой вам информации Google сделает всю работу за вас. Он извлечет самую важную информацию из лучших результатов Google и предоставит вам аккуратную сводку. Вы даже можете изменить представление этих ответов, чтобы сделать их более понятными или разбить их шаг за шагом. п>
Поиск с помощью ИИ — это стратегия Google по борьбе со спамом в Интернете ч2>
Одна из главных причин, по которой Google углубляется в AI Search, заключается в том, что компания видит в нем решение одной из своих давних проблем: интернет-спама. п>
На протяжении большей части своего существования Google находился в постоянной гонке с интернет-спамерами, которые постоянно пытались обмануть систему, чтобы перенаправить часть интернет-трафика. Каждый раз, когда Google совершенствует свои алгоритмы, спамеры находят новые способы их использования. п> <п>Однако в конце 2022 года что-то изменилось, что изменило баланс сил. Open AI представила свою генеративную модель искусственного интеллекта ChatGPT и тем самым невольно доставила ядерные коды этим интернет-спамерам, что позволило им быстро и дешево штамповать статьи. Эти спам-статьи, возможно, не имеют высокого рейтинга, но они мутят воду, делая Google качественно хуже для всех. Это также может объяснить, почему вездесущее мнение о том, что «Google умирает» в последние месяцы усилилась. п>
Google надеется, что AI Search решит эту проблему, но с этим планом есть некоторые проблемы. п>
Проблема с поиском ИИ в том, что он вызывает галлюцинации и подрывает доверие ч2>
Когда Google впервые объявила, что будет публиковать обзоры ИИ, моей первой мыслью было: «Что они собираются делать с проблемой галлюцинаций?” п>
Оказывается, ответ был: не очень. Спустя некоторое время после анонса «Обзоров ИИ» люди заметили, что одно из предложений в демонстрационном видео в ответ на вопрос о том, как починить сломанную пленочную камеру, скорее испортит все ваши фотографии, чем поможет решить проблему. п>

п>
Но на этом всё не закончилось. Вскоре после того, как начали появляться обзоры ИИ, люди заметили, что некоторые из его ответов были смешными или даже вредными. Например, предлагалось использовать бензин для приготовления спагетти и выпивать не менее 2 литров мочи в день. п>

п>
Ну и что? Все знают, что нельзя верить всему, что видишь в Интернете, да и другие чат-боты тоже выдумывают, так почему же это так важно? п>
Вот в чем дело: галлюцинации ИИ в Поиске поднимают проблему доверия. Одно дело, когда новый экспериментальный чат-бот с искусственным интеллектом время от времени лжет вам и фабрикует информацию. Совсем другое дело, когда Google делает это, потому что люди доверяют Google. п> <п>Google заявляет, что устранил странные результаты обзоров искусственного интеллекта и ввел дополнительные меры безопасности, но я все еще настроен скептически. Некоторые эксперты даже считают, что галлюцинации невозможно исправить и что они являются фундаментальной частью LLM. Если это правда, мы можем вступить в эпоху Интернета, когда вы действительно не сможете доверять ничему в Интернете, даже своей поисковой системе. п>
Теряем нюансы с обзорами ИИ
Обзоры искусственного интеллекта Google не генерируют ответы, основываясь только на данных обучения. Он также просматривает лучшие веб-страницы Google. Предполагается, что это поможет ему избежать галлюцинаций, но это также поднимает новую проблему контекста и нюансов. п> <п>Мы уже видели эту игру в вирусном запросе “Как предотвратить соскальзывание сыра с пиццы?”, где ИИ предложил добавить клей в пиццу. Он взял этот ответ из поста Reddit 11-летней давности, который любой мог бы легко проигнорировать как шутку или комментарий тролля, если бы рассматривал его в исходном контексте. Однако Google’s AI Overviews лишает его этого нюанса и представляет его как неопровержимый факт в той же авторитетной манере, в которой он предлагает другие варианты.
Другим примером является рекомендация ИИ съедать по крайней мере один небольшой камень в день. Опять же, Google’s AI Overviews вырвал эту информацию из ее источника — в данном случае из сатирической статьи Onion, лишив ее контекста и представив ее как неопровержимый факт. стр> <стр> стр> <стр>Это очевидные ошибки, от которых легко отмахнуться как от безобидных. Но что произойдет в следующий раз, когда обзоры ИИ неверно истолкуют что-то важное, что не так-то легко обнаружить?
Обзоры ИИ могут убить открытый Интернет
Обзоры ИИ угрожают всей бизнес-структуре Интернета. Для получения прибыли веб-сайты полагаются на доход от рекламы, и этот доход от рекламы зависит от трафика. Таким образом, у веб-сайтов есть стимул создавать отличный контент, который удерживает людей на посещении сайта. п>
Обзоры ИИ нарушают эту структуру, когда они извлекают информацию непосредственно с веб-сайтов. Теперь вам не нужно фактически посещать веб-сайт, тем самым снижая его трафик и доходы от рекламы. Естественным развитием событий может стать то, что веб-сайты будут вынуждены блокировать свой контент с помощью платного доступа, чтобы оставаться в бизнесе. п> <п>Google утверждает, что ссылки в обзорах AI получают больше кликов, чем традиционные списки, но они не предоставили данных, подтверждающих это. Это также кажется маловероятным, учитывая, что эти ссылки спрятаны в самом низу результатов обзора ИИ. Даже если это верно для страниц с более низким рейтингом, трудно поверить в результаты с верхними позициями. п>
Если контент будет заблокирован за платным доступом, чтобы выжить, что произойдет с Интернетом? Некоторые говорят, что это может привести к теории мертвого интернета, когда все, что осталось от открытой сети, — это куча LLM бесконечно перерабатывают контент друг друга, пока Интернет не превратится в неузнаваемую смесь предсказаний слов. п>
В конце концов, людям нужен человеческий опыт и контент < /ч2>
У Google хорошие намерения в отношении обзоров ИИ. Проблема, однако, в том, что они в корне неправильно понимают, чего люди хотят от Поиска: аутентичности. п>
Люди устали от стандартного контента. Им нужен настоящий человеческий опыт, а не просто отрыгнутый совет. Вот почему все больше и больше людей ищут Reddit в надежде найти мнения реальных людей, которые действительно понимают свои проблемы. п>
Вместо большего количества искусственного интеллекта будущее поиска могло бы быть лучше обеспечено алгоритмом, который вознаграждает аутентичный контент и реальный опыт. п>