Поисковые системы с искусственным интеллектом не могут добиться успеха без доверия, а у меня его нет

Доверие № 1 (или 0).

AI Search Engines Can’t Succeed Without Trust, And I Have None

Содержание
  1. Ключевые выводы
  2. Поисковые системы с генеративным ИИ дают тревожные результаты
  3. Кто-то должен нести ответственность за информацию в результатах поиска
  4. Если люди не доверяют результатам поиска ИИ, технологии не имеют значения
  5. Держать людей в курсе событий неизбежно, независимо от того, насколько умные машины получают Какими бы хорошими ни были технологии искусственного интеллекта, они никогда не смогут быть достаточно хорошими, чтобы оправдать полное устранение человеческого контроля. Не потому, что люди обязательно будут делать свою работу лучше, а потому, что я считаю, что люди никогда не будут им полностью доверять. Мы склонны сосредотачиваться на исключениях, а не на правилах, поэтому люди играют в лотерею! В конечном счете, создатели подобных систем не могут снять с себя ответственность, когда эти системы причиняют вред. Доллар должен где-то остановиться, и людям придется нести определенную ответственность. Отдельные веб-сайты могут нести ответственность за свое содержание, и до недавнего времени поисковые системы не проделали хорошую работу по размещению наиболее заслуживающих доверия сайтов на вершине списка. Это благотворный цикл, в котором мы стараемся предоставлять как можно более качественный и заслуживающий доверия контент, а поисковые системы вознаграждают нас трафиком, который финансирует больше контента и так далее. Теперь ИИ-резюме этого контента рискуют разорвать цикл, который создает качественный, заслуживающий доверия контент, а также потенциально представляет или повторяет опасную или вводящую в заблуждение информацию. Как только вы эффективно превратите поиск информации в Интернете в игру в русскую рулетку, не ждите, что люди, выбивающие вашу дверь, будут готовыми игроками.

Ключевые выводы

<ул>

  • Генеративные поисковые системы ИИ могут дать полезные ответы, но доверие является серьезной проблемой из-за непредсказуемости.
  • Человеческий контроль по-прежнему имеет решающее значение для результатов поиска, обеспечивая доверие и точность.
  • Даже при наличии продвинутого ИИ доверие к технологиям важнее, чем показатели производительности.

    Генеративный ИИ, по крайней мере, на переднем крае, эффективен в поиске, переработке и представлении информации в полезной форме для тех, кто ищет ответы. Однако можем ли мы действительно доверять этой технологии в ее нынешнем виде? Можем ли мы в принципе когда-нибудь ей доверять?

    Поисковые системы с генеративным ИИ дают тревожные результаты

    Кажется, все добавляют ИИ в свои поисковые продукты. Некоторые из них, такие как Perplexity AI, построили всю свою систему на основе генеративного искусственного интеллекта и моделей большого языка (LLM). Известные поисковые компании, в частности Bing и Google, добавили эти технологии в свои существующие поисковые системы. <п>Например, Google теперь предлагает сводки AI, в которых LLM будет читать веб-страницы, чтобы вам не приходилось этого делать, и давать вам прямой ответ на ваш вопрос. Не говоря уже о том, как это исключает из цикла реальные веб-сайты, создающие контент, когда это работает, это удивительно полезно. Однако, как и чат-боты с искусственным интеллектом, они склонны страдать «галлюцинациями». или допускать логические и рассуждения.

    Это привело к тому, что ИИ поиска Google предложил такие вещи, как добавление клея в пиццу и поедание камней, а также то, что на Луне есть кошки. Google, со своей стороны, быстро пытается устранить эти ошибки, но это не решает фундаментальную проблему — доверие.

    Кто-то должен нести ответственность за информацию в результатах поиска

    <стр> Хотите верьте, хотите нет, но я настоящий человек, сижу за этой клавиатурой и печатаю слова, которые вы собираетесь прочитать. Это означает, что если вы читаете здесь что-то, что не имеет смысла, является ложным или может причинить вред, у вас есть кто-то, кто может взять на себя ответственность за это. Аналогично, если я использую информацию, например, от Associated Press, и в этом материале есть серьезные фактические ошибки, я могу обратиться за помощью, потому что где-то в дальнейшем человек допустил ошибку или что-то еще пошло не так, чтобы объяснить проблему. <п>Мы знаем, как была получена информация, и знаем, кто несет ответственность. За халатность предусмотрены последствия, и существуют системы (такие как редакторы-люди и редакционная политика), предназначенные для выявления проблем до их публикации. Конечно, ни одна из этих систем не является надежной, но всегда кто-то несет ответственность.

    До сих пор генеративные системы ИИ склонны вести себя так, что даже их создатели не могут предсказать. Эти модели с миллиардами или даже триллионами параметров подобны черным ящикам, где никто точно не знает, что происходит внутри. Именно поэтому они так многообещающи и сильны, но это означает, что найти безопасное и заслуживающее доверия решение сложно. <п>Даже если что-то вроде Gemini от Google было на 99% точным и заслуживающим доверия, у нас все еще есть проблема. Конечно, люди сами редко бывают такими надежными, но нам также редко хватает скорости и масштаба, чтобы наши ошибки могли нанести потенциально огромный ущерб. Учтите, что Google обрабатывает около 8,5 миллиардов поисковых запросов в день. Даже если только 1% этих поисковых запросов содержал потенциально вредную информацию или советы, это все равно оставляет 85 миллионов человек, которых кормят чем-то проблематичным. Каждый день!

    Другими словами, стандарты, необходимые для таких систем, чтобы предлагать советы и информацию без участия человека, настолько высоки, что это фактически невозможно.

    Если люди не доверяют результатам поиска ИИ, технологии не имеют значения

    Однако мы можем говорить о показателях производительности этих систем ИИ весь день, и это не будет иметь никакого значения, если они не будут восприниматься как заслуживающие доверия. Есть много перспективных технологий, которые были законсервированы из-за отсутствия общественного доверия. Ядерные аварии заставили людей опасаться ядерной энергии. Трагедия Гинденбурга забила последний гвоздь в гроб дирижаблей, хотя переход на гелий с водорода сделал бы повторение этого невозможным. Если ваша технология воспринимается как ненадежная, исправить это мнение становится практически невозможно, даже если вы действительно устраните проблемы.

    Держать людей в курсе событий неизбежно, независимо от того, насколько умные машины получают

    Какими бы хорошими ни были технологии искусственного интеллекта, они никогда не смогут быть достаточно хорошими, чтобы оправдать полное устранение человеческого контроля. Не потому, что люди обязательно будут делать свою работу лучше, а потому, что я считаю, что люди никогда не будут им полностью доверять. Мы склонны сосредотачиваться на исключениях, а не на правилах, поэтому люди играют в лотерею!

    В конечном счете, создатели подобных систем не могут снять с себя ответственность, когда эти системы причиняют вред. Доллар должен где-то остановиться, и людям придется нести определенную ответственность. Отдельные веб-сайты могут нести ответственность за свое содержание, и до недавнего времени поисковые системы не проделали хорошую работу по размещению наиболее заслуживающих доверия сайтов на вершине списка. Это благотворный цикл, в котором мы стараемся предоставлять как можно более качественный и заслуживающий доверия контент, а поисковые системы вознаграждают нас трафиком, который финансирует больше контента и так далее.

    Теперь ИИ-резюме этого контента рискуют разорвать цикл, который создает качественный, заслуживающий доверия контент, а также потенциально представляет или повторяет опасную или вводящую в заблуждение информацию. Как только вы эффективно превратите поиск информации в Интернете в игру в русскую рулетку, не ждите, что люди, выбивающие вашу дверь, будут готовыми игроками.

  • Оцените статью