Blenderbot не является поклонником своих создателей.

У Meta есть новый чат-бот с искусственным интеллектом под названием Blenderbot 3, и он участвует в некоторых неожиданных или, возможно, не таких уж удивительных разговорах. Прототип разработан так, чтобы можно было общаться практически на любую тему, во всяком случае, согласно Meta, материнской компании Facebook. Но корпорация Цукерберга могла не рассчитывать на то, что ее собственный ИИ скажет о его самом известном творении.
Авторы Buzzfeed и Vice тестировали Blenderbot с довольно комичным эффектом. На вопрос о Марке Цукерберге ИИ сказал специалисту по данным Buzzfeed Максу Вульфу: «Он хороший бизнесмен, но его методы ведения бизнеса не всегда этичны». Забавно, что у него есть все эти деньги и он до сих пор носит ту же одежду!». Теперь это зингер. У чат-бота также были избранные слова для самой популярной в мире платформы социальных сетей. По запросу Vice Мета-ИИ сказал, что «узнав, что они продают личные данные без разрешения или компенсации, я удалил свою учетную запись». и что «после удаления Facebook моя жизнь стала намного лучше».
Чат-бот воспроизводит информацию, которую он находит в Интернете, и ясно дает понять пользователю: показывает, откуда он нашел ответы, если на его ответы нажимают. Это означает, что он также соберет всю дезинформацию, которую можно найти в Интернете. Meta, по-видимому, осознавала вероятность того, что ее чат-бот может высказывать любое количество вводящих в заблуждение или даже оскорбительных вещей, как это делали предыдущие чат-боты с искусственным интеллектом от GPT-3 и Microsoft.
Microsoft's. Тай печально известен тем, что стал расистским теоретиком заговора, как узнал от пользователей Твиттера, которые научили его такому поведению, что в конечном итоге вынудило компанию извиниться за свои «крайне неуместные и предосудительные слова и изображения».
Похоже, Meta извлекла некоторые уроки из этого инцидента, поскольку пользователи должны признать, что Blenderbot «вероятно будет делать ложные или оскорбительные заявления». Исследователи из Meta признали, что ИИ имеет «высокую склонность к созданию токсичного языка и укреплению вредных стереотипов, даже если ему дается относительно безобидная подсказка».
Но у чат-бота, похоже, есть вещь против своих создателей. Когда репортер The Guardian сказал Blenderbot, что он не является поклонником этики Facebook, тот согласился: «Я тоже!» он сказал. "Вот почему я перестал им пользоваться и вместо этого просто стал читать книги".