Средство проверки фактов Google Bard AI дает изобличающие заявления о том, как обучается ИИ

❘   Обновлено: 2023-06-22T10:55:33

Проверка фактов Google Bard AI дает изобличающие заявление о том, как обучается ИИ

Согласно интервью, специалист по проверке фактов Google Bard AI выступил с изобличающим заявлением о том, что работникам не дается достаточно времени для проверки заявлений, которые делает ИИ.

Хотя Google признает, что его генеративный ИИ Bard отстает от своих современников, таких как ChatGPT и Bing, компания потратила некоторое время на улучшение инструмента. Чтобы сделать ответы Барда более точными, Google нанял краудсорсинговых работников для проверки точности ответов ИИ. Это должно помочь обучить ИИ и улучшить качество его вывода.

Языковые модели требуют такого обучения, чтобы убедиться, что информация, которую они предоставляют, верна, и с этим столкнулись все компании, занимающиеся искусственным интеллектом, за последний год. Эд Стэкхаус, который работает в Appen, был нанят, чтобы помочь улучшить ответы Барда, однако он утверждает, что работникам может не даваться время, необходимое им для проверки всех выходных данных Барда, в интервью The Register.

Сотрудникам необходимо прочитать информацию и прокомментируйте качество текста, проверка которого может занять до «15 минут». Стэкхаус утверждает, что работникам дается всего две минуты на проверку информации.

«Вам нужно будет проверить, началось в такую-то дату, что он изготовил такой-то проект, что генеральный директор такой-то». При таком количестве запросов, которые необходимо проверить, двух минут просто недостаточно для тщательной проверки утверждений, сделанных Бардом.

Неточная информация может навредить ИИ в долгосрочной перспективе

Проверщик фактов Google Bard AI делает изобличающие заявления о том, как обучается ИИ

Это опасный прецедент, созданный Google, и неточная информация может быть особенно вредной, когда пользователи ищут запросы о таких вещах, как лекарства, политика или юридические темы. На вопрос о том, каковы побочные эффекты конкретного рецепта, Стакхаус отвечает: «Мне нужно было бы пройти и проверить каждый из них. Что, если я ошибусь?»

Это невероятно рискованный шаг для Google, и из-за быстрого распространения ИИ он может привести к широко распространенной дезинформации. «Самая большая опасность заключается в том, что они могут ввести в заблуждение и звучать так хорошо, что люди будут убеждены в правильности ИИ».

По данным The Register, подрядчик, которому поручено проверить эти утверждения, Appen, наказывает работников, если они не выполняют отведенное им количество задач в установленные сроки. Учитывая, что работникам якобы дается всего две минуты на проверку ответов, это вызвало внутренний переполох. Шесть рабочих, в том числе Стакхаус, были уволены за высказывания о потенциально вредной практике.

«Это их продукт. Если им нужен бракованный продукт, это их дело». Стэкхаус прокомментировал участие Google в Appen.

Представитель Google сообщил The Register : «Как мы уже говорили, Appen несет ответственность за условия труда своих сотрудников, включая оплату, льготы, изменения в работе и порученные им задачи. Мы, конечно, уважаем право этих рабочих вступать в профсоюз или участвовать в организационной деятельности, но это вопрос между рабочими и их работодателем, Аппен», 

Оцените статью