❘ Обновлено: 2023-06-23T11:00:54

Нью-йоркские юристы были оштрафованы после того, как он и его юридическая фирма решили использовать ChatGPT для цитирования дел, которых никогда не было.
В марте пара адвокатов представила в дело документы с помощью ИИ. ChatGPT помог этим двоим найти в Интернете связанные дела, которые можно было бы привести в иске о травмах.
Однако ChatGPT «галлюцинировал» случаи и предоставлял фальшивую информацию. Ключевые примеры включают дело «Варгезе против China Southern Airlines Co. Ltd.», которое так и не состоялось. Когда его спросили об этом, ChatGPT настоял на том, чтобы это произошло.
Нью-йоркская юридическая фирма, Levidow, Levidow & Oberman PC и два ее адвоката, Питер ЛоДука и Стивен А. Шварц, были оштрафованы на 5000 долларов. Санкции также были применены к фирме и отдельным лицам.
Письмо с подробным описанием наказания является жестоким и критическим, и судья указывает, что ситуация не обострилась бы, если бы адвокаты не «удвоились» после того, как ошибка была обнаружена.
После представления фиктивных случаев, которые ChatGPT галлюцинировал в марте, фирма не признала ни одного нарушения до мая. Судья пишет:
«Вместо этого отдельные Ответчики удвоили свои усилия и не начали раскрывать правду до 25 мая, после того как Суд издал Приказ о предоставлении оснований, по которым один из отдельных Ответчиков не должен подвергаться санкциям».
Другая часть наказания заключается в том, что фирма должна будет информировать судей, упомянутых в фальшивых делах. Само дело было прекращено, так как истец не подал его в течение 2 лет с момента получения травмы.
Что такое галлюцинация ChatGPT?
Галлюцинация ChatGPT — или галлюцинация ИИ — это когда программное обеспечение начинает придумывать что-то на основе полученной информации. Это может привести к ложной информации, как указано выше, и стало одной из основных причин, по которой OpenAI теперь предупреждает пользователей о том, что его информация может быть неверной.
OpenAI активно работает над тем, чтобы ChatGPT больше не вызывал галлюцинаций, но до того, как это будет реализовано, может пройти еще много времени.