Адвокат ссылается на фиктивное дело ChatGPT, и оно пошло не так

❘   Обновлено: 2023-06-23T11:00:54

Адвокат цитирует фальшивое дело ChatGPT & получилось плохо

Нью-йоркские юристы были оштрафованы после того, как он и его юридическая фирма решили использовать ChatGPT для цитирования дел, которых никогда не было.

В марте пара адвокатов представила в дело документы с помощью ИИ. ChatGPT помог этим двоим найти в Интернете связанные дела, которые можно было бы привести в иске о травмах.

Однако ChatGPT «галлюцинировал» случаи и предоставлял фальшивую информацию. Ключевые примеры включают дело «Варгезе против China Southern Airlines Co. Ltd.», которое так и не состоялось. Когда его спросили об этом, ChatGPT настоял на том, чтобы это произошло.

Нью-йоркская юридическая фирма, Levidow, Levidow & Oberman PC и два ее адвоката, Питер ЛоДука и Стивен А. Шварц, были оштрафованы на 5000 долларов. Санкции также были применены к фирме и отдельным лицам.

Письмо с подробным описанием наказания является жестоким и критическим, и судья указывает, что ситуация не обострилась бы, если бы адвокаты не «удвоились» после того, как ошибка была обнаружена.

После представления фиктивных случаев, которые ChatGPT галлюцинировал в марте, фирма не признала ни одного нарушения до мая. Судья пишет:

«Вместо этого отдельные Ответчики удвоили свои усилия и не начали раскрывать правду до 25 мая, после того как Суд издал Приказ о предоставлении оснований, по которым один из отдельных Ответчиков не должен подвергаться санкциям».

Другая часть наказания заключается в том, что фирма должна будет информировать судей, упомянутых в фальшивых делах. Само дело было прекращено, так как истец не подал его в течение 2 лет с момента получения травмы.

Что такое галлюцинация ChatGPT?

 Юрист ссылается на поддельное дело ChatGPT, и оно пошло не так» /></p>
<p data-cy=Галлюцинация ChatGPT — или галлюцинация ИИ — это когда программное обеспечение начинает придумывать что-то на основе полученной информации. Это может привести к ложной информации, как указано выше, и стало одной из основных причин, по которой OpenAI теперь предупреждает пользователей о том, что его информация может быть неверной.

OpenAI активно работает над тем, чтобы ChatGPT больше не вызывал галлюцинаций, но до того, как это будет реализовано, может пройти еще много времени.

Оцените статью