Федеральний суддя вказав у рішенні фальшиві сторони, вигадані справи й цитати, що викликало сумніви щодо застосування штучного інтелекту
Суддя в епіцентрі скандалу через фіктивне рішення
Американський федеральний суддя Генрі Т. Вінгейт опинився у центрі уваги після винесення рішення, яке містило численні вигадки — серед них неіснуючі сторони, фальшиві правові цитати та посилання на судові справи, яких немає в жодній базі даних. Це дало підстави припускати, що при підготовці тексту могла бути використана система штучного інтелекту.
20 липня суддя виніс постанову, якою зупинив дію закону штату Міссісіпі про інклюзивність в освіті. Але одразу після її оприлюднення юристи виявили суттєві неточності, після чого звернулися за роз’ясненням.
Нереальні учасники й фейкові цитати
У документі були вказані організації, які не були залучені до справи — зокрема, Бібліотечна асоціація Міссісіпі та жіноча організація Delta Sigma Theta Sorority Inc. Окрім того, рішення містило посилання на законодавчі норми та фрагменти позову, яких не існує.
Після викриття помилок ухвалу було виправлено, але оригінальну версію прибрали з реєстру, зробивши її недоступною для громадськості. Водночас оновлений документ був заднім числом датований 20 липня, хоча опублікували його лише за три дні.
«Наші юристи такого ще не бачили», — заявив представник офісу генпрокурора штату на умовах анонімності.
Можливе залучення штучного інтелекту
Про це повідомляє «ШТАБ.𝒊𝒏𝒇𝒐» із посиланням на Mississippi Today.
Чимало правників звернули увагу на ознаки так званих «галюцинацій» штучного інтелекту — коли система вигадує судові прецеденти чи перекручує факти. Схожі помилки вже траплялися в судових поданнях, створених з використанням генеративних текстових моделей.
Примітно, що навіть після оновлення в рішенні все одно фігурує справа Cousins v. School Board of City of Norfolk (1974) — журналісти не змогли її знайти у жодній юридичній базі.
Сам суддя Вінгейт відмовився коментувати ситуацію чи відповідати на питання щодо використання штучного інтелекту.
Професійна етика під загрозою
Професорка права з Університету Маямі Крістіна Фрогок, яка досліджує етичні наслідки використання ШІ в юриспруденції, зазначила:
«Я не знаю, як пояснити цю історію. Відчуваю себе Алісою в Країні чудес».
Вона також наголосила на подвійних стандартах: коли юристи подають документи з фейковими цитатами, їх можуть оштрафувати або притягнути до відповідальності. Один із таких випадків нещодавно стався в Колорадо — двох адвокатів оштрафували за помилки, спричинені використанням ШІ.
А от до самих суддів, які припускаються схожих помилок, реальні санкції наразі не застосовуються.
Що далі?
Наступне судове засідання у цій справі заплановане на 5 серпня. Тоді сторони мають обговорити можливість запровадження попередньої заборони на дію закону штату Міссісіпі.