Суд отстранил адвокатов от дел за использование ИИ в аргументации

Федеральный судья США вынесла беспрецедентное решение, отстранив от участия в делах и оштрафовав адвокатов, которые использовали искусственный интеллект для подготовки судебных аргументов. Это привело к появлению несуществующих ссылок на судебные прецеденты. Инцидент стал ярким примером растущих проблем, связанных с применением генеративных ИИ-моделей в юриспруденции.

Необычный сценарий в суде Миссисипи

Старший окружной судья Северного округа Миссисипи Шарион Эйкок была вынуждена прервать судебное разбирательство после того, как обнаружила, что обе стороны использовали искусственный интеллект для формирования своих доводов. В суде отмечалось, что это не первый раз, когда ей приходится сталкиваться с проблемой “галлюцинаций ИИ” — неверных или вымышленных данных, сгенерированных моделью, — в судебных документах.

В результате судья приказала приостановить процесс, полностью отменив разбирательство. Все четыре адвоката, участвовавшие в деле, были отстранены от него. Более того, двум из них запретили участвовать в любых делах в Северном округе Миссисипи в течение двух лет.

“Неубедительное и неправдоподобное” оправдание

Инцидент произошел в рамках обычного дела о нарушении контракта по поводу неоплаченных юридических услуг между городом Абердин и адвокатом из Луизианы Томом Уитерсом III. В ходе рассмотрения выяснилось, что некоторые из прецедентов, на которые ссылались адвокаты, никогда не имели места, что вызвало пристальное внимание судьи.

Адвокат Уитерса, Кэтлин М. Уилсон, использовала сгенерированные ИИ-моделью вымышленные цитаты для обоснования своей позиции. Это вскрылось, когда по требованию суда обе стороны должны были предоставить копии дел, на которые они ссылались.

Город Абердин, представленный Кэтрин И. Уильямс, также был признан виновным в аналогичном нарушении: он ссылался на несуществующее решение Верховного суда Миссисипи от 1971 года и три других федеральных постановления, которые не удалось подтвердить.

Оба адвоката признали использование ИИ, заявив о своём незнании потенциала больших языковых моделей (LLM), которые они применяли, и их способности “галлюцинировать”. Однако судья крайне негативно отнеслась к ситуации, отметив, что один из адвокатов практиковал не менее шести месяцев, используя генеративный ИИ для подготовки дел без надзора, и что ранее им уже были вынесены предупреждения о такой практике по несвязанному делу.

Судья назвала их объяснения “недостаточными и неправдоподобными” и оштрафовала всех четырех адвокатов на общую сумму 8000 долларов США, выделив двух адвокатов, непосредственно применявших ИИ.

Последствия и новый прецедент

Это дело, как отмечается, создает важный прецедент, который, по иронии судьбы, может стать реальным противовесом вымышленным, сгенерированным ИИ-прецедентам, из-за которых адвокаты попали в беду. Главный вывод: незнание способности искусственного интеллекта к “галлюцинациям” не является жизнеспособной юридической защитой.