Управление полиции Прибрежного округа Израиля представило в суд документ, в котором цитировались несуществующие статьи закона. Адвокат подозреваемого заподозрил, что следователи использовали для формулировок ChatGPT, не проверив достоверность утверждений. Об этом стало известно во вторник, 13 мая.
Речь идет о расследовании, проводимом подразделениями "Лахав-433" и управлением Прибрежного округа, в рамках которого был изъят мобильный телефон подозреваемого по имени Ибрагим Махаджне. Сначала полиция и подозреваемый договорились, что телефон останется у полиции до 2026 года, однако спустя два месяца Махаджне изменил свое решение и потребовал вернуть устройство, утверждая, что его магазин был ограблен и у него нет доступа к системе безопасности без телефона.
Полиция сначала согласилась вернуть телефон, но затем отозвала свое согласие. Адвокат подозреваемого Тамир Кальдерон подал ходатайство в мировой суд Хадеры о возврате телефона. В ответ полиция представила суду возражение, в котором привела два "законодательных положения" в поддержку своей позиции. Однако на слушании адвокат заявил, что подозревает использование полицией ChatGPT, поскольку процитированных статей закона попросту не существуют.
После проверки представитель полиции признал ошибку: "Коллега прав. Мы отзываем свои слова. Приведенные утверждения были неверными. Тот, кто это написал, сделал это по ошибке, без злого умысла. Мы признаем, что была допущена ошибка".
Судья Эхуд Каплан подверг полицию резкой критике, отметив, что за 30 лет работы он еще не сталкивался с подобным случаем. Судья подчеркнул, что полиция опозорила себя, и указал, что один из "законов" даже не существует ни в чьем воображении, поскольку поиск его формулировки в интернете не дает никаких результатов.
В итоге суд постановил, что подозреваемый передаст полиции новый телефон, а полиция перенесет на него содержимое изъятого устройства. Таким образом, сам телефон останется у полиции, а данные будут возвращены владельцу.
Этот случай иллюстрирует растущую проблему использования искусственного интеллекта (AI) и генеративных моделей в юридической практике без должной проверки, что уже было предметом критики и в недавнем решении Верховного суда Израиля. Судьи подчеркнули недопустимость слепого доверия к AI-генерируемым материалам без проверки их достоверности.