В США фиксируют рост случаев ошибок при использовании ИИ в судебной практике. Если раньше проблемы касались в основном юристов, то теперь искусственный интеллект применяют и судьи, что приводит к публикации решений с «галлюцинациями» нейросетей, пишет ferra.ru со ссылкой на MIT
Федеральный судья в Нью-Джерси уже был вынужден переписать постановление из-за ошибок ИИ. В Миссисипи судья отказался комментировать происхождение неточностей в своём решении. При этом некоторые судьи, как Ксавьер Родригес, используют ИИ только для вспомогательных задач – составления хронологий или вопросов адвокатам.
Судья Эллисон Годдард применяет ChatGPT и Claude для структурирования документов, но избегает их использования в уголовных делах. Эксперты отмечают, что судебные ошибки, вызванные ИИ, сложнее исправить, чем ошибки адвокатов, так как они фактически приобретают силу закона. Неконтролируемое применение технологий может снизить доверие к судебной системе.