С одной стороны, предложение было ошибочно включено в текст гражданского решения суда Ористано, написанного с помощью искусственного интеллекта («Отлично. Я составлю для вас абзац с обоснованием в стиле судебного решения»). С другой стороны, решение Апелляционного суда Кальяри, который счел это предложение недостаточным для отмены решения. Для коллегии под председательством судьи Марии Терезы Спано, в состав которой также входили Стефано Греко и Валентина Санта Крус, автоматическое создание предложения в обосновании не доказывает, что судья делегировал толкование закона или оценку доказательств машине.

Решение

«Закон разъясняет, что искусственный интеллект в судебной сфере может быть лишь вспомогательным инструментом», — поясняет Винченцо Амато , председатель суда Кальяри. «Фактически, все решения, касающиеся толкования и применения закона, оценки фактов и доказательств, а также принятия мер, остаются за судьей. Таким образом, ИИ может использоваться для организации и упрощения судебной работы, исследований и вспомогательных мероприятий, но не для принятия решений вместо судьи». Один принцип остается неизменным. «Ответственность за меры, в которых использовался ИИ, несет исключительно сам человек», — заключает председатель. «Делегирование решения алгоритму означало бы подрыв роли судьи». Джованни Манка , юрист и профессор уголовного права в Кальяри, также согласен с судом. «Использование генеративного ИИ, выявленное по опечатке, разрешено, — подчеркивает он, — до тех пор, пока судья не подменяет им собственную оценку фактов и доказательств, а также интерпретационную деятельность, которую нельзя делегировать машине, и в нашем случае этого не было обнаружено. Шум вокруг этого дела в любом случае показывает, насколько восприятие достоверности приговоров всегда является деликатным вопросом, требующим решения».

доктрина

«Искусственный интеллект — незаменимый инструмент для любой деятельности, особенно интеллектуальной», — подтверждает Массимо Орландо , председатель Апелляционного суда Кальяри. «Даже судебная система не может без него обойтись: он функционирует как человеческий помощник, но гораздо быстрее и эффективнее. Подобно тому, как тщательно проверяется подготовительная работа человека, судья должен подвергнуть продукт ИИ критическому анализу. Решение всегда должно оставаться за судьей-человеком, с его технической подготовкой, чуткостью и человечностью». Генеральный прокурор Луиджи Патронаджо разделяет это мнение. «Искусственный интеллект может найти и уже нашел широкое и плодотворное применение в судебной деятельности, если окончательное решение всегда и исключительно остается за судьей, физическим лицом, имеющим юридическое образование, культуру и чуткость. Нет проблем, если инструмент используется для поддержки нормативно-правовых, доктринальных и юридических исследований, для обобщения и организации документов, для лингвистического анализа и для подготовки проектов». Но «искусственный интеллект не может заменить судью в толковании и применении закона, в оценке фактов и доказательств, в формировании обвинительных приговоров и принятии мер». Главный прокурор Родольфо Сабелли , глава районного управления по борьбе с мафией Сардинии, согласен с этим. «Он также может быть очень полезным помощником для судьи, при условии правильного использования. Его исключительный потенциал требует осторожности: ИИ никогда не сможет вторгнуться в сущность юрисдикции — то есть в толкование, оценку и принятие решений, — которые судья никогда не сможет делегировать. Более того, CSM уже выразил четкое мнение о пределах и способах использования этой технологии в нашей работе».

Страхи юристов

Леонардо Филиппи , адвокат по уголовным делам и бывший профессор уголовного процесса, не уклоняется от обсуждения рисков злоупотребления. «Искусственный интеллект распространяется во всех областях, и хотя он обещает оказать существенную помощь во многих сферах, его нельзя использовать в системе правосудия. В процессуальных вопросах, как гражданских, так и уголовных, вступают в игру такие высшие ценности, как личная свобода, честь и собственность. Лицо, принимающее решение, всегда должно оставаться судьей, третьей стороной и беспристрастным лицом, на которое нельзя оказывать никакого влияния, тем более со стороны машины. К сожалению, уже произошло несколько инцидентов, демонстрирующих, что судьи использовали искусственный интеллект для составления положений в целях принятия решений, оценки или даже толкования». Маттео Пинна , президент Коллегии адвокатов Кальяри, также выражает обеспокоенность. «Не искусственный интеллект сглаживает идеи и язык, — объясняет он, — а мы позволяем ему сглаживать нас самих, используя его без навыков и правил, соизмеримых с его мощью. Проблема не в том, полагается ли судья на машину в помощи, а в том, где: рассуждение — это неосязаемая область, где демонстрируется понимание, а делегирование его означает неспособность заметить, если рассуждения не выдерживают критики, что ведет к стандартизации и «диктатуре прецедентов». Необходимы правила, которые сделают использование видимым, контролируемым и отслеживаемым до подписавшего лица, с общими задачами и симметричными обязанностями: судьи и адвокаты должны иметь одинаковую прозрачность, проверку и подотчетность. Нам нужна организация, которая различает делегируемые задачи, задачи, подлежащие контролю, и задачи, зарезервированные для судьи: оценка доказательств, принятие решений и рассуждения. А сэкономленное время должно трансформироваться в критический анализ, а не в дополнительные меры. «Не „технологическое правосудие“, — заключает он, — а „судебное“ «Технология»: инструменты на службе гарантий.

Франко Вилла , пресс-секретарь Уголовного суда, считает: «Вопрос не в том, может ли судья использовать искусственный интеллект, а в том, сохраняет ли он или она полный контроль над подписываемым им или ею постановлением. Сохранившаяся в тексте фраза демонстрирует, насколько важна личная проверка. Подобный инцидент в уголовном процессе, где на кону свобода людей, был бы еще серьезнее: именно судья, а не алгоритм, должен оценивать доказательства и принимать решения. Наконец, я надеюсь, что такое же понимание, проявленное к судьям, будет распространено и на адвокатов, для которых подобные ошибки могут привести к ответственности и санкциям». Мария Кристина Орнано , председатель суда по надзору Кальяри, считает, что эту технологию невозможно остановить. «Пытаться остановить этот процесс было бы иллюзорно», — резюмирует она. «Нам необходимо определить правила управления ИИ в системе правосудия и регулировать его использование, чтобы платформа, используемые ею данные и алгоритмы, определяющие конечные результаты, контролировались и сертифицировались авторитетными и независимыми органами. Необходимо обеспечить защиту конфиденциальных данных, установив, что, в каких пределах и для каких целей может использоваться в судебной работе. ИИ не может и не должен заменять судей или адвокатов; скорее, он должен служить правосудию».

Франческо Пинна

© Riproduzione riservata