НейрОбзор: Второе мнение для судьи – где заканчивается проверка и начинается влияние алгоритма?

Верховный Суд РФ объявил всероссийский конкурс студенческих проектов «Алгоритм правосудия. Второе мнение». Участникам предлагается создать прототип программного обеспечения с использованием искусственного интеллекта, который будет помогать судье при назначении наказания по уголовным делам.

Верховный Суд пока не внедряет ИИ-систему для вынесения приговоров. Речь идёт о конкурсе и создании прототипа. Но техническое задание сформулировано настолько предметно, что представляет интерес само по себе: фактически ВС показывает, какую роль искусственный интеллект потенциально может играть внутри судебного процесса.

И вот здесь начинается самое интересное.

Что должен делать «второй судья» – который не судья

Разрабатываемой системе предполагается предоставить проект судебного акта. ИИ должен автоматически извлечь из него квалификацию преступления, сведения о личности подсудимого, смягчающие и отягчающие обстоятельства, вид и размер назначенного наказания.

После этого система должна проверить наказание на соответствие УК РФ и разъяснениям Верховного Суда РФ, найти аналогичные приговоры по схожим делам, сопоставить их и выявить статистические отклонения. На выходе судья получает автоматическое заключение: краткую характеристику дела, результат юридической проверки, сведения о практике и указание на области, которые, по мнению системы, требуют дополнительного анализа.

В положении специально подчёркнуто: прототип не должен принимать судебное решение и замещать судью. Его функция – вспомогательная: повысить качество проверки проекта судебного акта и предупредить возможные ошибки.

На уровне замысла конструкция выглядит вполне рационально.

ИИ не решает вопрос о виновности. Не выбирает наказание вместо судьи. Не подписывает приговор. Он проверяет уже сформированный человеческий результат и предлагает «второе мнение».

Но именно здесь возникает не самый очевидный, но важный вопрос:

может ли второе мнение алгоритма оставаться всего лишь проверкой, если человек знает его до того, как окончательно сформировал собственное решение?

Статистика против индивидуализации?

Особенно интересна функция поиска аналогичных приговоров и выявления статистических отклонений.

Представим: судья считает справедливым назначить четыре года лишения свободы.

Система сообщает: по делам с аналогичными параметрами медианное наказание составляет шесть лет; ваше решение существенно отклоняется от массива практики.

Юридически судья свободен оставить четыре. Психологически ситуация уже изменилась.

У него появился алгоритмический ориентир – «нормальное» значение, рассчитанное на основе предыдущей практики. Теперь именно отклонение от него начинает требовать дополнительного внутреннего обоснования. Это известный эффект привязки: рекомендация может влиять на решение даже тогда, когда формально никого ни к чему не обязывает.

А уголовное наказание по своей природе требует индивидуализации. Верховный Суд сам неоднократно подчёркивал необходимость учитывать не только квалификацию преступления, но и конкретные обстоятельства содеянного, личность виновного, смягчающие и отягчающие обстоятельства, влияние наказания на исправление осуждённого и условия жизни его семьи.

Статистика способна показать, что решение выбивается из ряда. Однако, она не способна сама ответить на главный вопрос: а может быть, именно в этом конкретном деле оно и должно из него выбиваться?

Вопрос не в том, принимает ли ИИ решение. Это слишком простой критерий. Формально не принимает. Можно написать в регламенте сколько угодно раз: «решение принимает человек».

Гораздо важнее другое: как ИИ влияет на формирование человеческого решения?

Если система только сообщает: «назначенные пять лет превышают максимальную санкцию» – перед нами почти идеальный инструмент контроля ошибки.

Если она сообщает: «в аналогичных делах обычно назначают семь лет» – появляется уже элемент потенциального воздействия на судебное усмотрение.

Если завтра она начнёт писать: «с учётом личности подсудимого оптимальным представляется наказание в размере 6 лет 8 месяцев» – граница будет пройдена ещё дальше.

Причём внешне во всех трёх случаях судья остаётся «человеком в контуре». Именно поэтому я последовательно разделяю формальный и реальный человеческий контроль.

Формальный контроль – когда окончательную кнопку нажимает человек. Реальный – когда человек понимает основания машинного вывода, способен самостоятельно его проверить, свободен от автоматического следования рекомендации и сохраняет собственную профессиональную компетенцию для принятия решения. Это две совершенно разные конструкции.

И здесь начинается архитектура доверия

Я рассматриваю юриста будущего не как конкурента искусственного интеллекта, а как архитектора доверия.

Его профессиональная задача всё чаще состоит не в том, чтобы запретить машине участвовать в работе, а в том, чтобы правильно спроектировать границы её участия. Для судебного ИИ такая архитектура, на мой взгляд, должна включать как минимум несколько элементов.

Во-первых, функциональные границы. Должно быть понятно, где система проверяет формальные требования закона, а где уже начинает оценивать обстоятельства, относящиеся к судебному усмотрению.

Во-вторых, прозрачность основания рекомендации. Недостаточно сообщения «ваше решение отклоняется от практики на 34%». Судья должен видеть, какие дела система признала аналогичными и почему.

В-третьих, качество данных. Судебная практика – не нейтральная природная статистика. В ней могут воспроизводиться региональные различия, ошибки и давно сложившиеся перекосы. Обучив алгоритм на прошлом, легко превратить прошлое в норму для будущего.

В-четвёртых, журналирование. Если система действительно станет применяться в судах, необходимо иметь возможность установить, какое заключение она сформировала и каким образом с ним работал судья.

В-пятых, ответственность. Никакое «второе мнение» не должно превращаться в удобную формулу: «так показал алгоритм». Ответственность за вынесенный приговор и назначенное наказание остаётся у судьи и именно он обязан сделать самостоятельный профессиональный выбор.

Конкурс – но не совсем академическая игра

Есть ещё одна деталь положения, на которую стоит обратить внимание. Участники предоставляют Верховному Суду безвозмездную неисключительную лицензию на созданные результаты для дальнейшей доработки и использования в служебной деятельности. А среди критериев оценки проекта прямо назван потенциал практического внедрения и масштабирования.

Это, конечно, не означает, что победивший студенческий прототип завтра появится на компьютере каждого судьи, но показывает: речь идёт не просто об отвлечённом проекте на тему «ИИ и право». Верховный Суд явно изучает технологическую модель, которая потенциально может получить практическое продолжение. И это правильно.

Лучше обсуждать пределы судебного ИИ до его массового внедрения, чем после первого серьёзного конфликта.

«Второе мнение» – хорошее название. Но за ним нужен третий элемент

Первое мнение – судьи.

Второе – алгоритма.

А третьим должен стать механизм доверия между ними.

Не доверия в бытовом смысле: «нейросеть умная, поэтому ей можно верить». А доверия институционального – построенного на проверяемости, прозрачности, ограничении полномочий и понятной ответственности.

Именно поэтому главный вопрос конкурса Верховного Суда РФ для меня звучит шире его технического задания:

как сделать так, чтобы ИИ помогал судье увидеть возможную ошибку, но не начал незаметно определять, какое решение считается правильным?

Ответ на него понадобится гораздо раньше, чем нам сегодня кажется. Потому что ИИ в правосудии – это уже не вопрос «можно или нельзя». Это вопрос архитектуры.

А там, где технология начинает влиять на права, свободу и судьбу человека, юрист должен оставаться не наблюдателем за этой архитектурой, а одним из её главных проектировщиков.

Юрист – архитектор доверия. И судебный ИИ, пожалуй, один из тех случаев, где цена плохой архитектуры особенно высока.

– С уважением, Ваш нейро-эксперт

Алексей Закомолдин.