Они просто создают «господа бога» своими руками: «ИИ так сказал – значит, это правильно!»
К 2030 году 95% наших судей должны будут использовать сервисы на базе ИИ. Это следует из Концепции внедрения технологий ИИ в судопроизводство, утверждённой Верховным судом. В Минобрнауки тоже говорят, что нужно в целом менять парадигму высшего образования, потому что ИИ должен рассматриваться как инфраструктура, на которой будут базироваться все процессы, связанные с системой высшего образования. То есть, это будет базис.
Сергей Михеев: На мой взгляд, это совершенно необоснованная кампанейщина. Когда произносятся такие слова, многие даже не понимают, о чём идёт речь. Что за базис? На чём система будет основываться? На огромной «каше» из данных, которые есть в Интернете? А кто проверял, являются ли они верными?
Насчёт юридических вещей: я уже слышал о ситуациях, когда выносились решения за счёт несуществующих правовых актов. Это стало возможным, потому что вопросы адресовывались ИИ! «Как принять такое-то решение?» - и он подыгрывал этим запросам, выдавая очень красивые, складные тексты, но которые частично основывались на несуществующих правовых актах или на их искажении. Такие случае уже зафиксированы, в том числе в юридической практике в России.
Это то, против чего я выступаю: они просто создают своими руками «господа бога»! «Ведь ИИ так сказал – значит, это правильно!» Что правильно? С чего вы взяли, что это правильно? На основании чего? Кто это подтвердил? Как я уже говорил, катастрофа возможна, но только если люди сами себе повесят на шею верёвку и начнут её потихоньку затягивать, рассказывая друг другу, что «если так сказал тот или иной чат-бот, то так оно и есть!» Получается, что человек уже сам себя ставит ниже этого! «Обязаны использовать» - а почему обязаны? Разве своих мозгов не хватает? Если человек сам разбирается в своём деле, у него есть хороший опыт, он умеет и знает, как надо делать, тогда почему он «обязан» к этому обращаться? Есть законы РФ, есть подзаконные акты – этого достаточно!
Есть комментарии.
Сергей Михеев: Да. Так почему кто-то «обязан»? Вот тот момент, когда мы передаём полномочия и власть непонятно чему! Ведь это всего-навсего огромная мешанина из данных в Интернете, которую непонятно кто модерирует и проверяет. Даже программисты до конца не смогут объяснить, что там происходит, я уж не говорю про чиновников из министерства! И вот мы уже своими руками создаём некоего «господа бога», к которому надо «обращаться» и «спрашивать разрешение»!
С другой стороны, окончательное решение всегда остаётся за человеком. По крайней мере, я так думаю, будет с судопроизводством. ИИ может взять на себя вспомогательную функцию, которую сейчас выполняют помощники (проверка документов, классификация дел и т.п.), а выносить приговор уже будет судья.
Сергей Михеев: Наверное, может. Но это базируется на каких-то документах: кто их будет готовить и будет ли эта подготовка объективной? Человек такое существо, что он всё равно будет склоняться к тому, чтобы не напрягаться там, где можно не напрягаться. Если можно просто сделать запрос, и ИИ тебе сразу выдаст решение, то рано или поздно начнётся процесс, когда люди начнут некритично принимать решения ИИ как якобы однозначно верные. Этот процесс мне не нравится. Ведь никто никого не заставляет, нет никакой практической необходимости, но вдруг оказывается, что надо передавать на какой-то непонятный уровень и обязательно обращаться к ИИ! Конечно, надо смотреть, как конкретно это будет регламентировано: в каких делах, по какому поводу и какая часть будет отдаваться. Но тем не менее: когда у нас говорят про ИИ, то уже как будто есть некий «абсолют», который «всё знает». А его нет! Он - лишь огромное количество самых разных алгоритмов, опирающихся на целое море самых разных данных, многие из которых никто не проверял, и никто не знает, что там происходит внутри. К сожалению, это имеет характер кампанейщины. И именно так власть над собой может передаваться непонятно чему. За этим всё равно будут стоять конкретные люди. Поэтому необходимо быть очень осторожными и не поддаваться никаким рекламным трюкам.
Знаете, ещё почему это так активно внедряют? Потому что здесь легче отчитаться. А сделайте мне, чтобы ИИ построил завод! – Не получается. А вот внедрить его в какое-нибудь делопроизводство, а потом пойти и отчитаться перед начальством, - это без проблем.