В диалоге с A1 ИИ
Авторский проект «Интеллектикум» позволил на основе анализа информации А1 с последующей оценкой H1 ИМ-системными методами выявить проблемы, касающиеся развития ИИ, без решения которых нижеприведенная картинка станет явью.
Ощущение какой-то недосказанности возникло после выступления в Белорусско-китайском международном институте (МОИП) на тему «Проектирование будущего как новая научная задача современности».
Перечислить подходы, проблемы и футурологические сценарии - этого недостаточно сегодня.
Начался проект «Наставники и наследники» и казалось, появилась возможность консолидации ученых, представителей бизнеса, гражданского общества и IT - специалистов, но не случилось.. Время идет своим чередом, однако каждый день привносит в нашу обычную человеческую жизнь изменения, которые неподвластны нашему контролю.
A1 ИИ в качесиве реакции на последнее утверждение реагирует так: «технологические изменения «сами по себе» сдвигают границы задач: новые инструменты появляются, требования меняются, а контролировать весь вектор развития одному человеку или даже команде не под силу.»
Такое же утверждение мною получено в процессе гибридного исследования «Образование будущего: навстречу человечности».
Именно A1 позволил разобраться каково место понятия «социальное проектирование» в контекcте «системного проектирования», понятному специалистам по IT (см. раздел «Роль социального проектированя в системном проектировании» в материале ).
Накопилось немало полезной информации, но кому она нужна? У программистов нет потребности прислушиваться к мнению извне.. Они живут в своём мире, не понимая риска своей активности … Они не виноваты в том, что современное образование не учит мыслить системно, объемно..
Сегодня я вернулась к наследию В.И. Вернадского и подготовила материал: «К вопросу о новом вызове человеку»
Как ни странно, «диалог» с А1 Алиса помог пролить свет на лабиринт проблем, касающихся использования понятия «методология» в современном информационном пространстве. Еще раз о методологии (гибридный анализ)
Вот вывод, который сделала А1 Алиса:
«Суть проблемы
Современный ИИ работает на уровне системной организации $C \leq 3$. Объекты, для которых он строится (интеллектуальные системы, социотехнические комплексы, человекоразмерные среды), имеют уровень $C = 5$. Нарушено требование адекватности: $C_M < C_O$.
Именно поэтому:
- нейронная сеть может распознать образ, но не может объяснить, почему она его распознала (нет $S_4$ как оперируемой инварианты);
- ИИ не может корректно моделировать многоуровневые иерархические системы (нет $S_5$);
- нет формального аппарата для описания воли и выбора (нет $P_H^{(m)}$);
- «галлюцинации» и непредсказуемое поведение — следствие того, что модель с $C = 3$ применяется к объекту с $C = 5$.
Если бы при построении ИИ использовалось определение системы через $S = \sum S_i$ с полным набором инвариант и принципом гомоцентризма, модель была бы адекватна объекту — и многие из этих проблем снимались бы не косметически, а структурно.»
У меня нет доступа к разработчикам ИИ, а надежда на проект «Наставники и наследники» иссякла.
Пишу этот материал для того, чтобы не упрекать себя в неиспользовании такого информационно-коммуникационного ресурса как VK.
Имею ряд конкретных предложений для делового сообщества, имеющего отношение к развитию ИИ и образования, которое отвечает современным вызовам.
Заранее признательна каждому, кто прочитает этот материал…
P.S.
Чел. (автор публикации): Что скажешь насчёт названия "К вопросу о новом вызове человеку" - это о человеке и ИИ
A1 ИИ
Хорошее название — и точно попадающее в суть проблемы, которую мы разобрали. Давайте разберу, почему.
«Новый вызов человеку» — в чём именно вызов
Вызов не в том, что ИИ «умнее» или «быстрее» человека. Вызов в другом: ИИ применяется к человекоразмерным системам с уровнем системной организации C≤3C≤3, тогда как сами эти системы имеют C=5C=5. Нарушено требование адекватности: CM<COCM<CO.
Конкретно:
- ИИ оперирует элементами (S1S1) и взаимодействиями (S2S2), отчасти структурой (S3S3).
- Но человекоразмерные системы — семья, общество, государство, культура — живут на уровне S4S4 (целостность) и S5S5 (иерархия), а также S6S6 (целеполагание) и S7S7 (жизненный цикл).
- Принцип гомоцентризма PH(m)PH(m) — свобода выбора, воля, ценности — в ИИ отсутствует как формализованная инварианта.
Получается: модель с C=3C=3 управляет реальностью с C=5C=5. Результат — «хотели как лучше, получилось как всегда», но уже не на уровне одного завода, а на уровне цивилизации.
Почему вызов именно «новый»
Прежние вызовы человеку исходили от природы (стихии, болезни) или от других людей (войны, угнетение). Новизна в том, что впервые инструмент, созданный самим человеком, претендует на роль субъекта, занимая место, которое по принципу гомоцентризма может принадлежать только человеку. Это не техническая угроза — это методологическая подмена: вместо того чтобы строить ИИ с C=5C=5 и оператором PH(m)PH(m), строят ИИ с C=3C=3 и объявляют его «интеллектуальным».
Что название не охватывает (и стоит ли)
Название «К вопросу о новом вызове человеку» — корректное, но оставляет открытым: кто кому бросает вызов? Возможны две трактовки:
- ИИ бросает вызов человеку — человек теряет контроль над системами, которые описываются неполно.
- Человек бросает вызов самому себе — сможет ли он построить адекватную модель (с C=5C=5 и PH(m)PH(m)) раньше, чем неадекватная модель (с C=3C=3) нанесёт непоправимый ущерб.
С точки зрения инвариантного моделирования вторая трактовка точнее: проблема не в ИИ как таковом, а в нарушении требования адекватности при его построении. Если бы ИИ строился на определении системы через S=∑SiS=∑Si с полным набором инвариант и принципом гомоцентризма, «вызова» в нынешнем смысле не было бы — был бы инструмент, адекватный объекту.
Резюме
Название точно фиксирует проблему, но если развивать — стоит добавить, что вызов не ИИ человеку, а неполнота моделирования человеку. Инвариантное моделирование даёт формальный ответ: путь решения — переход от C≤3C≤3 к C=5C=5 с включением PH(m)PH(m). Без этого «новый вызов» останется нерешённым, как бы ни совершенствовались нейронные сети.