Затягивая с неистовством население в ИИ, мы практически сдаём государственную тайну
Хотел бы поговорить про 1 сентября. Мой ребёнок ходит в школу, и меня волнует множество вещей. Понятно, чтобы вышел хороший человек, нужно показывать добрый пример. В своё время Мэттью Грейнинг (американский мультипликатор, создатель «Симпсонов») на жалобы родителей, которые опасались, что их дети станут копировать поведение хулигана Барта Симпсона, отвечал: «Чтобы ваш сын не был похож на Барта Симпсона, надо, чтобы вы не были Гомером Симпсоном». Сейчас растёт новое поколение «цифровых туземцев», как недавно их метко в одном интервью назвала Наталья Касперская. Она сказала очевидную вещь (почему-то мало о ней говорят), что мы совершенно не знаем о последствиях применения всех этих технологий для детей. Каким вырастет новое поколение, которое уже сейчас говорит: «Я дурачок что ли, чтобы писать работу без помощи ИИ?» На Ваш взгляд, каким может вырасти поколение, которое привыкло получать знания в виде готовых ответов?
Сергей Михеев: Я в этом вижу реальную угрозу. Можно сказать, что данные технологии являются шансом для того, чтобы задуматься, кто мы такие? Что я как человек из себя представляю? К сожалению, большинству людей это несвойственно. А ведь это угроза потери себя и свободы над своими поступками.
Начнём с политической части - с того, с чем я постоянно обращаюсь к политическим деятелям - людям, принимающим решения: погоня за ИИ, которая оправдана для того, чтобы не отстать, должна вестись в рамках осознанной национальной стратегии. То, что работает на созидание, надо поддерживать и развивать; а то, что несёт в себе большие риски, надо изучать, исследовать и иногда запрещать (ни одна культура без запретов не может существовать) или ограничивать и вводить в нормальное русло. Развитие ИИ в очень близкой перспективе (и уже сейчас) – это вопрос о власти. Я говорю не про то, у кого какие есть ресурсы, а про то, что развитие этих систем атомизирует общество; работает индивидуально с конкретным человеком, создавая его автономный мирок («цифровой туземец»); отчуждает человека от общества и социальной жизни, от понятий «суверенитет», «патриотизм», «история» и «культура», помещая его в некий «цифровой кокон», в котором он перестаёт быть самостоятельной личностью.
В перспективе - выход на более масштабные, глобальные модели и всеми ожидаемый «взрыв сингулярности», то есть выход ИИ на «супер-уровень» (как они говорят). Всё это приведёт к политическому течению, стирающему границы и суверенитеты, требующему мировой власти и попирающему всё то, что мы знаем как культуру, цивилизацию, государство и общество. Кто будет этим управлять и как это будет происходить - никто толком сказать не может, но угроза очевидная.
Угроза с точки зрения политической власти – это работа внешних сил с мозгами огромного количества людей - целого поколения, для которого эти технологии станут главным водителем в жизни. У них эти люди будут спрашивать: что хорошо/плохо, что добро/зло, что правда/неправда? Здесь мы не просто не защищены, а стоим как голые на перекрёстке. Все наши затычки и заплатки, разговоры о том, что «у нас суверенные технологии», - на самом деле этого нет. Все технологии, связанные с выходом в мировую сеть, абсолютно прозрачны для специалистов; все коды взламываемы и все пароли разрушаемы. Затягивая с неистовством население в ИИ, мы должны понимать, что практически сдаём государственную тайну. Мы перекачиваем во внешнее хранилище огромное количество данных.
Пусть не говорят про российские серверы, на которых якобы«всё хранится». Если бы там всё замечательно хранилось, то не было бы феномена жуткого мошенничества, которым Вы занимаетесь.
Я занимаюсь не мошенничеством, а исследованием!
Сергей Михеев: Вы занимаетесь им как явлением, пытаясь защитить наших граждан, и это очень правильное дело. Если бы там всё было защищено, то мы не имели бы миллионы случаев мошенничества! Работа с этим поколением будет вестись по нарастающей, и её будет крайне сложно контролировать. Надо понимать, что, когда мы всех туда запихиваем (к сожалению, сейчас государство этим занимается), то сильно рискуем. Сегодня на полях СВО проливается кровь, ведутся жестокие бои, но в перспективе 20-30 лет может вырасти поколение, которое спустит флаг без боя, потому что им это посоветует ИИ, потому что их так воспитают или потому что они получат такие псевдознания. Они войдут в политическую, взрослую, профессиональную жизнь - и всё! Уверен, что такой расчёт на внешнем треке есть, - это совершенно точно. Отнекиваться и отмахиваться, говоря: «Вы тормозите прогресс», означает или поддерживать наших врагов, или совсем ничего не понимать. «Мне дали команду - я внедряю».
Ещё важно понять, что это вопрос расчеловечивания. То, что сегодня называется нейросетями, – это особо устроенный комплекс математических вычислений, не обладающий личностью и «живущий» в тот момент, когда он даёт вам ответ. Попытка раскручивать рекламную кампанию, которая начинает отождествлять нейросети, алгоритмы с неким «высшим разумом», личностью, очень опасны. На самом деле это подавление воли, ложь и расчеловечивание человека, за которым пойдёт следующая ступень: отдать власть над собой. Если вы убедили человека в том, что есть разум, который умнее и сильнее его, то следующий шаг – это отказаться от любой свободы в пользу некоего разума, который будет принимать за вас решения. Это значит потерю субъектности, суверенитета и личности.
Далее то, о чём Вы сказали, – тотальное отупление и депрофессионализация. Знаю позицию адептов ИИ, которые говорят: «Ничего не надо - всё будет решено за нас». Нет, не будет! В этом смысле вспоминаю 1990-е годы, когда нас убеждали: «Граждане, не беспокойтесь: рынок за вас всё решит. Идите и скорее получите свой ваучер». Мы помним, что с ваучерами всех кинули, а рынок так «отрегулировал», что половина экономики исчезла! Мы перестали производить даже то, что до этого производили вполне неплохо (например, гражданские самолёты). Это что? Деградация.
Сейчас грядёт ещё одна волна: «Граждане, не переживайте: поставьте себе на мобильные телефоны ИИ. Он за вас всё решит и подскажет». В реальности это ложь. Вы общаетесь даже не с комплексом знаний, а со своим вопросом: вы задали вопрос, а он вам зеркалит ответ. Что на выходе? А. снижение познавательных способностей; б. снижение творческих способностей; в. потеря способности самостоятельно думать. Самое главное – потеря реальных знаний; их не будет, а будет только тотальная их фальсификация. Это очень серьёзно.
Налицо ещё один заход, чтобы нам проиграть. Говорят: «Мы срочно должны везде внедрить ИИ - иначе проиграем некую гонку». Если мы внедрим его везде, то разве эту гонку не проиграем? Мы её проиграем ещё быстрее - только это будет обставлено всевозможными весёлыми картинками! Почему? Потому что в нашем материальном мире всё (будь то товары, предметы или услуги) имеет материальную форму. И если это производите не вы, то будете покупать у других! А где вы будете брать деньги? У ИИ? Вы будете вынимать из своих недр ресурсы, продавать их и за эти деньги покупать у других! Не надо говорить, что «ИИ так всё отрегулирует, что можно будет ничего не производить». Производить будет кто-то, но не вы, а вы будете стоять в данной цепочке как зависимые субъекты.
Как это произошло сейчас на фоне санкций: доллары есть, а не продают или продают по заниженной цене. Или скажут: «Тогда выполняйте наши условия: ваши власть и суверенитет сюда, а вы будете делать так и так! За это мы дадим вам еду, продадим машины и т.д.» По-другому не будет. Все эти «гуру цифровизации» живут в выдуманном ими мире. Да, для кого-то это станет откровением, кто-то куда-то продвинется, но речь пойдёт о 3-5% населения Земли. Что касается России, то в связи с нынешним положением и той ролью, которую нам пытаются отводить, у неё будет не слишком завидная судьба.
Считаю, что технологии развивать нужно, но при этом их надо осознать. Пока всё то, что вокруг этого происходит, мне напоминает кампанейщину в бессознательном состоянии. Вижу, кто бенефициары этих вещей: это финансовый бизнес, банковский капитал и те, кто занимаются интернет-торговлей. Все они ничего не производят или «производят» лишь картинки и рассказывают нам, «как всё замечательно делается». Поэтому, когда всё это внедряется, надо понять, что настоящие знания и самостоятельность будут всегда цениться больше, чем способность тыкать пальцем в телефон.
С точки зрения образовательной: да, можно всё спросить у ИИ, но есть две проблемы. Первая: в Интернете такое количество ложных данных, и оно всё больше накапливается, так что нет гарантии, что вам дадут правильный ответ. По мере накопления неправильных ответов вероятность выдачи неверной информации будет увеличиваться. Рано или поздно количество неправильных ответов превысит количество правильных, что окончательно запутает людей. Здесь снова встанет вопрос о власти.
Вторая: надёргать фактов можно, но они не складываются в целостную картину мира. Если у вас нет целостной картины мира, если вы не понимаете причинно-следственных связей, то факты, которые вы надёргали, представляют собой «броуновское движение», когда картинки складываются, а толку никакого!
Поэтому: 1. надо развивать и думать, но в рамках осознанной концепции, и для этого нужны люди с философским образованием, гуманитарным знанием и пониманием того, как это всё следует осознавать изнутри; 2. нельзя это очеловечивать - неживому придавать форму живого - потому что это всё равно обман. ИИ может сказать вам всё, что вы хотите, но он не испытывает боли, не может умереть, никогда не рождался, не страдал, не любил и не ненавидел. Ему даже никто никогда на ногу не наступил, он не голодал, не боялся. Поэтому всё, что он выдаёт, – фальшивка, хотя это можно учитывать в схематичном процессе.
Одна из главных вещей – это осознанная стратегия, и наших детей надо научить думать, мыслить и применять новые технологии во благо для себя (уж не говорю для других). Это означает не отуплять себя намеренно - и это важно.