Очень часто узкие специалисты, погружённые в тему, не замечают более широких последствий
Появилось много тем по ИИ, точнее - по связанным с ним опасностям, которые вдруг стали вычислять. Зачитаю подборку, а потом мы её проанализируем. Один крупный научный журнал пришёл к потрясающему выводу, за который можно дать Нобелевскую премию: «ИИ помогает школьникам получать хорошие и отличные оценки за домашнее задание, но реальные знания при этом ухудшаются. Оказывается, школьники, которые могут пользоваться ИИ, прекрасно справляются с тем, чтобы генерировать ответы, но никаких знаний у них в головах не остаётся». Билл Гейтс, сооснователь Microsoft, один из «проповедников» и «апостолов» ИИ, заявил, что ИИ представляет серьёзную угрозу для человечества; что могут возникнуть трудности у людей, чья работа связана с компьютером и т.д., их заменит ИИ. Вышло ещё одно исследование: люди, которые обучались на компьютерные специальности, рискуют остаться без работы, потому что теперь их очень легко заменить. Удивительно, но сколько лет подряд Вы об этом говорили без научного исследования!
Сергей Михеев: Таких новостей накапливается всё больше и больше. Недавно один из разработчиков известной фирмы Anthropic (американская технологическая компания в сфере ИИ) высказался по поводу того, что опасность такова, что её пока даже никто не оценивает. Более того, несколько предыдущих лет разработчики ИИ умышленно не замечали имеющихся рисков и вводили в заблуждение всю мировую общественность, рассказывая только о положительных свойствах и результатах, которых можно достичь с помощью ИИ. И теперь ситуация может выйти из-под контроля в ближайшие 2-3 года. Поэтому необходимо искусственно замедлить развитие ИИ для того, чтобы понять, что происходит, и взять его под контроль. Об искусственном замедлении, если не ошибаюсь, говорили Илон Маск и многие другие.
До нас доходит очень медленно, и мы не понимаем, что здесь нужна более осмысленная стратегия развития, которая будет использовать все имеющиеся плюсы, но при этом работать и на ограничение минусов. Большое количество разных разработчиков говорят не просто о том, что существуют риски, а о том, что эти риски специально замалчивали, нарочно раскручивали эйфорию и рекламу, а теперь очень скоро не будут знать, что делать: просто выключать рубильник или замедлять искусственно.
Зато Дональд Трамп, «большой специалист» по ИИ и вообще по всем наукам, высказался, что «всё это полная ерунда - ИИ никакой угрозы не представляет, и его надо всячески развивать!» Он, наверное, понимает, о чём говорит! Он же, как известно, «главный разработчик» и «большой математик»! А ещё именно его обвиняют в том, что их семья заработала большие миллиарды через криптовалюту. Здесь есть и момент политический (борьба с Китаем за лидерство), и, видимо, момент «шкурный».
Но факт тот, что риски всё больше начинают осознаваться, и люди, которые этим занимаются, заговорили о них и подтвердили, что эйфория и навязчивая рекламная кампания являются обманом. Действительно, в наших передачах мы много лет подряд об этом упоминали, хотя мы не разработчики и не программисты. Многие вещи понятны на уровне жизненного опыта и интуиции, выстраивания логических цепочек. Необязательно быть специалистом, чтобы понять опасности, возможности и пр.
Очень часто узкие специалисты, погружённые в тему, не замечают более широких последствий, потому что сами они «узкие». Они очень целенаправленные, «про своё», а по более широким вопросам они просто неспособны мыслить; или они способны, но не хотят, потому что погружены в процесс. Проблема есть, и то, что у нас везде начинают применять ИИ, у меня вызывает опасения. Там, где это нужно (военное дело, фундаментальная наука, прикладные разработки, инженерия, производство), движется очень туго; а где это вызывает массу вопросов (образование, социальная сфера, СМИ, вся ткань общественной жизни),внедряют не глядя: «Это панацея – он всё заменит, всё будет замечательно!»
А отрицательные эффекты налицо. Начали с образования: забиваешь в телефон - появляется ответ, и ты как будто «гениальный учёный». Но что при этом остаётся в голове? Тогда возникают вопросы: будет ли развитие, или это торможение и деградация? Как ИИ использовать, контролировать и понимать? Сейчас вижу, что у нас чиновники занимаются проталкиванием ИИ, потому что это модная тема, да и «сверху» сказали - а значит, надо подавать сигналы: «Мы слышим вас и уже бежим, чтобы скорее внедрять. Пожалуйста, оцените нас!» А сами, не являясь специалистами,они совсем не смыслят, что происходит внутри ИИ. Даже программисты и разработчики признаются, что они не очень понимают, что внутри этих систем. Чиновникам из министерств это и подавно неизвестно, зато они умеют вовремя поймать «политический ветер» и что надо доложить «наверх», чтобы поставили нужную галочку.
-А какие будут последствия?
-С последствиями будем разбираться потом, когда «сверху» придёт указание с ними разобраться. Пока такое указание не пришло, будем везде внедрять ИИ!
Надо это или не надо, зачем, для чего внедрять – им всё равно. Уже заговорили: «Вы обязаны использовать ИИ». Плюс, мы видим, что создаётся «цифровой бог»: «Есть ИИ - и он лучше тебя знает!» А кто он такой? И на каком основании делается такой вывод? На какой информации и на каких знаниях создана эта база данных, и нет ли там ошибок? А они, конечно, есть и постоянно накапливаются. Вот это и есть главная проблема и опасность: добровольное делегирование власти над собой; добровольное уничижение себя до такой степени, что ты начинаешь считать себя ниже компьютерной программы!
Без философского осмысления этой проблемы невозможно обойтись, но многие не желают об этом думать. «Зачем это делать, если можно не думать и действовать так, чтобы тебя похвалили? Оправдать искусственным интеллектом можно такие обороты, что мало не покажется! А что будет через 20 лет? Нас уже не будет; по крайней мере, на тех должностях, какие мы занимаем сейчас. Тогда пусть разбираются другие».
То есть существует технология, она перспективная, но как и где её применять? Где её стоит максимально продвигать, а где необходимо очень осторожно проанализировать возможные последствия – вот что нужно понять. Это и называется стратегия, которой не хватает не только нам. Об этом красноречиво свидетельствуют заявления разработчиков, И. Маска и даже Б. Гейтса, который высказывает по поводу ИИ опасения. Наверное, Гейтс лучше нас с вами и наших чиновников понимает, что там происходит. Даже все они не очень знают, что с этим делать. К тому же, в этой сфере пересекается множество интересов: кто-то зарабатывает деньги, кто-то раскручивает сам себя и т.д.