Что касается совсем апокалиптического сценария с ИИ в ближайшие годы: считаю, что это перегиб
Бывший исследователь безопасности компании Anthropic Джейкоб Коксон в интервью CNN предупредил, что ИИ может уничтожить всё человечество уже в ближайшие четыре года. По его словам, появится некий сверхразум, который люди не смогут контролировать. Главная угроза заключается в том, что в ближайшие годы ИИ научится самостоятельно создавать более мощные версии себя, и человек уже не сможет этим управлять. И таких предупреждений появляется всё больше. Правда, Дональд Трамп, считающий ИИ «нефтью будущего», говорит, что «всё в порядке: ИИ молодец, мы на нём будем зарабатывать». Он уже опубликовал пост на своём канале, где сравнил «миф об опасности ИИ с мифом о мнимой российской угрозе». «Я разоблачитель мифов! Прямо сейчас разоблачу ещё один миф, что ИИ захватит, поглотит и уничтожит мир; что роботы будут маршировать по нашим городам, избавляясь от всех нас. Это ещё безумнее, чем миф: «Россия, Россия, Россия!» или афера о глобальном потеплении!» Кстати, совсем недавно США отменили квоты на выброс углекислого газа для угольных шахт и газовой энергетики, сказав: «Всё это ерунда!»
Сергей Михеев: Мне думается, что Д. Трамп является специалистом в тех областях, которые никак не пересекаются с наукой, - если только с наукой прокручивать деньги. Что касается ИИ: это конёк Трампа и одна из тем, по которой он говорит, что «мы сейчас сделаем Америку снова великой, потому что она будет контролировать всю сферу развития ИИ! Так мы всех задавим!» Плюс ко всему, для США сегодня является крайне актуальной жесточайшая конкуренция с Китаем по развитию этих систем. А для Трампа конкуренция с китайцами – это вообще идея фикс; поэтому, конечно, он будет кричать, что «никаких угроз нет». Вы упоминали, что Конгресс США собирается запустить расследование по криптовалюте: понятно, что где криптовалюта, там и ИИ. Судя по всему, Трамп и его семейство на криптовалюте уже сделали большие деньги, поэтому он будет защищать цифровую сферу. Разбирается ли он в ней? Полагаю, что очень слабо. В целом, позиция Трампа ясна.
Что касается совсем апокалиптического сценария с ИИ в ближайшие годы: считаю, что это тоже перегиб. Если человечество будет настолько глупым, что отдаст власть над собой компьютерным программам, то нас «съест» кто угодно (понятно, что за компьютерными программами стоят люди: они задают вектор развития и насыщают информацией всё то поле, которое данные системы используют для опоры при выдаче ответов). Лично я думаю, что этого не будет; однако истина находится посередине.
Действительно, есть много людей, которые имеют прямое отношение к разработке: это крупные компании и знаковые фамилии, которые когда-то были сверхэнтузиастами развития ИИ, но в последние 1,5-2 года заговорили о том, что это развитие становится неконтролируемым и оно чревато последствиями. Вряд ли случится захват власти, но как минимум будут иметь место инциденты, хаотизация процессов управления, вторжение в системы, традиционно считающиеся защищёнными, и т.д. Всё это может привести к довольно серьёзным проблемам. И это говорю не я, а напрямую заявляют такие люди, как разработчик Anthropic или лица уровня Илона Маска. Они говорят о необходимости принудительного замедления процессов развития ИИ и специального контроля за ними. То, что я чувствую интуитивно, они констатируют как специалисты. И игнорировать, смеяться над этим было бы просто безответственно. Об этом надо думать.
По поводу сферы применения, конечно, нам нужно развивать данные технологии: а. там, где это помогает продвигать военное дело, - заменять человека и сохранять ему жизнь; б. там, где это касается научно-технических разработок и новых технологий; в. там, где это касается производства. Это должно быть приоритетом. Но, к сожалению, именно в указанных мной областях дело идёт медленно. А где оно бурно развивается? Как всегда, в сфере разного рода имитации, в шоу-бизнесе, в финансовых «каруселях», а также (что тоже является опасным) вторгается в социальную ткань общества, разобщая людей и погружая их в общение с собственным зеркалом в мобильном телефоне. Для нас это главный вызов: там, где необходимо, развитие движется крайне медленно; а там, где не надо или иногда даже чревато рисками, это бурно прогрессирует и внедряется всеми возможными способами (для этого создаются рекламные кампании, шумиха и пр.).
Как я уже говорил, здесь следует найти стратегически обоснованную золотую середину. Пока в понятном виде её нет нигде, но нас, в первую очередь, интересует наша страна. А Трамп будет «звенеть» своё, при этом понимая, что «лето красное пропело» (строчка из басни И.А. Крылова «Стрекоза и муравей»). К сожалению для него (может быть, и не только для него), те шансы, которые ему дал второй срок президентства, он, в основном, упустил. Сейчас, видимо, Трамп будет отбивать свои личные позиции.