ИИ выгодна война: повышение его эффективности и уничтожение людей

Пентагон допустил расширение роли ИИ при выборе военных целей. Bloomberg пишет, что всё это хотят отдать ИИ на самостоятельное принятие решений. Взять американский ударный дрон-камикадзе с ИИ Hornet («Шершень»): пока он не сам ищет цель, ему нужно её указать, но потом эту цель ему смогут ввести, и он за ней будет «путешествовать» по дорогам. Так ему можно будет указать какой-нибудь бензовоз или «неугодный» автобус. ИИ, который сейчас собираются вводить, - это, помимо прочего, гигантские деньги, серверные мощности, военные контракты и т.д. На Ваш взгляд, он тоже становится партией войны?

Сергей Михеев: Когда всем начинают управлять деньги, это всегда ведёт к разрушению и самоуничтожению. Вроде бы кажется, что «деньги – это так здорово! Чем больше техники, тем лучше!» Помню, когда только начиналась дискуссия по ИИ, мне возражали некоторые наши слушатели и говорили: «Ведь это ведёт к счастью! У нас будет замечательный цифровой «райский мир»!» А я им отвечал: в истории человечества никогда не было такого технического достижения, которое обещало бы счастье и не приводило бы к войне. С ИИ будет то же самое! Уж не буду говорить, как его используют мошенники для обмана миллионов наших сограждан, доводя некоторых из них до личной катастрофы. Вот вам следующий пример: этот «замечательный», «добрый», «объективный», «ласковый», «дружелюбный» и «такой хороший» ИИ доведёт дело до убийства миллионов и миллионов людей в автоматическом и совершенно бездушном, циничном режиме! Самое интересное, что с политической точки зрения он не будет решать проблемы, а будет только обострять ситуацию. Можно будет постоянно говорить: «А это был ИИ».

Если сказать проще: ИИ выгодна война. Ему выгодны повышение его эффективности и уничтожение людей. Это чтобы вы, наивные люди, не строили иллюзий по поводу научно-технического прогресса и его возможностей. Важна не сама «железка», а то, для чего её используют.

Как обычно, здесь есть и некоторое политическое лукавство: что такое перевод принятия решений на ИИ? Это снятие ответственности с конкретных людей. Люди будут говорить: «Это не мы, а программа! Мы тут ни при чём! Мы ничего не делали». Я не уверен, что целый ряд громких событий последнего времени был действительно связан с ИИ, как об этом заявляли. Например, взять удар по школе для девочек в Иране. Говорят: «Это выбрал ИИ», а я не верю! Когда вы говорите, что «это ИИ», вы снимаете ответственность с конкретных людей, принимавших решения, и перекладываете её на программу: «Мы не знаем, мы не в курсе – оно само!» А я считаю, что не само! Точно так же с автобусом с юными белорусскими футболистами. Не «само оно», но свалить на программу очень удобно!

Это ещё одно очень подлое и циничное средство для того, чтобы уйти от ответственности: «Вы особенно не обижайтесь! Ведь это не мы, не конкретные люди, а нехороший компьютер!» Полагаю, что уже сейчас этого обмана более чем достаточно, а будет ещё больше, особенно с такими громкими, зверскими, человеконенавистническими преступлениями. Как только они будут совершаться, то, чтобы уйти от ответственности, нам будут заявлять: «Сами понимаете – это современная война». Есть о чём подумать.