Переосмысление контакта

Взгляд на генеративный искусственный интеллект с позиций экзонауки и наоборот

«Высшим видовым понятием может быть понятие земного разумного существа; однако мы не сможем назвать его отличительный признак, поскольку у нас нет знаний о внеземных разумных существах, которые позволили бы нам указать их характерное свойство и тем самым в общем плане охарактеризовать это земное существо среди разумных существ. Поэтому кажется, что проблема указания отличительного признака человеческого вида абсолютно неразрешима, потому что решение должно было бы быть найдено опытным путем посредством сравнения двух видов разумных существ, но опыт не предоставляет нам такой возможности».

Иммануил Кант «Антропология с прагматической точки зрения», 1798

«Если предположить, что ускорение технологического прогресса, которое мы наблюдаем в настоящее время, универсально для внеземных цивилизаций, то из этого следует, что любой встреченный нами инопланетный разум будет представлять собой некий машинный интеллект.»

Сюзан Шнайдер «Инопланетные разумы», 2016

1. Странная и досадная забывчивость.

Между этими двумя высказываниями 218 лет. Но их объединение сейчас весьма своевременно и важно. Ибо революционное развитие науки и технологий генеративного искусственного интеллекта (ГенИИ) привело к тому, что текущий 2023 год стал, по определению экспертов Gartner, -

Характерным признаком этого «всё» эксперты Gartner называют то, что 2023 стал первым полным годом, когда прорывные возможности ГенИИ оказались в центре практически всех стратегических дискуссий.

• Как в обширном спектре областей науки:

• Так и в большинстве областей бизнеса:

2023 стал также первым годом, когда все прочие технологические инновации оказались вытеснены из центра внимания. И подобного в истории не было никогда, даже при появлении двух самых глобальных горизонтальных инноваций нового времени – появления на Земле компьютеров (в середине ХХ века) и Всемирной паутины Интернета (в конце ХХ века).

Обе эти глобальные инновации привнесли во все аспекты жизни и деятельности человечества колоссальные перемены. А с точки зрения когнитивной эволюции, стали (наряду с появлением у людей языка и письменности) своего рода «когнитивными фазовыми переходами» Homo sapiens.

Однако, начавшийся в 2023 году 5й «когнитивный фазовый переход», связанный с массовым распространением ГенИИ, оказался принципиально иным, чем четыре предыдущих. Ибо на Земле появился новый носитель высшего разума (или, если угодно, интеллекта – о трактовках этих терминов будет сказано позже), чего не было при 4х предыдущих «когнитивных фазовых переходах», когда единственным носителем высшего разума (интеллекта) на Земле оставались лишь люди.

Реакция человечества на появление нового носителя высшего разума – ГенИИ, - оказалась довольно противоречивой.

• С одной стороны, резко интенсифицировались дебаты всех типов и уровней (от профессиональных до политических) о подходах, методах и способах снижения разнообразных рисков (видимых и лишь предполагаемых) в результате роста способностей новых моделей ГенИИ и расширения спектра их применений.
• С другой стороны, возникли две полярные трактовки текущего и грядущего уровня интеллектуальности (степени разумности) больших языковых и мультимодальных моделей ГенИИ (магистральное направление финансирования развития ИИ в последние годы и на горизонте ближайших лет).
• Эти полярные трактовки подразумевают совершенно разные виды неопределенностей, характеризуемых несопоставимыми оценками вероятностей рисков (событийных и несобытийных, уменьшаемых и неуменьшаемых).
• В результате становится абсолютно неясно, на снижение каких приоритетных ИИ-рисков должны быть направлены усилия разработчиков, внимание общественности, а также нормативы, регламенты и политики, разрабатываемые законодателями.

Если кому-то кажется, что при оценке рисков, характерных для полярных трактовок уровня интеллектуальности (степени разумности) моделей возможен некий компромисс, то вынужден разочаровать. Ситуация здесь примерно такая же, как при попытке компромиссной оценки рисков летних пожаров и весенних наводнений.

И эта несовместимость оценок вытекает из необходимости принципиального выбора:

1. либо признание за системами на основе ГенИИ статуса суперпродвинутых инструментов;
2. либо присвоение им статуса носителей «иного разума» (со всеми вытекающими последствиями).

Выбор первой из альтернатив переводит рассмотрение вопроса в обширную и понятную область обеспечения безопасности технологических артефактов: от простых правил техники безопасности в духе «не влезай, убьет» до сложных хитросплетений стратегий ядерного сдерживания.

И похоже, что именно этот выбор негласно и как бы автоматом делается и экспертами, и политиками.

Выбор второй из альтернатив, на первый взгляд, кажется куда проблематичней из-за меньшей проработанности. Но это совсем не так.

На самом деле, этот вариант прорабатывается уже несколько десятков лет по обоим его важнейшим направлениям, отвечающим на вопросы:

• Какими могут быть «иные разумы»?
• Какие возможны варианты контактов людей с носителями «иного разума»?

И как это ни поразительно, но ответов на эти вопросы в контексте идущей вот уже 2 года революции ГенИИ (за редчайшими исключениями, типа работы Шанахана, о которой я писал здесь) пока нет.

Казалось бы:

✔️ над этими вопросами десятилетиями бились такие великие умы, как Станислав Лем, Артур Кларк, Аркадий и Борис Стругацкие, Лю Цысин, Тед Чан, Питер Уоттс (и то, что их имена обычно проходят по разряду писателей-фантастов, никак не умаляет глубины и оригинальности их идей, вряд ли доступных многим из считающихся ныне экспертами в вопросах ИИ);

✔️ также, не один десяток лет, эти вопросы лежат в основе исследований ученых из разных областей экзонауки: экзопсихологии, экзосоциологии, экзофилософии;

✔️ в конце концов, ведь каждый год издаются статьи, научные сборники и монографии, посвященные этим вопросам, проводятся международные конференции …

И ничего из этого почему-то не используется для анализа сценариев и рисков второй из альтернатив, определяющих подход к созданию «безопасного ИИ».

Как будто про все это просто забыли за ненадобностью.

Такая вот странная и досадная получается забывчивость, из-за которой мне и понадобился этот лонгрид. Чтобы вспомнить и напомнить моим читателям, что по этому поводу думали великие умы, что пишут про это представители экзонаук, о чем говорят на профильных конференциях.

А еще о том, что и обратный взгляд (со стороны ГенИИ на вопросы существования иного разума и контакта с ним) оказывается весьма интересным и продуктивным.

• Ибо, помятуя слова Иммануила Канта из эпиграфа к посту, нам, наконец, предоставляется возможность опытным путем сравнить разум человека, пусть и не с внеземным разумным существом, но уж точно, с неземным (не имеющим отношения к генно-культурной эволюции на Земле) разумным «цифровым видом» (как предлагает называть «это» один из главных архитекторов современных моделей ИИ, Microsoft AI CEO Мустафа Сулейман).
• А следуя высказыванию Сюзан Шнайдер из второго эпиграфа, вполне оправдано трактовать уже начавшийся контакт с неземным цифровым видом ГенИИ, как генеральную репетицию контакта с инопланетным разумом, который, если земляне его все же когда-нибудь встретят, также будет машинным.

Обо всем этом мы и поговорим дальше в этом посте.

Продолжение лонгрида на следующей неделе.

#Генеративный ИИ #Экзопсихология #Экзосоциология #Контакт #Пришельцы