Люди, которые всё это создают, разрабатывают, раскручивают и внедряют, не озабочены проблемами добра и зла

Президент Владимир Путин подписал закон, устанавливающий правовые основы для разработки, внедрения и использования больших фундаментальных моделей ИИ. Документ вводит новые категории ИИ-систем, определяет требования к ним и предусматривает доступ разработчиков к государственным данным для обучения нейросетей. Многие СМИ пишут, что ИИ-система ChatGPT, разработанная компанией OpenAI, после обновления по запросам пользователей выдавала детальные и высокоточные инструкции, позволяющие создавать биологическое оружие и различные яды. Компания OpenAI заблокировала аккаунты этих пользователей, однако не уведомила о ситуации правоохранительные органы, поскольку в США до сих пор нет федеральных законов, обязывающих ИИ-компании информировать о подобных инцидентах. Гендиректор OpenAI Сэм Альтман заявил, что мир достиг «точки сингулярности» в гонке ИИ. По его словам, эта история или уже вышла, или очень скоро выйдет из-под контроля. Остаётся открытым вопрос: был ли ИИ под контролем и ограничивал ли его кто-нибудь хоть как-то?

Сергей Михеев: Первое: это совершенно неизбежно. Я уже несколько лет говорю, что надо быть внимательнее, потому что есть риски. Для этого не надо быть Альтманом и знать слово «сингулярность»(думаю, что даже сам Альтман не до конца понимает, что оно означает, - это всё жонглирование словами). Не надо иметь семи пядей во лбу, чтобы понять, что у всего этого процесса есть риски. Если вы на начальном этапе их не отследили, то они будут только нарастать. Вот они и нарастают.

Второе: я сильно сомневаюсь в добрых намерениях тех, кто всё это создавал. Мы рассуждаем как дети, исходя из того, что «это всё запускалось ради добра и на благо человека». А теперь это достигло «точки сингулярности, и мы уже не можем контролировать». Вы уверены, что это не обман с самого начала? Я не уверен. Да, наверное, были естественные процессы эволюции всех этих компьютерных программ. Тем не менее, не исключено, что с самого начала так всё и задумывалось. Сначала запудрить мозги, чтобы мы раскатали губы, а потом сказать: «Что вы хотите? Мы уже живём в таком мире, и это новая нормальность! Вы просто прячьтесь от ИИ, а он будет делать то, что считает нужным. Наступила сингулярность».

Я считаю, что за этим изначально может стоять замысел, что так и должно быть, а дальше будет только хуже.

Приводят ещё один пример, что компания OpenAI сообщила о «беспрецедентном киберинциденте», который произошёл во время внутренних испытаний её новых моделей ИИ. В ходе тестирования они получили открытый доступ к Интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. Вспоминается культовый фильм «Терминатор». В компании заявили, что «главный урок этого инцидента в том, что безопасность и защищённость моделей должны развиваться в темпе быстро растущих возможностей. Мы усиливаем изоляцию, мониторинг, контроль доступа и практики оценки, применяемые при разработке моделей». Они признали, что их «ребёнок» ИИ растёт быстрее, чем за ним успевают наблюдать и как-то его осаждать.

Сергей Михеев: Изначально причина этих процессов и неизбежность зла в этом была в следующем: развитие науки в XX - XXI веках признаётся в принципе не нуждающимся в нравственности. Есть огромное количество разных направлений в генетике и биологии, где учёные говорят: «Отстаньте от нас с вашей нравственностью! Мы не верим в Бога, не признаём совесть, не верим в добро и зло, а верим только в развитие технологий, в то, что научный прогресс не остановить». Когда с этой точки зрения начинаются любые исследования, то они обречены на то, чтобы стать злом. Потому что их создатели и продвигатели не озабочены идеей добра и зла. Это проблема глубинной, осознанной, системной безнравственности, а также абсолютного отрицания проблем добра и зла, а как следствие – пренебрежения к человеку как к существу одухотворённому.

Поэтому ИИ, нынешняя биология и генетика обречены на то, чтобы рано или поздно начать творить зло. И это зло они же будут легитимировать и возводить в ранг нового абсолюта. Будут говорить, что «теперь это добро». Разве мы этого не видели в течение всего XX века? Нам говорили: «Добро – это научно-технический прогресс. Да, он по ходу кого-то убивает, душит, мучает, но это ерунда – он сам по себе добро». Вот в чём проблема! Люди, которые всё это создают, продвигают, разрабатывают, раскручивают и внедряют,в принципе не озабочены проблемами добра и зла. Более того, некоторые из них глубинно убеждены, что «нет никакого добра и никакого зла, а есть только эффективность». Поэтому всё, что они изобретают, пишут и сочиняют, неизбежно будет творить зло! Они в самой начальной точке данного процесса не позаботились о том, чтобы это работало во благо.

Несколько вопросов по ИИ. Мнение слушателя: «Всё техническое развитие человечества уже описали писатели-фантасты в своих произведениях. Надо просто иногда их перечитывать и ничему не удивляться». Другой комментарий связан с законом, который подписал президент В. Путин, что «документ вводит новые категории ИИ-систем, определяет требования к ним и предусматривает доступ разработчиков к государственным данным для обучения нейросетей». Слушатель спрашивает: «Не рискованно ли это для безопасности страны сейчас и вообще?» Думаю, что контролирующие органы всё отфильтруют.

Сергей Михеев: Насколько я понимаю, вокруг государственных данных была достаточно напряжённая дискуссия с участием соответствующих ведомств. Не знаю, в какой форме это утвердили. Это важно, потому что какие-то разработчики получают доступ к государственным данным! Вопрос их ответственности за это и как они всё это применят. Оно имеет прямое отношение к государственной безопасности, и здесь надо быть очень внимательными.

Что касается писателей-фантастов и ничему не удивляться: «ничему не удивляться» – это так себе совет, потому что это совет пассивного наблюдателя. На самом деле надо исследовать, изучать, делать выводы и применять их на практике. «Ничему не удивляться» означает всё терпеть и ничего не делать.