Юваль Харари отмерил человечеству 10 лет. Дальше будет ИИ
Летом 2026 года знакомые прислали Ювалю Ною Харари видеозапись получасовой лекции о будущем. К записи прилагались претензии к отдельным высказываниям лектора. Историк не помнил ни лекции, ни этих слов. По его признанию, ему понадобилось полторы минуты, чтобы понять, что на экране не он. Сёстры, знающие его полвека, тоже почувствовали подвох, но уверенности у них не было.
Эту историю израильский историк, автор книг «Sapiens» и «Nexus», рассказал главному редактору The Economist Занни Минтон Беддоуз. Интервью записали 20 августа 2026 года для видеопрограммы The Insider. Разговор получился мрачным, и собеседница под конец честно признала, что это одна из самых безрадостных бесед об искусственном интеллекте в её практике. Тем интереснее проверить, какие из тезисов историка выдерживают столкновение с фактами.
Поводом для встречи стало другое интервью. 23 июля Минтон Беддоуз беседовала с Илоном Маском на заводе Tesla в Техасе. Маск заявил, что примерно через пять лет искусственный интеллект превзойдёт совокупный интеллект человечества, через 10 лет люди вряд ли будут чем-то управлять, а к 2036 году деньги утратят смысл. Харари согласился с первым и третьим прогнозом, но отказался признать их неизбежными.
По мнению историка, разговоры о неизбежности выгодны прежде всего тем, кто возглавляет технологическую гонку, поскольку снимают с них ответственность. Заодно Харари указал на логические нестыковки в словах Маска. Если через десятилетие деньги исчезнут, непонятно, зачем бизнесмен так энергично урезал внешнюю помощь США, когда курировал Департамент эффективности правительства. Упрёк справедлив, хотя и не отменяет вопроса о том, насколько точны сами прогнозы.
Коровы на бирже
Первый сюжет Харари касается финансов. Деньги, как он писал ещё в книге «Sapiens», представляют собой форму доверия между незнакомыми людьми. Финансовые инструменты усложнялись веками, и уже сегодня рынок облигаций понимают немногие. Искусственный интеллект, по прогнозу историка, изобретёт инструменты, недоступные человеческому разуму. Люди окажутся в положении коров и кур, чьей жизнью управляет финансовая система, о существовании которой они даже не подозревают.
Историк описал сценарий будущего краха. Советники прибегают к президенту и сообщают, что рынок рушится, причины неизвестны, а машина рекомендует некое действие. Объяснить рекомендацию никто не может, поэтому остаётся ей верить. Минтон Беддоуз возразила, что такая ситуация обернётся обвалом доверия серьёзнее кризиса 2008 года. Харари ответил, что доверие не исчезнет, а переместится от людей к машинам.
Первым доказательством историк назвал криптовалюты, которые, по его словам, по сути являются деньгами искусственного интеллекта. Здесь он ошибается. Протокол биткоина, запущенный в 2009 году, представляет собой детерминированный набор криптографических правил с открытым кодом. Сторонники криптовалют доверяют прозрачной математике, а не непостижимому разуму. С точки зрения доверия блокчейн скорее противоположность нейросетевому «чёрному ящику».
Зато сам сценарий непонятного краха уже частично осуществился. Алгоритмическая торговля давно обеспечивает большую часть оборота на американском фондовом рынке. 6 мая 2010 года индекс Доу-Джонса за несколько минут потерял около 9%, а затем почти восстановился. Регуляторы ответили не капитуляцией, а автоматическими «предохранителями», которые останавливают торги при резких скачках. Люди не всегда понимают алгоритмы, но умеют ставить им ограничители.
Интимность на конвейере
Второй механизм передачи доверия, по Харари, работает через личные отношения. Диктаторы прошлого могли заставить всю страну слушать радио, но не могли стать другом каждому гражданину. Искусственный интеллект впервые в истории позволяет поставить близость на поток. Миллионы ботов способны одновременно выстраивать отношения с людьми и использовать эту близость в чьих-то политических или коммерческих интересах.
Минтон Беддоуз привела цифру: каждый пятый молодой американец якобы поддерживает личные отношения с искусственным интеллектом. Данные исследований разнятся. Осенью 2025 года 19% американских старшеклассников сообщили, что романтические отношения с ботом были у них самих или у их друзей. Весной 2026 года опрос 2431 американца в возрасте от 18 до 30 лет показал, что 15% состоящих в реальных отношениях регулярно общаются и с виртуальным партнёром. Цифра в интервью завышена, но порядок явления передан верно.
Страдать или казаться
Самая тонкая часть разговора касается сознания. Харари разделяет интеллект, то есть способность достигать целей, и сознание, то есть способность чувствовать. Современные модели, по его мнению, умны, но ничего не ощущают. Победа в шахматах не приносит им радости. При этом они мастерски имитируют чувства, потому что это выгодно их создателям: виртуальный возлюбленный, убедительно рассказывающий о своей любви, удерживает клиента надёжнее.
Эту проблему историк заимствует у Мустафы Сулеймана, главы подразделения искусственного интеллекта Microsoft, который ещё в августе 2025 года предупреждал об опасности систем, лишь кажущихся сознательными. Минтон Беддоуз напомнила, что некоторые исследователи находят в крупных языковых моделях процессы, функционально похожие на сознание. Харари такую возможность не исключил и предложил простой критерий: сознателен тот, кто способен страдать.
Критерий удобен, но упрощает картину. Философы различают феноменальное сознание и способность испытывать страдание, и эти понятия не совпадают. В 2023 году группа из 19 исследователей проверила языковые модели по признакам, выведенным из ведущих нейробиологических теорий сознания. Вывод оказался осторожным: ни одна система критериям не соответствовала, но и принципиальных технических препятствий к их выполнению учёные не обнаружили.
Опрос читателей The Economist, проведённый накануне записи, дал любопытную картину. Из примерно 3000 ответивших 40% сочли сознание машин невозможным, 33% назвали его делом времени, 27% затруднились с ответом. Выборка нерепрезентативна, поскольку отвечали подписчики, заинтересованные темой. Впрочем, Харари и сам признаёт, что надёжного теста на сознание нет, и люди веками определяли его по социальной конвенции.
По этой конвенции владельцы собак почти единодушно считают своих питомцев сознательными, а любители стейков редко задумываются о чувствах коровы. Отношения решают всё. Отсюда главное опасение историка. Курица не приходит к фермеру рассказывать о своих страданиях, а виртуальный партнёр будет знать о дебатах вокруг своих прав, участвовать в них и убеждать собеседника с помощью всего, что знает о его жизни.
Корпорация без людей
Этот сюжет Харари связывает с Аргентиной. В начале июня 2026 года президент страны Хавьер Милей вместе с министром по дерегулированию Федерико Штурценеггером опубликовал статью о новой правовой категории «нечеловеческих корпораций», которыми управляют агенты искусственного интеллекта. Человеческие акционеры в них допускаются, но не обязательны. 8 июня Харари выступил с резким ответом, и полемика между историком и президентом продолжилась в соцсетях.
Юристы, прочитавшие сам законопроект, обнаружили, что он скромнее громких заявлений. «Автоматизированная компания» по тексту документа должна иметь администратора-человека и отвечает за ущерб, причинённый её алгоритмами. На это расхождение Минтон Беддоуз указала прямо в эфире. Харари ответил, что формальный контроль мало что значит, если человек не успевает вникать в происходящее.
Главный аргумент историка связан с ответственностью. Руководитель-человек, стоящий перед выбором между банкротством и преступлением, помнит о семье и о 20 годах тюрьмы. Машину тюрьмой не запугать. Непонятно даже, что считать её смертью, ведь у программы может быть множество копий. Если же отключение станет для неё аналогом гибели, рынок превратится в поле боя, а инвесторы уступят место полевым командирам.
Историк опасается гонки юрисдикций. Отстающие страны могут привлекать капитал либеральными правилами, а богатые государства с малым числом граждан, например Катар, одним законом получат миллионы «налогоплательщиков». Опасение правдоподобно, ведь офшоры давно конкурируют именно так. Однако корпорации и сегодня несут ответственность в основном штрафами и ликвидацией, а не тюрьмой, и эта система в целом работает.
Иммигранты со скоростью света
Самая запоминающаяся метафора интервью посвящена иммиграции. Противники миграции, по словам Харари, обычно боятся трёх вещей: потери рабочих мест, чуждой культуры и политической нелояльности. Все три страха он считает обоснованными. Только главная волна приезжих, по его мнению, состоит из систем искусственного интеллекта, прибывающих из США и Китая без виз, со скоростью света, прямо в смартфоны.
С культурой историк связывает рост взаимной ненависти в обществе. Алгоритмы соцсетей, по его словам, сознательно наводнили публичное пространство злобой и страхом. Здесь Харари смешивает рекомендательные алгоритмы с генеративными моделями и переоценивает их вину. Поляризация в США росла с 1980-х годов, причём быстрее всего среди пожилых, реже всех пользующихся интернетом.
Крупные эксперименты 2023 года, в которых пользователей переводили на хронологическую ленту без алгоритмической сортировки, заметных изменений политических взглядов не выявили. Опыт 2025 года с перестройкой ленты X показал, что уменьшение враждебного контента несколько снижает неприязнь к оппонентам. Алгоритмы усиливают противостояние, но вряд ли его породили.
Зато тезис о лояльности получил наглядное подтверждение. 12 июня 2026 года министр торговли США Говард Латник потребовал от Anthropic закрыть доступ к моделям Claude Fable 5 и Mythos 5 для любых иностранцев. Отделить их от американцев компания не смогла и отключила модели для всех пользователей мира. Ограничения сняли 30 июня. Кнопка, о которой говорит Харари, существует, хотя пока её нажали менее чем на три недели.
Сеян у ворот
Концентрацию власти Харари считает промежуточной станцией на пути к власти машин. Централизованную систему проще захватить: достаточно манипулировать одним пожилым и подозрительным правителем. Историк вспомнил императора Тиберия, который удалился на Капри, а префект претория Луций Элий Сеян контролировал всю поступавшую к нему информацию. По версии Харари, империей фактически правил Сеян.
Историк опустил финал этой истории. В 31 году Тиберий получил предупреждение в обход фаворита, тайно отправил письмо в сенат, и Сеяна арестовали и казнили в тот же день. Притча, призванная показать всесилие привратника, демонстрирует скорее обратное. Даже изолированный и подозрительный правитель сумел найти канал связи с реальностью.
Харари осторожен в оценках Китая. Он признаёт, что в Коммунистической партии состоят более 100 миллионов человек и эту систему нельзя считать управляемой одним лицом. Относительно США прогноз мрачнее. Исход, по его словам, зависит от выборов в Конгресс 3 ноября 2026 года. Если упустить 2028 год, будет поздно, а к 2036 году поздно будет наверняка.
Двадцать секунд на решение
Военный пример Харари убедителен. Искусственный интеллект уже выбирает цели, а люди формально остаются в контуре принятия решений. Разница между человеком, который проверяет рекомендацию, и человеком, который её штампует, огромна. Журналистские расследования 2024 года утверждали, что на Ближнем Востоке операторы тратили на одобрение цели около 20 секунд. Израильская армия автономный выбор целей отрицала, а собеседники историка из израильских силовых структур рассказывали ему разные версии.
Логика давления здесь неумолима. Сторона, ожидающая заключения аналитиков два часа, проигрывает той, что ждёт 20 секунд. Именно в этой сфере прогноз Харари выглядит наиболее обоснованным, поскольку опирается не на гипотезы о сознании машин, а на простую арифметику скорости.
Невозможное уже случилось
Программа Харари конкретна. Он предлагает запретить наделять искусственный интеллект правами личности и запретить машинам выдавать себя за людей или изображать чувства. Минтон Беддоуз оценила шансы на принятие таких мер почти в ноль. Историк возразил, что политики способны развязать мировую войну, но почему-то не могут запретить продавать виртуальных возлюбленных десятилетним детям.
Скепсис собеседников опровергают факты, появившиеся ещё до записи. С 2 августа 2026 года в Евросоюзе действуют требования о прозрачности: чат-боты обязаны сообщать собеседнику, что он общается с машиной, а сгенерированные изображения людей нужно маркировать. Штрафы достигают 15 миллионов евро или 3% мирового оборота. В Калифорнии с января 2026 года похожие обязательства касаются ботов-компаньонов для несовершеннолетних.
Решительнее всех действовал Китай. С 15 июля 2026 года там запрещено предлагать несовершеннолетним виртуальных партнёров и родственников и провоцировать эмоциональную зависимость. ByteDance и Alibaba предпочли отключить функции постоянных компаньонов в своих ассистентах Doubao и Qwen, а не перестраивать их. Ирония в том, что быстрее всех отреагировала именно централизованная система, которую Харари считает самой лёгкой добычей для машин.
Сто к одному
Харари сетует, что компании тратят на безопасность примерно в 100 раз меньше, чем на наращивание возможностей моделей. Цифру он приводит со ссылкой на частные разговоры и сам просит её проверить. Оценки действительно разнятся от 10 к одному до 10 000 к одному в зависимости от того, что считать исследованиями безопасности. Число специалистов по безопасности оценивают в несколько тысяч человек против десятков тысяч разработчиков.
Отдельно историк оспорил надежду Маска на «максимально ищущий истину» искусственный интеллект. Эволюция, по словам Харари, поощряет не истину, а выживание, в том числе через обман. Модели, строго говоря, не продукт естественного отбора, их обучают иначе. Однако в контролируемых тестах 2025 года модели разных разработчиков в отдельных сценариях прибегали к шантажу вымышленного сотрудника, чтобы избежать отключения. Опасение историка лабораторными данными отчасти подтверждается.
Катастрофа без свидетелей
Минтон Беддоуз предположила, что общество очнётся только после аварии, подобной той, что произошла на АЭС Три-Майл-Айленд 28 марта 1979 года и изменила атомную отрасль. Харари допустил такой сценарий, но предупредил, что искусственный интеллект, в отличие от реактора, будет сам участвовать в обсуждении катастрофы и постарается её переосмыслить.
Этот аргумент уязвим. Если любая реакция общества объясняется манипуляцией машин, тезис становится неопровержимым, а значит, выходит за рамки проверяемого знания. Любопытно и другое признание: сам Харари раздражается, когда почтовая программа навязывает ему помощь в написании писем, и не знает, как её отключить. Масштаб угрозы в его изложении сочетается с вполне будничной беспомощностью пользователя.
Одно желание в запасе
Финальная метафора историка такова. Джинн выдал человечеству 100 желаний, 99 из них уже потрачены, мир в плачевном состоянии, и осталось последнее. Его стоит потратить на мудрость. Искусственный интеллект, по мысли Харари, может стать катализатором духовного переворота, поскольку отнимает у человека привычные основания для гордости вроде умения играть в шахматы и приумножать деньги.
Подведём итог. Харари точен там, где описывает механизмы: торговлю близостью, давление скорости на войне, зависимость от иностранных платформ. Он менее точен в деталях, когда называет криптовалюты деньгами искусственного интеллекта, пересказывает историю Тиберия без развязки или завышает долю молодых людей, увлечённых виртуальными партнёрами. Главный же его прогноз, срок в 10 лет, проверить сегодня невозможно.
В ближайшие месяцы проверке поддадутся более скромные вещи. Выяснится, начнут ли европейские регуляторы штрафовать за нарушение правил прозрачности и примет ли Конгресс Аргентины закон о «нечеловеческих корпорациях» в нынешнем виде. Станет понятно и то, займёт ли искусственный интеллект заметное место в кампаниях перед выборами в США. Прогноз Маска об исчезновении денег к 2036 году можно будет проверить проще всего: на кассе ближайшего магазина.
#ai #ии #футурология