Обзор. Глава #6. «Гарри Поттер и методы рационального мышления»

Предыдущая: глава #5.

«Гарри Поттер и методы рационального мышления» (ГПиМРМ) — альтернативная история Гарри Поттера от известного специалиста по искусственному интеллекту Элиезера Юдковского. Роман быстро завоевал большую популярность у поклонников научно-популярной литературы, являясь очень качественным источником по методам рационального и научного мышления. Включает в себя 122 главы, занимающих примерно 2000 страниц. В русском варианте ГПиМРМ состоит из трех книг.

Автор конспекта: Евгений Недильский.
Корректор: Кристи Буйвит.
Источник конспекта: Конспекты Юджина.
Источник книги: ГПиМРМ на русском, глава 6.

Глава 6: Ошибка планирования

В этот раз глава была особенно большая и включала в себя массу полезной информации по целому ряду тем. Среди них: искусственный интеллект, наука, технологии, творческое мышление, ошибка планирования, ошибка выжившего, отношения детей и родителей, детские травмы и другие.

Навигация

1. Искусственный интеллект.
2. Научные открытия и технологии.
3. Развитие личности.
4. Ошибка планирования. Самый важный раздел главы!
5. Другие ошибки мышления.
6. Отношения родителей и детей.
7. Другие цитаты.

1. Искусственный интеллект

Распознавание речи и ИИ

Как может быть, что фраза «мешочек со 115 галлеонами» работает, а «мешочек с 90 плюс 25 галлеонами» — нет? Что, эта вещь умеет считать, а складывать не умеет? Она понимает простые имена существительные, но игнорирует определения, означающие тот же самый предмет? Человек, сделавший этот кошель, скорее всего, не знал японский, а я не говорю на иврите, так что кошель не использует знания своего создателя, равно как и мои, — Гарри беспомощно махнул рукой. — Правила использования вроде бы ясны, но как именно они работают?

Даже не хочу спрашивать, каким образом какой-то кошель распознаёт голос и естественную речь, учитывая, что лучшие разработчики искусственного интеллекта уже тридцать пять лет не могут научить этому свои суперкомпьютеры, несмотря на все старания.

На данный момент распознавание голоса искусственным интеллектом (ИИ) далеко от человеческого уровня. Распознавание голоса работает лучше всего с американским английским, когда поблизости нет шума, слова довольно простые и произносятся четко. Но даже в таких случаях при машинном распознавании голоса случаются ошибки. Не говоря уже о других языках и особенностях произношения.

Вот несколько вариантов, когда ИИ не всегда хорошо справляется с распознаванием речи.

• Разное звучание речи. Человеческая речь может звучать очень по-разному в зависимости от языка, акцента, скорости произношения, возраста говорящего и других особенностей голоса. Даже на одном языке одно и то же слово одним и тем же человеком может произноситься с небольшими отличиями. Количество языков и акцентов так велико, что очень сложно натренировать нейронные сети для распознавания такого многообразия звуков. Существуют языки, где малейшее изменение звуков сильно меняет смысл переданной информации. Даже в английском языке фраза «let’s meet up Tuesday» (давайте встретимся во вторник) может распознаваться как «let’s meet up today» (давайте встретимся сегодня).
• Разное значение слов и конструкций. Одни и те же слова и конструкции в разных ситуациях могут передавать разное значение. Неправильное понимание контекста является проблемой не только для систем распознавания голоса, но и для программ-переводчиков. Всего одно слово, распознанное неправильно, может привести к неверной интерпретации всего сказанного.
• Шум и качество записи могут сильно влиять на машинное распознавание голоса. Фоновый шум автомобилей, технического оборудования, погодных условий и другие ситуации, где человеческое ухо легко улавливает и распознает голос, являются настоящими препятствиями для ИИ, распознающего речь.
• Несколько говорящих одновременно. Присутствие не только вашего голоса, но и говорящих параллельно с вами или фоновой речи окружающих, может создать ситуацию, когда ИИ будет сложно выделить какой-то один голос для интерпретации сказанного. Машинному распознаванию речи сложно извлечь смысл из аудиозаписи с несколькими наложенными друг на друга голосами.

Подробнее про трудности ИИ в распознавании голоса можно прочитать на Хабре или послушать в этом коротком подкасте:

Переоценка ожиданий

Гарри с грустью подумал о Дартмутском семинаре 1956-го года, первой в истории конференции по вопросам искусственного интеллекта. В качестве ключевых вопросов участники выделили: понимание языка, самообучение и самосовершенствование компьютеров. Они абсолютно серьёзно предполагали, что десять учёных смогут достичь существенных результатов по данным вопросам, если будут работать вместе в течение двух месяцев.

Со времен Дартмундского семинара прошло более 60 лет, но решение всех поставленных задач до сих не достигнуто. Уже давно стало ясно, что ожидания были завышены. Ещё с 1940-х годов ожидалось, что «умный» компьютер уровня человека станет реальностью уже лет через 20. С тех пор сроки сдвигаются со скоростью 1 года в год. Сегодня футурологи также продолжают предсказывать, что «умные» машины появятся через пару десятков лет. Конечно, есть высокая вероятность, что рано или поздно такие машины действительно появятся. Однако стоит учесть, что ожидания очень часто переоцениваются. Также стоит отметить, что «человеческий» уровень ИИ — довольно расплывчатое понятие, включающее огромное количество составляющих.

Подробнее о переоценке ожиданий в плане развития ИИ можно прочитать в первой главе книги «Искусственный интеллект. Этапы. Угрозы. Стратегии» Ника Бострома. Если вас интересует ИИ, его прошлое, настоящее и будущее, книги этого автора являются качественными источниками, где подробно и увлекательно раскрыта данная тема.

Вывод 1: наши ожидания часто завышены.

2. Научные открытия и технологии

Неочевидность открытий. Нелинейность науки

Прошло двести лет с момента изобретения научного метода познания, прежде чем маглам-учёным пришла в голову мысль взяться за системное исследование вопроса: какие предложения способен понять четырёхлетний ребёнок. В принципе, психологией развития речи могли бы заниматься ещё в восемнадцатом веке, но до двадцатого об этом никто и не думал. Поэтому вряд ли стоит винить волшебный мир — который гораздо меньше — за то, что они не стали исследовать чары извлечения.

Электромобили. Другой пример: электромобили. Первый электромобиль был создан аж в 1834 году. В самом начале 20 века мало кто мог подумать, что небольшая доля автомобилей на бензиновой тяге превзойдёт электромобили. Тогда электрические авто представляли как бесшумную, чистую и экономичную альтернативу паровым и бензиновым авто. Но компания Форд устранила значимые минусы автомобилей на бензине и запустила их массовую продажу. Интерес к электрическим авто ненадолго появлялся в 1960-х годах. Но массовое производство электромобилей вернулось только в 21 веке с появлением компании Илона Маска — Тесла Моторс, а также других компаний. Потребовался целый век, чтобы вернуться к более перспективной технологии и начать использовать её в промышленных масштабах.

Закон Мура и компьютеры. Закон Мура — наблюдение, которое гласит, что вычислительная мощность компьютеров (а точнее, число транзисторов на кристалле интегральной схемы) удваивается каждые 2 года. Он работал, начиная примерно с 1970-х годов. С тех пор вычислительные мощности компьютеров выросли во много миллионов раз. Однако сейчас, кажется, закон перестает работать из-за ограничения скорости света и минимальных размеров транзистора.

Вывод 2: события в сложных системах часто происходят нелинейно, поэтому их сложно предсказать.

Технологии и наука — отличия

— Технология и наука — совершенно разные вещи. Пробовать различные подходы и ставить эксперименты, чтобы обнаружить закономерности, — не одно и то же, — многие пытались изобрести самолёт, создавая конструкции с крыльями, но только братья Райт построили аэродинамическую трубу, чтобы измерить подъёмную силу…

3. Развитие личности

Важность творческого мышления

Гарри знал, что он не единственный. Он встречал и других гениев на олимпиадах по математике. И чаще всего с треском проигрывал своим соперникам, которые наверняка целыми днями решали математические задачи, вообще никогда не читали научную фантастику и которые просто сгорят от своей науки ещё до пубертатного возраста и совсем ничего не добьются в жизни, потому что будут использовать известные подходы вместо того, чтобы научиться мыслить творчески.

Важность высших целей

Он всегда боялся закончить как те вундеркинды, которые в итоге ничего не добились и проводили всю оставшуюся жизнь, хвалясь тем, какими крутыми они были в десять лет. Впрочем, большинству гениев-взрослых тоже нечем было гордиться. На каждого Эйнштейна в истории приходились тысячи не менее умных людей. Но для достижения подлинного величия им не хватало одной совершенно необходимой вещи, а именно важной задачи.

4. Ошибка планирования

— Учёные-маглы выяснили, что люди всегда настроены излишне оптимистично: они говорят, что какой-то процесс займет два дня, а на самом деле уходит десять, или говорят — два месяца, а уходит больше тридцати пяти лет. Или, например, проводился опрос учащихся, к какому сроку они уверены на 50%, 75% и 99%, что завершат домашнюю работу. И лишь 13%, 19% и 45% из них завершают её к указанному времени. Учёные обнаружили причину. Испытуемых попросили описать идеальный и типичный варианты развития событий. И полученные описания были практически одинаковы. Если вы попросите человека спланировать что-то на будущее, то он обычно, представляя себе наиболее вероятный ход событий, забывает про возможность ошибок или неожиданностей. Большинство испытуемых не закончили работу к сроку, в котором были уверены на 99%, так что фактические результаты оказались хуже даже наихудшего сценария. Такой феномен называется «ошибкой планирования», и лучший способ её избежать — учитывать, сколько времени занимало выполнение какой-либо работы в прошлом. То есть смотреть на процесс со стороны. Если же вы взялись за что-то впервые и существует возможность неудачи, вы должны быть очень-очень-очень пессимистично настроены. Настолько пессимистично, чтобы результаты точно превзошли ожидания.

Из прошлых цитат можно взять 2 главных вывода: обычно наши ожидания слишком оптимистичны, а прогресс происходит нелинейно. Автор нас плавно подвел к ошибке планирования — завышенным ожиданиям при оценке времени для осуществления каких-то планов.

Последствия ошибки планирования. Элизер Юдковский в своем блоге описывает несколько огромных денежных потерь из-за ошибки планирования:

• Международный Аэропорт Денвера открылся на 16 месяцев позже запланированного срока, что стоило ему $2 млрд (по некоторым оценкам $3.1 млрд).
• Еврофайтер Тайфун — истребитель, над созданием которого работали сразу несколько европейских стран, был готов с опозданием на 54 месяца. И потребовал почти в 3 раза больше средств, чем планировалось: $7 млрд, обошелся в $19 млрд.
• Сиднейский Оперный Театр, строительство которого закончилось на 6 лет позже планируемой даты, по стоимости обошелся почти в 15 раз дороже, чем ожидалось! Вместо $7 млн строительные работы потребовали целых $102 млн.

Как не допустить ошибку планирования?

Взгляд изнутри и визуализация. Продумывание возможных сценариев провала может показаться разумной стратегией для недопущения ошибки. Можно представить худшие варианты развития дальнейших событий, которые приведут к провалу планов. А затем подумать о возможных причинах такого провала. Казалось бы, вариант рабочий. Но стоит учесть, что даже визуализация худшего варианта событий часто бывает излишне оптимистичной! Более того, чем лучше визуализировать выполнение намеченного, тем более оптимистичные и далекие от реальности планы получаются в итоге. Такое утверждение может показаться нелогичным. Однако оно подтверждено исследованиями.

• В первом исследовании изучали способность американцев оценить, как быстро они успевают купить необходимые подарки на Рождество. Одну группу подробно спрашивали где, когда и как они будут покупать подарки и к какому времени успеют купить всё необходимое. Испытуемые этой группы дали среднюю оценку того, что они успеют купить необходимое ранее, чем за неделю до Рождества. Другой группе задали лишь вопрос о том, к какому времени они успеют купить подарки. В этом случае испытуемые ответили, что уложатся в среднем за 4 дня до Рождества. Обе группы в среднем успели купить подарки за 3 дня до Рождества.
• Во втором исследовании изучали способность японских студентов оценивать, как быстро они успевают написать сочинение. Одна группа студентов подробно визуализировала выполнение задачи и пришла к выводу, что успеет закончить сочинение за 10 дней до конца срока. А вторую группу в этот раз попросили не давать ответ на основе прогнозирования будущего, а вспомнить, в какой срок задача была выполнена в прошлый раз. Исходя из прошлого опыта, вторая группа студентов оценила свой шанс написать сочинения за 1 день до окончания срока. Реальность показала, что и первая, и вторая группа студентов в среднем успели написать сочинение за 1 день до окончания срока.

Взгляд снаружи и прошлый опыт. Люди, которые знают меньше деталей намеченных планов, но имеют опыт выполнения подобных планов в прошлом и опираются на этот опыт, менее оптимистичны и более точны в предсказаниях верных сроков.

Работающий способ не допустить ошибку планирования:

1. Нужно вспомнить свой опыт по реализации подобных планов в прошлом. А затем на основе его оценить сроки для плана в настоящем, не вдаваясь во множество деталей.
2. Если нет похожего опыта реализации в прошлом, стоит попросить рассказать о своем прошлом опыте тех, кто в прошлом уже реализовывал подобные планы.

Знание ошибки планирования не должно вас демотивировать и отбивать желание пробовать что-то реализовывать. Напротив, теперь у вас есть инструмент, с которым построение и реализация планов могут быть более успешными.

5. Другие ошибки мышления

Ошибка выжившего

— Случалось ли лично с вами что-то, что вас испугало?

— Мой личный опыт тут не столь важен, — ответил Гарри. — Это свидетельство гораздо меньшей силы, чем цитируемая статья в рецензируемом журнале, которая описывает слепое воспроизводимое исследование на большой выборке, показавшее заметные результаты с большой статистической значимостью.

Систематическая ошибка выжившего — ошибка выборки, когда учитывают известные данные и пренебрегают неизвестными. Классический пример ошибки выжившего — вывод о доброте дельфинов и их желании спасать утопающих людей. Однако мы не услышим истории от тех, кому дельфины не помогли спастись, толкая тех не к берегу, а от него. Подробнее разоблачение мифа о «добрых» дельфинах можно посмотреть в видео о популярных мифах.

Понимание ошибки выжившего, как я считаю, является одним из важнейших факторов для формирования научного способа мышления. Потому что именно на комбинации этой ошибки с другими когнитивными искажениями часто зиждется разного рода мракобесие. От вещих снов до предсказаний судьбы, от мелких суеверий типа «постучи по дереву» до выбора партнера по гороскопу, от чудодейственного эффекта лимонного сока до «исцеления» рака содой, от веры в «материальные» мысли до обращения за помощью к экстрасенсам.

«А мне помогло». Отрицание научных методов на основании собственного опыта или опыта какого-либо человека — классическая реакция, одной из причин которой является комбинация ошибки выжившего и эффекта плацебо. Явление особенно хорошо прослеживается на болезнях, которые имеют свойство проходить сами по себе. Так родилось множество народных рецептов, которые совершенно никак не лечат простуду, возникли чистки от «токсинов» и множество других способов поправить здоровье, работающих не лучше эффекта плацебо.

Тебе «помогло», а их убило. Существует сайт, где собраны данные о 300 000 случаях ущерба здоровью и более чем 350 000 смертей в результате использования псевдонаучных концепций. Начиная от альтернативной медицины и заканчивая верой в теории заговора, которая тоже может навредить. Погибшие уже не смогут рассказать вдохновляющие истории о том, как они «вылечили» рак содой или о том, что ВИЧ якобы не существует.

Мысли и происходящее

— Нечто плохое может с тобой случиться, независимо от того, думаешь ты об этом или нет.

Мысли не материальны! Конечно, психологическое состояние человека может влиять на его здоровье и поведение. В данном случае речь о том, что для воплощения чего-либо в реальность недостаточно постоянно думать о желаемом и визуализировать это. Однако это не мешает шарлатанам наживаться на доверчивых людях и продавать метафизические рецепты успеха.

Фильм «Секрет» — одно из самых популярных видео о материальных мыслях. Фильм основан на псевдонаучных концепциях от шарлатанов, которые не смогли добиться успеха, применяя свою же концепцию. Но успешно зарабатывают на продаже тренингов и книг о лженаучных концепциях по достижению успеха. Один из них даже угодил за решетку за нанесенный концепциями материальных мыслей вред. В фильме призывают отказываться от традиционной медицины и использовать «силу мысли» для выздоровления.

Забытые из-за травмы воспоминания

— Вытесненные воспоминания — это псевдонаучное понятие! Люди не подавляют травмирующие воспоминания, наоборот, они слишком хорошо помнят их всю свою жизнь!

Как работает человеческая память? На жесткий диск компьютера можно записать какие-то данные, а через долгий промежуток времени извлечь их в неизменном виде. Человеческая память устроена иначе, она является реконструктивной. На процесс восстановления воспоминаний в памяти влияют множество когнитивных процессов, таких как восприятие, воображение, мышление, убеждения. Два человека, переживших одно и то же событие, могут помнить его по-разному. Это доказывали эксперименты ещё в 1970-х годах. Дальнейшие исследования памяти подтвердили её изменчивость. Кроме того, они же позволили опровергнуть ошибочную мысль о том, что подавленные травмирующие воспоминания могут всплывать спустя много лет, а до этого никак о себе не напоминать.

Как вспомнить то, чего не было? Нет никаких научных доказательств того, что особенно травмирующие воспоминания уходят куда-то в глубины подсознания, а затем могут с помощью специально техник вернуться в неизменном виде. А вот вспомнить того, чего никогда не было, вполне возможно. Если внушать человеку, что он обязательно должен вспомнить какие-то события, то существует вероятность, что он их «вспомнит». Даже если таких событий на самом деле никогда не происходило. Так под влиянием гипноза люди могут «вспоминать» свои прошлые жизни, похищения пришельцами и другие никак не подтвержденные наукой явления. На мифе о подавленных воспоминаниях выросла целая индустрия. Люди готовы отдавать большие деньги за специальные сеансы гипноза и другие техники, которые якобы помогают вытащить заблокированные травмирующими событиями воспоминания.

Эффект Манделы. Ошибки при восстановлении старых воспоминаний могут сыграть с нами злую шутку. Эффект Манделы или конфабуляция — явление когда несколько случайных людей «вспоминают» одно и то же событие, которое противоречит реальной истории. Например:

• Дарт Вейдер в Звёздных войнах никогда не говорил: «Люк, я твой отец» («Luke, I am your father»)! Он говорил «нет, я твой отец» («No, I am your father»).
• Многим из тех, кто помнит английское название сериала «Секс в большом городе» оно запомнилось как «Sex in the city», хотя на самом деле оно пишется как «Sex and the city».

Подробнее про эффект Манделы и про события, которые мы помним не такими, какие они есть, можно посмотреть в этом ролике:

Ещё об эффекте ложного воспоминания можно посмотреть у GEO (8:10-11:37). Или же почитать о семейном насилии и якобы вытесненных травмирующих воспоминаниях в книге «Миф об утраченных воспоминаниях. Как вспомнить то, чего не было» Элизабет Лофтус.

Совпадения

В мире шесть миллиардов людей и совпадения с вероятностью тысяча к одному случаются каждый день.

Как уже рассказывалось про эффект Манделы, даже очень большие совпадения могут быть всего лишь случайностью. Наш мозг склонен искать связи даже в тех ситуациях, где таких связей нет, такое явление называется апофенией.

Также об удивительных совпадениях интересно рассказывают блогеры VoicePower, Александр Панчин, Артур Шарифов и другие.

Неграмотность не означает глупость

МакГонагалл выглядела огорчённой. В конце дня, проведённого за покупками, она не спросила, сколько золота осталось. Значит, профессор могла совершать математические вычисления в уме. В очередной раз Гарри напомнил себе, что «неграмотный в науке» и «глупый» — совершенно разные вещи.

Интеллект — это сложное понятие, включающее множество переменных, таких как степень усвоения знаний, сообразительность, способность к рассуждению, память и т.д. Эрудированность определенного человека не всегда связана с интеллектом. Этот момент важно усвоить для более объективной оценки окружающих, чтобы не считать глупым того, кто не знает каких-то важных для нас вещей. Человек из-за огромного количества причин мог не прийти к тем же знаниям, к которым пришли мы.

6. Отношения родителей и детей

Родители и здравый рассудок

Иногда благих намерений недостаточно, иногда нужно быть в здравом уме.

...

Абсолютно все родители одинаковы, взрослые никогда не снисходят до уровня ребёнка, и его биологические родители не оказались бы исключением. Здравый рассудок подобен искре в ночи, чрезвычайно редкое исключение, бесконечно малая величина в подавляющей массе безумия, поэтому злиться бессмысленно.

Родители

И я слишком умён, чтобы слепо верить родителям, как подобает нормальному ребёнку. Я знаю, что родители меня любят, но при этом они легко отказываются прислушиваться к гласу рассудка, и тогда мне кажется, что это они — дети, которые не хотят ничего слушать, и в то же время у них в руках абсолютная власть над всем моим существованием.

Взрослые: непринятие советов

— Именно поэтому мне сложно доверять взрослым, — каким-то образом Гарри заставил свой голос не дрожать. — Они сердятся, даже если ты всего лишь пытаешься их убедить. Для них это дерзость, нахальство и попытка оспорить их более высокий статус в племени.

7. Другие цитаты

Оправдание магией

— Но всё-таки, как, ну как это работает?

— Магия, — пожала плечами профессор МакГонагалл.

— Это всего лишь слово! Я не могу строить на его основе новые предположения! Это всё равно что сказать «флогистон», или «жизненный порыв», или «эмердженция», или «сложность»!

Юмор в отношении магических вещей

... и ещё множество вещей, о предназначении которых Гарри мог только гадать. Например, «Средство от последствий воздействия дементора», внешне и по запаху напоминавшее обычный шоколад. Или «Анти-чих-сморк», выглядящий как маленькое вибрирующее яйцо, к которому прилагалась инструкция, как засовывать его в чью-нибудь ноздрю.

— Это определённо стоит пяти галлеонов, вы согласны? — спросил Гарри у МакГонагалл. Молодая продавщица, находившаяся рядом, энергично закивала.

Сперва думать, затем говорить

Вы просто обязаны научиться сначала думать, а потом говорить, мистер Поттер. В противном случае у вас вряд ли будет много друзей.

Продолжение: глава #7.