Надо учить людей тому, что нельзя доверять всему подряд

Надо учить людей тому, что нельзя доверять всему подряд, image #1

Семейные психотерапевты и адвокаты по разводам сталкиваются со случаями, когда общение с чат-ботами осложняет отношения супругов. Люди используют ИИ для поиска поддержки, подтверждения своей правоты в ссорах или замены человеческой близости. Об этом пишет американское агентство Bloomberg со ссылкой на специалистов и участников таких отношений. Иногда пары пытаются использовать ИИ в качестве «арбитра»: например, передают ему подробности разногласий о воспитании детей и просят решить, как им поступить. И этот «арбитр», судя по статье, достаточно плохой.

Сергей Михеев: Такие ситуации часто встречаются и в жизни: когда муж и жена не могут что-то выяснить и в их отношения вмешивается третий человек (или даже больше), то обычно это до хорошего не доводит. А когда речь идёт даже не о живом человеке, а о программе, которая подбирает слова, основываясь непонятно на чём, то добра не будет. Попытка отождествить ИИ с живым человеком, да ещё с таким, которому есть до вас дело и у которого имеется опыт, – это ложь, фальшь. Здесь очень опасная подмена, которая будет разрушать всё, включая браки. Учитывать эти вещи крайне важно, и надо учить людей тому, что нельзя доверять всему подряд. Мы же учим не доверять мошенникам; а это, по сути, тоже мошенничество.

В этой статье интересное наблюдение: чем можно объяснить формирование привязанности к чат-ботам? Поиском стабильной поддержки в условиях одиночества или стресса; постоянной доступностью ИИ, отсутствием осуждения, сравниванием с «тёплыми объятиями». Людям не хватает человеческого тепла, и выход – это бездушная нейросеть.

Сергей Михеев: Если на эти вещи смотреть с религиозной точки зрения, то в нашем мире убывает настоящая любовь. Я имею в виду не только любовь между мужчиной и женщиной, а любовь вселенскую: милосердие, прощение, понимание, теплота. Если говорить о православном христианстве, то всё это описано в Новом Завете. Там конец света связывается не с тем, что, условно говоря, взорвётся Солнце или будет нечем дышать, а с тем, что люди перестанут быть людьми, теряя способность любить. Когда любовь полностью исчезнет, тогда и будет конец света. Эти вещи без компьютеров и ИИ описаны сотни лет назад в текстах святых отцов Православной Церкви, и они правы. Это видно невооружённым взглядом.

На фоне исчезновения настоящего начинает возрастать значение эрзацев: лжепророки, лжехристы, лжечудеса и пр. ИИ вписывается ровно в этот ряд! Когда нет настоящего, то начинают искать фальшивку - «лишь бы хоть как-то она была похожа на настоящее». Даже если с вами играют, даже если просто подбирают подходящие слова, всё равно: «Ничего – пойдёт и это».

Вот настоящая трагедия человечества: не истощение природных ресурсов, а истощение человеческих ресурсов; стремление настоящее заменить на ненастоящее, а живое - на неживое. Здесь можно предъявлять претензии к компьютерной программе, но главная проблема в самих людях, когда они теряют способность друг друга слышать, понимать, сопереживать, помогать, проявлять милосердие. Это касается всех. Я сам не могу сказать, что всё прекрасно понимаю, делаю и т.д. Мы все в той или иной степени жертвы данного процесса, но он зависит именно от нас. Другой вопрос, если ты это осознаёшь, то пытаешься что-то менять или хотя бы удерживаться от того, чтобы не свалиться ещё ниже. А если ты этого не осознаёшь, то тебя несёт в пропасть.

Люди всё равно остаются людьми, которым хочется понимания, тепла, и они начинают хвататься за любую фальшивку или сиюминутную «таблетку», а ИИ на этом играет. Может быть, он играет неосознанно, но так настроена программа. Если это обман, то будет приводить к отрицательным последствиям. Это как алкоголь, который в трудной ситуации может вам на пару часов поднять настроение, но как минимум он вашу проблему не решит, а как максимум - усугубит и будет только хуже. Также и с ИИ: создаётся иллюзия того, что тебя кто-то понимает, но ему нет до тебя дела, потому что это вычислительный алгоритм, подставляющий нужные слова, а итог – это разрушенная семья, полностью разваленные отношения, одиночество и тоска. Все эти слова и буквы не заменят реальной жизни.

Говорят: «Будем обучать людей, как работать с ИИ». Считаю, что одна из главных форм этого обучения в том и состоит, чтобы люди понимали, что они общаются не с живым человеком, который может любить, сопереживать и помогать! Для того, чтобы помогать, надо иметь собственный опыт переживания, а ИИ не может иметь такого опыта в принципе. Он может имитировать, правильно подставляя слова, и то неизвестно, откуда он это берёт. А когда вы на это покупаетесь, то разочарование или крах в жизни неизбежны, и вопрос только в том, на каком шаге это возникнет. Важно об этом подумать.

195 views·10 shares