Здесь недалеко до сумасшествия, а с религиозной точки зрения – ещё один мощный шаг к концу света
Перейду к практической плоскости. Наши слушатели пользуются службой такси: им машину подбирает алгоритм (ИИ). Наверняка у многих дома стоит умная колонка. Даже мне когда-то подарили такую, и я порой у неё спрашиваю некоторые вещи. У многих людей ИИ вошёл в их жизнь через экраны гаджетов, навигатор и т.д. Что делать простому человеку?
Сергей Михеев: То, что мы называем ИИ, – это усложнённые компьютерные алгоритмы, которые появились не вчера. Они усложняются - и появляется больше возможности у «железа». Ко мне на передачу приходил специалист в области ИИ и разработки ПО Игорь Ашманов и сказал, что,«если вместе собрать миллион унитазов и заставить их спускать воду в некоем порядке, то они превращаются в сознание или нет?» Надо понимать, что мы иногда все эти вещи преувеличиваем. Самое главное – это его не очеловечивать, не придавать ему субъектность и не воображать, что существует нечто, обладающее сознанием и личностью вне нас. Он даже не обладает телесностью!
У автомобилистов есть шутка: «нестрашно, когда вы разговариваете с машиной, а страшно, когда машина начинает вам отвечать». Теперь это правда: машина начинает отвечать вашими же словами. Здесь недалеко до сумасшествия, а с религиозной точки зрения это ещё один мощный шаг к концу света, к самоуничтожению. Эти вещи можно контролировать, и главное - не отдавать им свою жизнь; не очеловечивать и не оживлять то, что не является живым, а является фальсификатом. Необходимо постоянно понимать, кто должен управлять процессом, а кто всего лишь инструмент. Считаю, что это важно. Плюс, не ставить свою жизнь в абсолютную зависимость от того, что происходит в мобильном телефоне. Условно говоря, если вы дадите ИИ полномочие ходить за продуктами, а он в один прекрасный день вам их не принесёт, то вы умрёте с голоду? Нельзя терять навыки обычной нормальной жизни! Эти вещи не надо наделять личностными качествами, потому что они ими не обладают.
Могу сказать о себе, что живу спокойно и ни разу не было необходимости в том, чтобы ИИ мне что-то написал или рассказал. Мне вполне хватает своей головы, университетского образования и жизненного опыта. Если сравнивать нас с энциклопедистами или людьми эпохи Возрождения, то мы все очень средненькие с точки зрения образования. Но, как бы это всё ни развивалось, необходимо понимать, что оно остаётся неживым. Даже если довести до полного совершенства функцию«вопрос – ответ»или если проходят процессы, которые можно сравнивать с сознанием, то всё равно это пустота. ИИ не испытывает боль, не знает страха, никого не любит и не может любить или ненавидеть, но способен эти вещи имитировать. Возьмём в пример собаку-робота, которая может делать вид, будто вас любит, но она вас не любит - это просто запрограммированная функция. Её можно перепрограммировать - и она будет действовать по-другому.
На примере своего ребёнка я увидел вот какую вещь: он периодически общается с нейросетью Алисой, и я понял, что там надо вводить строжайшую цензуру и контроль над тем, что Алиса ему выдаёт. Ни в коем случае не говорю, что эта нейросеть плохая. На мой взгляд, отдавать на воспитание ребёнка любой умной колонке нельзя. Тем более, оставлять его с ней как с «няней», - максимум как с радио-няней и не более того.
Сергей Михеев: Я с Вами согласен, но к этому ещё добавлю, что любая умная колонка – это возможность слышать всё, что происходит у вас в доме. Любая колонка может использоваться как микрофон, а если подключена к Интернету, то может считывать любой аудиосигнал, который рядом с ней, и передавать его куда скажут. Конечно, в большинстве случаев этим никто не заморачивается, но потенциально это осуществимо, и при нынешних технологиях собирать большие объемы данных не представляет проблемы. Установить тотальную слежку за людьми через эти устройства – это ровно про то, какие полномочия вы им делегируете. Как по мне,это глупый отказ от собственной свободы и частной жизни; но кому-то кажется, что это нормально. Я так не думаю.