Я за тот ИИ, который может приехать и починить фонарь!
Сейчас идёт большой юридический эксперимент по части западных компаний, управление которыми частично доверили одной популярной модели нейросети. Она должна принимать решения: кого увольнять, кого премировать, продвигать по карьерной лестнице и т.д. Первые люди уже были уволены за систематические опоздания. Когда возник вопрос, кто их сократил, начальник сказал: «Это не я вас убрал – простите. Вас уволила машина – идите и разбирайтесь с ней». Здесь вопрос о нравственной ответственности за жизнь, за работу и других людей. Он полностью снимается, когда говорят: «вас уволил математический набор цифр».
Сергей Михеев: Это уже стало реальностью и у нас: только не с увольнениями, а с банковскими услугами. Знаю достоверно несколько случаев, когда людям блокировали счета по решению программы, в том числе в наших самых ведущих банках. Человеку в одночасье блокируются все счета и карты, а говорят, что «система приняла такое решение»; по какой причине – никто не знает, и у людей уходит очень много времени и усилий, чтобы разблокировать, а иногда им просто не на что жить. Условно говоря, человеку по карте нужно что-то купить или доехать до дома на электричке или на автобусе, а ему карту заблокировали – и всё. Ему приходит смс: «Вам заблокировали – было подозрение на мошеннические действия». Возможно, это действительно из лучших побуждений, но в итоге, чтобы в этом разобраться, уходят дни, а у многих людей других денег нет. Когда они приходят и спрашивают, им говорят, что «это заблокировала система», и точно могу сказать, что простые операторы ничего не могут с этим сделать, - они не знают, что это. То есть надо доходить до каких-то начальников, а в некоторых известных мне случаях службы безопасности тоже не в курсе. По каким критериям программа заблокировала счета, знает только программист, писавший её, да и он ничего не может изменить! Потому что действует алгоритм! Всё это реально происходит с нами сейчас. Вывод: программа уже управляет жизнью человека. Это ровно по книге «Откровение» (или «Апокалипсис») из Нового Завета, где сказано, что вам нанесут некий номер, и вы не сможете ни покупать, ни продавать. И это пока маленькие примерчики. Вас могут лишить еды, воды, возможности передвижения и всего остального просто потому, что «так решила программа». Она неживая, и на ваши проблемы ей наплевать: может быть, вы кормите детей или внуков? Но она не знает, что такое дети и внуки, - её это не волнует. Это вопрос о власти.
У меня спрашивают:
-Почему Вы так против ИИ?
-Потому что он искусственный: он не любит, не переживает, у него ничего не болит. Он не знает и не понимает, каково это, если пенсионеру или пенсионерке заблокировали карту; и ему всё равно, на что они завтра будут жить! Если мать-одиночка сегодня кормит своих детей, ему безразлично, если завтра ей их нечем будет кормить! И даже не с кем поговорить, поскольку на звонки отвечает автомат!
-Но ведь так удобно!
-Кому удобно? Тем, кто на этом экономят деньги?
Подобные случаи отталкивают от этого всё больше граждан. Все эти автоответчики вызывают у людей огромное раздражение. Да, те, кто заменили живых работников на автоответчики, сэкономили на этом деньги, но в итоге они получают перспективу потери клиента. Другой вопрос, когда этим начинает заниматься государство: если это государственная услуга, то человеку некуда деваться и он должен с этим иметь дело. А у государства либеральный рынок, так что оно всё время сокращает социальные расходы: надо сокращать работников и на их место внедрять всю эту ерунду. Если это государственная система, то оно порождает социальное напряжение. Это реальность сегодняшней жизни, когда из-за автоответчика невозможно добиться ответа, а кто-то сэкономил средства и отчитался «наверх», как он «внедрил ИИ». А зачем ты его внедрил? Только ради того, чтобы получить деньги и отчитаться перед начальством? Ведь людям от этого стало хуже! Всё говорят: «Он делает только лучше» - ничего подобного! Сколько мошенники ни применяют ИИ, но за ними никак невозможно угнаться, хотя вокруг сплошные талантливые программисты! Думать об этом никому не хочется – всем лень.
Почему это происходит? Потому что мы живые, а он нет. Нам же хотят сказать, что «он неживой, но умнее вас». Даже если он умнее меня, мне всё равно, потому что у меня есть свойства, которых у него никогда не будет. Я живой и настоящий, а он подделка; и даже если ИИ будет мной управлять, он таким и останется!
Полностью подписываюсь под сказанное Вами про автоответчики. Думаю, что многие тоже присоединятся. Приведу в пример обратную ситуацию: уличный фонарь рядом с частным домом не горит несколько дней; звонишь в горсвет, и там отвечает живая женщина и говорит, что проверяет мою заявку; параллельно слышу ещё живые голоса – сердцу приятно; затем она отвечает: «В течение десяти рабочих дней». Понимаешь, что тебя отфутболили, но хотя бы по-человечески! На следующий день выходишь и видишь двух ремонтников, у которых мат на каждом шагу, но зато они залезли и чинят фонарь. У меня сразу возникло большое доверие к этой организации, потому что у них ответил не автоответчик!
Сергей Михеев: Хочется сказать: пусть отвечает автоответчик, только чтобы на следующий день приехал сам ИИ и починил мне фонарь! Но он не приезжает и руками не работает! Он может только пудрить мозги и перекидывать деньги! Я за тот ИИ, который может приехать и починить фонарь! Если у вас такой есть, то давайте его сюда! Если нет, то всё, что вы пока делаете, - это имитация, причём не всегда безвредная.