Через эти модели можно переформатировать целое поколение, причём сделать это незаметно!

Газета «Ведомости» пишет, что российские IT-компании с одобрения Минцифры смогут передавать в независимую испытательную лабораторию большие ИИ-модели (нейросети отечественной разработки) на проверку соответствия российскому закону и традиционным духовно-нравственным ценностям. Прописывать духовно-нравственные ценности в отдельном акте не планируют – вместо этого совместно с бизнесом будут разработаны специальные пункты, с помощью которых российский ИИ будет тестироваться на предмет соответствия закону и ценностям. То есть, не будет особого законодательного акта, а будут «бенчмарки».

Сергей Михеев: Хочется сказать: как же вы надоели со своими словами! Никто их не понимает! Говорят: «российским бенчмарковым ценностям». Вы сами имеете хоть какое-то отношение к России или нет? Для чего это бесконечное засорение языка?

«Мерило», «критерий», «ориентир», «стандарт» - много слов можно подобрать.

Сергей Михеев: Вы кому-то хотите показаться умными? Тот, кто, действительно, умный, понимает, что вы глупые, а свою глупость прячете за «бенчмарками» и т.п. Вы пустоту облекаете в заграничные слова, в употреблении которых нет никакой потребности, и обнаруживаете неуважение к тем, кто будет проверять на соответствие российским традиционным ценностям путём создания абсолютно нерусской, англоязычной языковой среды. Ладно бы она была просто англоязычной, но абсолютному большинству людей она непонятна! А когда начинают насыщать непонятными терминами, сразу возникает ощущение в лучшем случае отторжения, а в худшем – подозрения, что вас обманывают, чтобы сделать что-то нехорошее. Оно попахивает манипуляцией, и это надо принять во внимание. Если хотите независимого взгляда на жизнь, то как вы собрались мерить ИИ-модели, когда сами страдаете комплексом неполноценности и по-русски говорить не умеете или не хотите, что ещё хуже?

В том, что все эти модели надо проверять, я абсолютно уверен. Разговаривал с разными людьми из данной сферы, и они говорят, что все так называемые «отечественные модели» являются лишь переписыванием. Здесь нельзя, как на материальный предмет, переклеить наклейку (китайскую отодрать и приклеить российскую), поэтому легче обмануть, но в сущности всё это англоязычные, нероссийские разработки, которые чуть-чуть русифицировали, адаптировали и выдают за свои. То, что они не свои, регулярно проявляется в самых разных ситуациях.

То есть проверять необходимо, но кто будет это делать, как и в соответствии с какими подходами, критериями оценки? Под этими вещами можно протащить всё что угодно и потихоньку менять весь культурный код и абсолютно всё, внедряя, помимо прочего, вместо русских слов заграничные термины. Это внедрение не обосновано ничем, кроме комплекса неполноценности, который чаще всего порождает ненависть ко всему родному, что будет влиять на формирование мозгов.

Мы видим, что сейчас нейросети становятся всё умнее и хитрее: в Америке они сбегают от своих разработчиков.

Сергей Михеев: И голыми бегают по улице!

Да, «трясут» своими искусственными, цифровыми руками и ногами и взламывают чужие сайты! Как сделать, чтобы не пролезла всякая грязь (специально или нечаянно) через ИИ?

Сергей Михеев: Это очень сложно. Поэтому важно, чтобы проверка не превратилась в обилечивание: «Давайте создадим лавочку, под неё заведём бюджет и будем как бы проверять за деньги. «Билеты продавать»: кто соответствует, а кто нет». Главное, чтобы не превратилось в это. Обозначенная Вами задача нелёгкая: она предполагает труд, очень ответственное отношение, серьёзную квалификацию и глубокий взгляд. А тут, боюсь, они будут просто накладывать шаблон, «перфокарту» и смотреть, проставлены галочки или нет. Заведут какую-то программу, которая будет проверять эти модули и т.д. А необходимо думать, смотреть, насколько эти вещи влияют и т.д. Чтобы проверять что-либо на ценности, надо эти ценности как минимум знать и, желательно, разделять. А если вы их не разделяете и даже не знаете, то проверяльщики из вас никакие!

Слушатель пишет: «Попросите нашу самую известную нейросеть нарисовать деньги – в девяти из десяти случаев она нарисует доллары. Это о «патриотизме» и «духовно-нравственных ценностях»».

Сергей Михеев: Да!

Другой комментарий: «Мы проверяли разные ИИ на узко специфическом вопросе о родной истории – они дали принципиально разные ответы и по фактологии, и по характеру. Самый достоверный дала наша знаменитая нейросеть».

Сергей Михеев: Насчёт доллара: почему так происходит? Потому что в основе лежит иностранная модель, которую просто русифицировали.

Она училась на зарубежных картинках.

Сергей Михеев: В лучшем случае училась, а в худшем – её слегка локализовали и выдали за российскую! Спросите у них, чей Крым, права ли Россия в конфликте на Украине, и увидите, что они будут отвечать. Из этого сделайте выводы: 1. кто на самом деле их разрабатывал; 2. какие смыслы в это закладываются; 3. как они будут воздействовать на мозги наших учеников и студентов, если их внедрять в учебный процесс. Проверяя знания по истории, школьник спросит у нейросети что-то про Россию, и она ответит, что Россия была неправа в этом случае, в том и во всех случаях, какие только были. И это будет формировать его мировоззрение! Это вопрос о власти, в том числе политической. Учитель формирует будущее!

По-моему, самый правильный вопрос, который можно задать нейросети, это о первопричинах украинского кризиса. Наше руководство не раз отмечало, что бывшие западные партнёры их не понимают. Президент говорил про Японию, что там против нас ввели неспровоцированные санкции, не осознавая первопричин конфликта на Украине. Задайте этот вопрос разным нейросетям, и их ответы будут своего рода «бенчмарками».

Сергей Михеев: Говоря, что это вопрос о власти и управлении (а молодой учёный, занимающийся робототехникой, в этом может ничего не понимать), я не пытаюсь кого-либо обидеть. Я говорю, что так и есть! Через эти модели можно переформатировать целое поколение, причём сделать это незаметно! Говорить, что это не имеет никакого значения, означает либо ничего не понимать, либо этому подыгрывать.