Эволюция нормативной базы в области ИИ. Зарубежный опыт и состояние вопроса в России

За последнее десятилетие технология искусственного интеллекта (ИИ) стремительно трансформировалась из теоретической концепции в практический инструмент, который уже преобразует глобальный экономический ландшафт, оказывая значительное влияние на различные секторы, включая производство, маркетинг, создание рабочих мест и повседневный образ жизни. И с каждым годом внедрение ИИ только наращивает темп.

Немаловажным вопросом остается нормативное регулирование систем ИИ, который охватывает ряд важнейших аспектов, включая конфиденциальность и защиту данных, безопасность систем ИИ, прозрачность алгоритмов и ответственность систем ИИ и их создателей.

Нормативная база в области искусственного интеллекта за рубежом прошла сложный путь от общих принципов к конкретным законам. Разные страны и регионы выбрали различные подходы к регулированию, но общей чертой стало стремление балансировать между стимулированием инноваций и снижением потенциальных рисков.

На сегодняшний день самыми актуальными являются несколько инициатив:

Закон Европейского Союза об искусственном интеллекте (EU AI Act, AIA).

Несмотря на то, что ещё в апреле 2021 года был официально предложен проект AIA, который должен был стать первой в мире попыткой законодательно закрепить ряд правил в области ИИ, сам закон был окончательно одобрен в марте 2024 года и вступил в силу в августе того же года.

Закон направлен на содействие развитию надёжного ИИ, обеспечивая при этом защиту основных прав и общественной безопасности. Он ввел риск-ориентированный подход, который классифицирует системы ИИ по четырём уровням риска:

1. Системы ИИ с неприемлемым уровнем риска полностью запрещены за исключением случаев, предусмотренных для использования правоохранительными органами. К ним относятся приложения ИИ, которые манипулируют пользователями, используя подсознательные методы, а также используют уязвимости или обеспечивают массовое биометрическое отслеживание пользователей. Законодательство запрещает такие практики, как удалённая биометрическая идентификация в режиме реального времени в общественных местах и распознавание эмоций в школах и на рабочих местах.

2. Системы ИИ с высоким уровнем риска, используемые в критически важных областях инфраструктуры, образования, сфере занятости и правоохранительных органах, подлежат строгому соблюдению нормативных требований. Поставщики услуг должны проводить оценку рисков, обеспечивать высокое качество наборов данных, вести подробную документацию и осуществлять контроль со стороны человека. Эти системы также должны соответствовать стандартам надежности, точности и кибербезопасности.

3. Системы ИИ с ограниченным риском имеют обязательства по обеспечению прозрачности. Пользователи должны быть проинформированы при взаимодействии с системами ИИ, такими как чат-боты, или при использовании контента, созданным ИИ, особенно с дипфейками или медиафайлами, предназначенными для информирования общественности.

4. ИИ с минимальным или нулевым риском, к которому относится большинство потребительских приложений, таких как спам-фильтры или видеоигры, не подлежит регулированию в соответствии с законом.

Закон также вводит правила для универсальных моделей ИИ общего назначения (General-Purpose AI, GPAI), особенно тех, которые могут представлять системные риски. Поставщики таких моделей обязаны внедрять меры по снижению рисков и соблюдать стандарты прозрачности и авторского права. Эти правила вступили в силу в августе 2025 года и подкреплены «Кодексом практики».

Важно отметить, что Кодекс является добровольным инструментом и не предназначен для наложения новых обязательств или расширения существующих требований.

AIA объемный и сложный документ и его требования обширны, поэтому он будет внедряться в несколько этапов, в течение трех лет со дня его вступления в силу.

Несоблюдение правил повлечёт за собой штрафы:

- до 35 млн евро или 7% глобального годового оборота (что больше) за использование запрещенных систем ИИ;

- до 15 млн евро или 3% оборота за нарушение требований к высокорисковым системам;

- до 7,5 млн евро или 1,5% оборота за предоставление некорректной информации регулятору.

Однако AIA не единственная нормативная инициатива в ЕС, ориентированная на ИИ. Нормативный пакет ИИ также включает пересмотренную «Директиву об ответственности за качество продукции» (Директива 2024/2853), которая позволяет предъявлять гражданско-правовые требования о компенсации производителям за вред, причиненный дефектными продуктами, встроенными в системы ИИ.

В ЕС уже есть два закона, «Закон о цифровых рынках» (Digital Markets Act, DMA) и «Закон о цифровых услугах» (Digital Services Act, DSA), которые требуют, чтобы алгоритмы рекомендаций с определенных платформ проходили оценку рисков и аудит третьей стороной.

В настоящее время в США нет всеобъемлющего федерального законодательства или нормативных актов, регулирующих разработку ИИ, либо конкретно запрещающих и ограничивающих его использование.

Однако правительство США активно поддерживает развитие ИИ, реализуя политику, стимулирующую исследования и разработки посредством различных инициатив. Так, в октябре 2023 года был подписан Указ №14110 «О безопасном, надежном и заслуживающем доверия ИИ» (Executive Order on Safe, Secure, and Trustworthy Artificial intelligence). Как и европейский закон, американский документ требовал от создателей систем ИИ прозрачности процессов и обязывал предоставлять данные о результатах тестирования безопасности и другой критически важной информации до того, как разработка выйдет на рынок.

Кроме того, с целью повышения безопасности использования технологий на базе ИИ, Национальным институтом стандартов и технологий (NIST) разрабатываются стандарты, которым должны соответствовать эти системы. Также предполагалось введение обязательной маркировки контента, созданного при помощи ИИ, во избежание распространения дезинформации.

Особое внимание в указе уделялось повышению безопасности персональных данных и усилению международного сотрудничества в области ИИ.

Несмотря на это, в январе 2025 года президентом Дональдом Трампом был подписан новый Указ № 14179 «Об устранении препятствий для американского лидерства в области искусственного интеллекта» (Removing Barriers To American Leadership In Artificial Intelligence), который отменил предыдущий Указ № 14110.

В рамках реализации целей обозначенных в новом документе, в июле 2025 года был разработан План действий США в области искусственного интеллекта, в котором определены более 90 мер федеральной политики, направленных на обеспечение устранения препятствий для инноваций и лидерства США в области ИИ. Хотя План предусматривает различные предлагаемые стимулирующие проекты для бизнеса, практическое внедрение на уровне штатов с уже существующей или формирующейся нормативно-правовой базой в области ИИ остается неопределенным.

План действий направлен на дерегулирование и поддержку инноваций. Административно-бюджетному управлению США рекомендовано совместно с федеральными агентствами оценивать нормативно-правовую базу штатов в области ИИ при принятии решений о федеральном финансировании, гарантируя, что ресурсы не будут предоставлены штатам с ограничительной правовой базой.

Также в Плане подчеркивается ключевая цель – это укрепление инфраструктуры ИИ США для геополитического лидерства и одновременной защиты от угроз со стороны иностранных недружественных государств. Центральное место в этой стратегии занимает экспорт полного спектра технологий ИИ, включая аппаратное и программное обеспечение, модели, приложения, в дружественные страны. С одной стороны это создаст возможности для американских компаний по выходу на новые рынки, но с другой – компаниям может потребоваться пересмотреть свои цепочки поставок, структуры партнерских отношений и программы обеспечения соответствия, чтобы избежать непреднамеренного предоставления противникам или недружественным организациям, вызывающим обеспокоенность, доступа к контролируемым технологиям ИИ.

Ещё одним важным аспектом Плана действий в области ИИ является обновление руководящих принципов федеральных закупок, гарантирующее, что только «беспристрастные» большие языковые модели (т.е. свободные от «идеологических догм» и других «партийных или идеологических суждений») будут иметь право на государственное использование.

Примечательно, что Указ не вводит прямых нормативных обязательств для разработчиков ИИ из частного сектора. Вместо этого он фокусируется на создании более благоприятной среды для инноваций, особенно в таких секторах, как оборона, экономика и национальная безопасность. Хотя указ 14179 не является традиционным регулированием в смысле установления технических требований, он существенно меняет федеральный ландшафт управления ИИ, устраняя ограничения и отдавая приоритет глобальному лидерству США.

Китай был одной из первых стран, разработавших национальную стратегию в области ИИ, опубликовав в июле 2017 года План развития искусственного интеллекта нового поколения. Этот План поставил амбициозные цели по развитию ИИ, рассчитанные до 2030 года. За прошедшие годы Китай ввел отраслевые правила в области ИИ, включая «Временные меры по управлению генеративными системами искусственного интеллекта», принятые летом 2023 года. Согласно документу, разработчики генеративного ИИ несут ответственность за весь производимый контент. Помимо предписаний улучшать его точность и надежность, повышать прозрачность услуг, разработчики обязаны не создавать контент, подрывающий социалистические ценности или подстрекающий к свержению государственного строя, защищать персональные данные пользователей и соблюдать права на интеллектуальную собственность и частную жизнь. Правила устанавливают необходимость предотвращать дискриминацию по какому-либо признаку и чрезмерную зависимость несовершеннолетних от использования генеративного ИИ. Разработчики обязаны разъяснять, как именно применяется контент, предлагать понятный механизм подачи и обработки жалоб, а также поддержания обратной связи. Правила поощряют сотрудничество в сфере ИИ между предприятиями, университетами, научно-исследовательскими институтами и государственными учреждениями, а также участие представителей КНР в разработке международных правил, связанных с генеративным ИИ. Сотрудничество с другими странами должно строиться на равноправной и взаимовыгодной основе.

В мае 2024 года представители научного сообщества КНР предложили проект «Закона об искусственном интеллекте», который, если будет принят, наложит правовые требования на разработчиков и распространителей ИИ, особенно на тех, кто работает над высокорискованными или критически важными системами на основе ИИ.

Проект содержит важные положения, касающиеся авторского права. Он устанавливает, что в зависимости от степени участия пользователя в создании окончательной версии контента, созданный с помощью ИИ продукт, может быть объектом авторского права или патентных прав.

Другие важные положения связаны с безопасностью пользователей. Проект определяет систему оценки рисков, которая должна быть проведена перед предоставлением пользователям доступа к технологиям искусственного интеллекта, и меры по обеспечению безопасности технологий искусственного интеллекта.

Хотя Китай активно внедряет инновации в области ИИ, правительство по-прежнему активно контролирует их разработку и внедрение, придерживаясь двойного подхода, позволяя компаниям и исследовательским лабораториям расширять границы развития ИИ, сохраняя при этом строгий надзор за государственными услугами в этой области.

В сентябре 2024 года Национальный технический комитет Китая № 260 по кибербезопасности опубликовал «Рамочную программу управления безопасностью ИИ», согласованную с Глобальной инициативой по управлению ИИ. Эта программа представила руководящие принципы этичной и безопасной разработки технологий ИИ. В то же время Администрация киберпространства Китая (CAC) начала внедрять более строгие правила в отношении контента, создаваемого ИИ, включая обязательную систему водяных знаков для борьбы с дезинформацией и повышения доверия общественности к цифровым медиа. Эти меры включают в себя аудиокоды Морзе, зашифрованные метаданные и системы маркировки на основе виртуальной реальности, предназначенные для чёткого отличия контента, создаваемого ИИ, от подлинного материала.

Помимо этого, межправительственная Организация экономического сотрудничества и развития (Organization for Economic Cooperation and Development, OECD) в настоящее время разрабатывает рамочную программу, которая послужит глобальным стандартом для обеспечения международной согласованности и равных условий в области ИИ. Компании будут вынуждены внедрять международные стандарты, чтобы сделать свои системы ИИ надежными и конкурентоспособными.

В России пока еще не принят единый закон об искусственном интеллекте, однако формирование нормативной базы ведется комплексно по нескольким направлениям.

На сегодняшний день правовую основу составляют:

- Национальная стратегия развития искусственного интеллекта до 2030 года, которую определяет Указ Президента РФ №490, предусматривающий ускоренное внедрение ИИ, развитие инфраструктуры и обучение кадров, а также обеспечение технологической независимости страны.

- Федеральный закон № 152-ФЗ «О персональных данных», который остается краеугольным камнем для любых ИИ-проектов, работающих с данными, особенно в части их локализации.

- Федеральный закон № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых и технологических инноваций в Российской Федерации», создающий «регуляторные песочницы» для тестирования инноваций в таких сферах, как беспилотный транспорт и телемедицина.

- Федеральный закон №187-ФЗ «О безопасности критической информационной инфраструктуры Российской Федерации», регулирующий отношения в области обеспечения безопасности критической информационной инфраструктуры.

- Приказ ФСТЭК №177, который вступит в силу с марта 2026 года. Он впервые вводит понятие защиты информации при использовании искусственного интеллекта для госсектора. В документе помимо классических информационных систем явно выделены ИИ-системы. В приказе разделяют ИИ в формате строго заданных шаблонов запросов и ИИ свободной текстовой формы и разделяют требования к разным классам систем.

По состоянию на август 2025 года Минцифры России разработала «Концепцию регулирования искусственного интеллекта до 2030 года». Документ не содержит конкретных законопроектов, но включает в себя принципы, на которых будут строиться будущие правила.

Согласно концепции, подготовленной Минцифры, российский подход основывается на стимулировании развития технологий, включая налоговые льготы, гранты и упрощённый доступ к данным. Регулирование будет риск-ориентированным: требования станут пропорциональны потенциальному ущербу. Одновременно будет обеспечиваться защита прав граждан, в частности, запрет на цифровые рейтинги и право на объяснение решений ИИ. Особое внимание уделяется отраслевой адаптации: медицина, финансы и промышленность получат специализированные правила. Ключевым элементом станет использование синтетических и обезличенных данных для обучения моделей без нарушения конфиденциальности.

Некоторые положения концепции:

- Человекоориентированный подход. Регулирование должно выстраиваться на основе доверенности технологий, уважения к автономии и свободы воли человека, запрета на причинение вреда человеку и очеловечивания технологий.

- Принцип технологического суверенитета.

- Согласованность действий власти и участников рынка. Концепция предусматривает согласованность действий, направленных на безопасное развитие ИИ.

- Учёт всех аспектов использования ИИ. Концепция предполагает разработку комплексного регулирования, которое будет учитывать этические, правовые и социальные нормы, а также приоритетные отрасли экономики.

Документ разработан совместно с Альянсом в сфере ИИ (объединяет ведущие технологические, промышленные и финансовые компании страны) и основан на опыте крупнейших игроков рынка – прежде всего разработчиков ИИ. Сейчас концепция вынесена на общественное обсуждение, после которого отправится на согласование в профильные министерства и ведомства.