Когда голос перестаёт принадлежать человеку: что произошло на встрече в Общественной палате РФ
Это подробный обзор для тех, кто не готов или не имеет возможности посмотреть все три с половиной часа видео:
Мы постарались собрать в одном материале главное: зачем собрались участники, какие проблемы поднимались, какие предложения звучали, где мнения совпадали, а где возникали принципиальные разногласия.
Отдельно — о выступлениях представителей Союза дикторов и о том, почему для нас эта встреча может оказаться важным этапом в продолжении борьбы за защиту человеческого голоса и творчества.
Тема, которую Союз дикторов начал поднимать ещё в 2019 году, сегодня обсуждают уже писатели, музыканты, актёры, режиссёры, аниматоры, программисты, юристы и представители крупнейших профессиональных объединений.
31 августа в Общественной палате Российской Федерации состоялась встреча на тему «Защита человеческого творчества в условиях развития технологий искусственного интеллекта как фундамент сохранения идентичности».
Для Союза дикторов это была не просто ещё одна дискуссия об искусственном интеллекте.
Союз был представлен сразу тремя участниками: юристом Союза Тамарой Богдановой, а также членами Союза — Алевтиной Леонтьевой и Алёной Андроновой.
И, пожалуй, именно это стало для нас одним из главных итогов встречи.
Потому что ещё недавно казалось, что мы практически проиграли.
Мы одними из первых начали говорить о проблеме синтеза и использования человеческого голоса. Мы готовили предложения, участвовали в обсуждениях, разрабатывали законодательные инициативы. Наш вариант законопроекта был внесён в Государственную Думу.
Но затем был принят другой подход к регулированию ИИ — подход, который не учитывал целый ряд принципиальных требований творческих сообществ.
Казалось: всё уже решено.
Но 31 августа стало понятно другое.
Разговор только начинается.
И теперь в нём уже не один Союз дикторов.
«Годы борьбы естественного интеллекта с искусственным»
С первых минут встречи стало понятно: речь идёт уже не о далёком будущем.
Один из участников сформулировал происходящее довольно жёстко:
«Будут годы борьбы естественного интеллекта с искусственным интеллектом».
Но важно: практически никто из выступавших не призывал просто запретить ИИ.
Это, пожалуй, главный вывод всей трёх с половиной часовой дискуссии.
Вопрос уже не в том, нужен ли нам искусственный интеллект.
Он уже здесь.
ИИ пишет тексты, создаёт музыку, изображения, видео, программный код, имитирует голоса и внешность людей.
Вопрос в другом:
по каким правилам человек и технология будут существовать дальше?
Как было сказано на встрече:
«Мы не можем ставить инструмент для человека выше прав и защиты самого человека».
Именно вокруг этого и строилась вся дискуссия.
Почему вообще собрались?
Поводом стало стремительное развитие генеративного искусственного интеллекта и новое законодательное регулирование.
Главная тревога представителей творческих индустрий заключается в следующем:
ИИ обучается на огромном массиве созданного людьми контента, а затем начинает создавать продукты, которые конкурируют с самими авторами.
Писатель пишет книгу годами.
Музыкант учится десятилетиями.
Актёр формирует свой голос и манеру исполнения всю жизнь.
Диктор вкладывает годы в постановку речи, технику, тембр, репутацию.
Затем всё это может стать материалом для обучения системы, которая за секунды создаёт тысячи новых произведений.
И главный вопрос:
должен ли тот, чей труд стал основой для обучения, получать разрешение и вознаграждение?
Или его творчество — просто бесплатное сырьё?
Авторы против ИИ?
Нет. И это важно.
В ходе встречи несколько раз подчёркивалось: творческие сообщества не выступают против развития технологий.
Анимационная индустрия, например, напомнила, что уже переживала технологическую революцию.
Когда появились компьютерные технологии, многие процессы изменились. Одни профессии исчезли, другие появились.
Но тогда технологии прежде всего заменяли тяжёлую и рутинную работу.
Сейчас ситуация другая.
Как прозвучало на встрече:
«Все сбои и обострения происходят, когда искусственному интеллекту пытаются передать функцию творца».
Это очень важная мысль.
Никто не предлагает отказаться от технологий.
Проблема возникает тогда, когда технология:
— использует чужой труд без разрешения;
— создаёт конкуренцию человеку на основе его же творчества;
— лишает автора контроля над результатом;
— размывает границу между настоящим человеком и его цифровой имитацией.
Поэтому общая формула, которая несколько раз звучала в разных вариантах, выглядела так:
ИИ должен усиливать творческие возможности человека, а не подменять человека.
Главный конфликт: развитие ИИ или права авторов?
На самом деле многие пытались представить дискуссию именно так:
либо мы защищаем авторов и тормозим технологии, либо разрешаем свободное развитие ИИ.
Но участники встречи предлагали другую постановку вопроса.
Почему вообще развитие искусственного интеллекта должно происходить за счёт тех, чьи произведения используются для его обучения?
Представители книжной индустрии сформулировали это предельно прямо:
«Авторский контент не бывает бесплатным, а авторы не бывают невидимыми».
Сегодня крупная технологическая компания может получить огромную ценность, используя миллионы произведений.
Затем создать коммерческий сервис.
А потом продавать людям подписку.
В том числе — тем самым авторам, на чьём труде этот сервис обучался.
Именно эту ситуацию многие участники называли принципиально несправедливой.
Какие риски назвали самыми серьёзными?
- Экономическое обесценивание творчества
Если человек годами создаёт произведения, а машина за секунды генерирует тысячи похожих результатов, меняется вся экономика творчества.
Представители книжной индустрии предупреждали о риске огромных потерь для контентных индустрий.
Исследование, представленное Институтом статистических исследований и экономики знаний ВШЭ совместно с Федерацией интеллектуальной собственности, оценивало возможные потери доходов традиционных авторов к 2030 году примерно в 1 триллион рублей.
Исследователи подчёркивали: главный эффект ИИ заключается не просто в автоматизации.
Меняется сама логика творческого рынка.
Меняется:
— кто может войти в профессию;
— кто получает доход;
— кто владеет платформой;
— кто контролирует распространение контента;
— кто несёт ответственность.
И это уже не абстрактный разговор о будущем.
- Человек начинает конкурировать с машиной, обученной на его собственном труде
Это, пожалуй, один из самых сильных аргументов против свободного использования произведений для обучения.
Представим простую ситуацию.
Композитор создаёт музыку.
На его музыке обучается система.
Затем система начинает производить тысячи треков в похожем стиле.
Эти треки попадают на рынок.
И конкурируют с самим композитором.
При этом компания, создавшая систему, получает доход.
А человек, на чьём творчестве система училась, — ничего.
Один из участников дискуссии сформулировал проблему так:
авторское право — это не только моральное право автора. Это ещё и экономический механизм, который позволяет существовать человеческому творчеству.
Если этот механизм убрать, может начать разрушаться сама экономика творческих профессий.
- Монополизация
Ещё одна серьёзная опасность.
Крупные компании могут одновременно:
— владеть платформой;
— контролировать распространение контента;
— создавать ИИ-модели;
— обучать их на произведениях;
— продвигать сгенерированный контент через собственные алгоритмы.
В такой системе независимый автор оказывается в крайне слабой позиции.
Он не только конкурирует с машиной.
Он может конкурировать с машиной на площадке, принадлежащей той же компании, которая эту машину создала и контролирует алгоритмы распространения.
- «Загрязнение» самого информационного пространства
Интересная мысль прозвучала и о будущем самих нейросетей.
Если люди перестанут создавать оригинальный контент или начнут ограничивать публикацию своих работ, а интернет будет всё больше заполняться синтетическим материалом, то ИИ начнёт обучаться на контенте, созданном другим ИИ.
Возникает своеобразный замкнутый круг.
Оригиналов становится меньше.
Синтетического контента — больше.
Качество источников может снижаться.
Это уже вопрос не только культуры, но и качества информации в целом.
А что с маркировкой?
Это один из наиболее обсуждаемых вопросов.
Многие участники выступали за то, чтобы синтетический контент был понятным образом маркирован.
Например:
— полностью ли произведение создано ИИ;
— использовался ли ИИ частично;
— является ли голос синтетическим;
— является ли изображение или видео цифровой имитацией человека.
В музыкальной индустрии приводили простой пример.
Если человек записал голос, а затем с помощью ИИ улучшил качество записи — это один уровень использования технологии.
Но если трек полностью создан генеративной системой — это уже другое.
И эти ситуации, по мнению участников, не стоит смешивать.
Однако и здесь всё не так просто.
Маркировка сама по себе не решает проблему авторских прав.
Можно поставить отметку «создано ИИ».
Но если при обучении системы использовались чужие произведения без разрешения — маркировка уже не компенсирует ущерб.
Теперь о самом важном для Союза дикторов
Голос до сих пор оказался в странной правовой зоне
Именно здесь выступления членов Союза дикторов прозвучали особенно сильно.
Потому что разговор о голосе — это не теоретическая проблема.
Для нас она началась не вчера.
Алёна Андронова: «То, о чём мы говорим сегодня, нами было предложено ещё тогда»
Алёна Андронова рассказала историю, которая многим уже известна.
В 2019 году она заключила договор на озвучивание и исполнение с крупным банком.
Позже её голос был использован для создания синтеза и дальнейшего коммерческого использования.
В том числе Алёна обнаружила свой голос там, где никогда не давала согласия на его использование.
Эта история была обнаружена в 2022 году, а в 2023 году началось судебное разбирательство.
И тогда особенно остро проявилась главная проблема:
голос человека законодательно защищён гораздо слабее, чем его изображение.
Алёна напомнила:
«То, о чём мы с вами говорим сегодня, нами было предложено ещё тогда».
И это важнейший момент для истории Союза дикторов.
Мы не присоединились к модной теме, когда она стала очевидной для всех.
Мы говорили об этом тогда, когда многие ещё не понимали масштаб проблемы.
Именно Союз дикторов вместе с Тамарой Богдановой разрабатывал предложения по защите голоса и регулированию использования технологий синтеза.
Часть этих инициатив сегодня уже существует в законодательной работе.
Тамара Богданова: от проблемы — к конкретным правовым решениям
Особое значение имеет работа юриста Союза дикторов Тамары Богдановой.
За последние годы Союз прошёл путь от простой постановки проблемы:
«Наши голоса используют без согласия»
до гораздо более сложного вопроса:
как именно это регулировать юридически?
Что считать использованием голоса?
Как получать согласие?
Как доказывать незаконное использование?
Кто должен контролировать соблюдение правил?
Что делать с уже созданными моделями?
Как быть с материалами, опубликованными много лет назад?
Во время обсуждения прозвучала важная мысль: законодательная инициатива по защите голоса не исчезла и не ушла в архив.
Более того, участники встречи прямо говорили о необходимости связать её с общими рекомендациями по регулированию ИИ.
Для нас это один из самых позитивных сигналов всей встречи.
Потому что после принятия другого варианта регулирования действительно могло показаться, что всё закончено.
Но нет. Работа продолжается.
Алевтина Леонтьева: «Почему я должна отдавать свой голос?»
Выступление Алевтины Леонтьевой было одним из наиболее эмоциональных.
Именно потому, что за юридическими формулировками она показала человеческую сторону проблемы.
Чтобы создать профессиональный голос, человек вкладывает в себя годы.
Учёбу.
Практику.
Десятки и сотни записей.
Работу над речью.
Репутацию.
А затем появляются технологии, которые позволяют взять записи, смешать характеристики нескольких голосов и получить новый.
И возникает вопрос:
«Мы можем взять три разных голоса и на их основе сгенерировать четвёртый. А теперь докажите, пожалуйста».
В этой фразе — вся сложность новой эпохи.
Раньше можно было узнать: вот конкретный голос, вот конкретная запись.
Теперь можно создать гибрид.
Похожий, но не идентичный.
И как человеку доказать, что технология использовала именно его голос?
Алевтина провела очень понятную аналогию:
никто не разрешит просто взять чужой автомобиль и пользоваться им без согласия владельца.
Но почему тогда чей-то голос можно взять, использовать для обучения системы и затем применять коммерчески?
И ещё одна важная мысль.
Союз дикторов много лет работал над тем, чтобы авторские и смежные права в сфере озвучивания вообще начали фиксироваться в договорах.
Эта сфера долгое время существовала почти без нормальной культуры защиты прав.
И теперь возникает опасность, что всё то, что только начали выстраивать, снова окажется под угрозой.
Но проблема голоса — это не только авторское право
И это принципиально.
Голос — это не просто звук.
Это часть человеческой идентичности.
По голосу нас узнают.
Голос связан с профессией.
С репутацией.
С публичным образом.
С личностью человека.
Именно поэтому нельзя сводить проблему только к вопросу:
«Сколько заплатить диктору?»
Речь идёт ещё и о праве человека контролировать использование своей идентичности.
Алёна Андронова предложила важную практическую идею: необходим механизм, который позволял бы человеку обращаться за проверкой использования его творчества или голоса при обучении ИИ.
Потому что сегодня часто возникает абсурдная ситуация:
человек подозревает, что его голос использовали, но даже не понимает, куда обращаться и как это проверить.
И ещё одна тема, которую нельзя игнорировать: безработица
Здесь выступление представителей творческих профессий было особенно тревожным.
Алёна Андронова прямо говорила о том, что многие специалисты уже сталкиваются со снижением доходов.
В том числе в сфере озвучивания.
По её словам, часть коллег либо практически остаётся без работы, либо серьёзно теряет доход, многие меняют профессию, закрываются студии.
И здесь возникает вопрос, который пока почти не обсуждается на государственном уровне:
а что делать людям в переходный период?
Допустим, через несколько лет человеческий творческий труд действительно станет премиальным и дорогим.
Возможно.
Но что делать людям сейчас?
Как им адаптироваться?
Как переучиваться?
Кто будет поддерживать профессии, которые технологии вытесняют быстрее, чем общество успевает к этому подготовиться?
Эта проблема касается уже не только дикторов.
Она касается:
— журналистов;
— актёров;
— музыкантов;
— дизайнеров;
— переводчиков;
— программистов;
— художников;
— специалистов по графике;
— работников киноиндустрии.
Были ли альтернативные мнения?
Да. И это очень важно.
Встреча не была полностью единодушной.
Хотя большинство присутствующих представляло творческие и правовые сообщества, звучали разные оценки степени угрозы.
Например, один из композиторов довольно спокойно смотрел на перспективу развития ИИ.
Его позиция сводилась к тому, что настоящего композитора технология не сможет заставить перестать создавать музыку.
Он не верит, что машина способна заменить глубокий человеческий творческий процесс.
И в этом есть важный контраргумент.
Возможно, ИИ действительно не уничтожит творчество.
Возможно, великий художник продолжит быть художником.
Великий композитор — композитором.
Настоящий актёр — актёром.
Но другие участники справедливо возразили:
проблема не только в том, перестанет ли настоящий творец творить.
Проблема в том, сможет ли он на этом зарабатывать.
Если аудитория не отличает человеческое произведение от синтетического.
Если заказчик может получить результат в сотни раз быстрее и дешевле.
Если алгоритм рекомендует пользователю бесконечный поток машинного контента.
Тогда творец может продолжать творить.
Но рынок вокруг него может исчезнуть.
«Нам не нужно превращаться во фронду против ИИ»
Это ещё одна важная позиция, которая звучала на встрече.
Россия заинтересована в развитии собственных технологий искусственного интеллекта.
И с этим спорить бессмысленно.
Более того, многие участники сами активно используют ИИ.
Поэтому задача — не построить стену между человеком и технологией.
А создать правила.
Честные и понятные.
Один из наиболее конструктивных подходов, обсуждавшихся на встрече, — лицензирование.
Возможны разные модели:
- Прямые договоры
Компания, создающая модель, договаривается с правообладателем напрямую.
- Коллективное лицензирование
Отраслевые организации могут представлять интересы большого числа авторов.
Это особенно важно там, где невозможно заключить миллионы индивидуальных договоров.
- Распределение доходов
Платформы могут создавать механизмы, при которых авторы получают часть дохода от использования их контента.
- Технические метки
Обсуждалась возможность создания машиночитаемых меток внутри самих файлов.
Они могли бы сообщать системе:
— что это за произведение;
— кто правообладатель;
— разрешено ли использовать его для обучения.
Это значительно сложнее, чем просто поставить значок © на обложке.
Но технически такие решения уже обсуждаются.
А что не так с принципом «запретите сами»?
Одна из самых спорных тем.
Новый подход фактически предполагает, что правообладатель должен сам обозначить запрет на использование своего произведения.
И здесь участники увидели серьёзную проблему.
Представим:
человек разместил произведение в интернете десять лет назад.
Тогда никакого генеративного ИИ ещё не существовало в сегодняшнем виде.
Он не мог предусмотреть, что однажды его работа будет использоваться для обучения модели.
Почему теперь отсутствие специального запрета должно автоматически означать согласие?
Особенно сложно это в сфере смежных прав.
Например, актёр снялся в фильме.
Диктор озвучил произведение.
Музыкант исполнил композицию.
Позже этот материал оказался в массиве данных для обучения.
Кто должен был заранее поставить запрет?
И где?
И как система должна понять, кому именно принадлежит конкретный файл, который она нашла в интернете?
Ответов пока нет.
Самый опасный момент: скорость
Возможно, самая эмоциональная мысль, которая звучала во время встречи, была не о технологиях.
Она была о скорости.
Право не успевает за технологиями.
Пока проходит обсуждение.
Пока создаётся рабочая группа.
Пока формулируется закон.
Технология делает следующий шаг.
Алевтина Леонтьева привела даже пример, казалось бы, совсем из другой области — ошибки в ударении в голосовом сервисе ИИ.
Союз дикторов обратил на неё внимание создателя сервиса.
Прошло два года.
Ошибка продолжала жить.
За это время огромное количество людей уже успело привыкнуть к неправильному варианту.
Это маленький, но очень показательный пример.
Если исправлять последствия слишком медленно, они успевают стать нормой.
А в сфере ИИ цена такой медлительности значительно выше.
Что было позитивного?
Несмотря на множество тревожных прогнозов, у этой встречи есть несколько действительно позитивных результатов.
Во-первых, тема больше не принадлежит одной профессии.
Раньше Союз дикторов фактически пытался объяснить:
синтез человеческого голоса — это не просто новая технология, а серьёзная правовая проблема.
Теперь за столом сидят представители:
— книжной индустрии;
— анимации;
— музыки;
— кино;
— интернет-видео;
— программной индустрии;
— юридического сообщества;
— исследовательских организаций.
И многие говорят о том же самом.
Разными словами.
Но о той же проблеме:
технологии не должны развиваться за счёт бесправия человека.
Во-вторых, разговор перешёл от общих страхов к конкретным предложениям.
Обсуждались:
— изменения законодательства;
— лицензирование;
— коллективное управление правами;
— ретровыплаты за уже использованный контент;
— маркировка;
— технические метки;
— отдельная защита голоса;
— контроль за использованием произведений.
Это уже не просто философский разговор.
В-третьих, рекомендации встречи планируется направить в государственные органы.
Прозвучало, что материалы и рекомендации должны быть направлены в Правительство, Государственную Думу и Совет Федерации.
Также обсуждалась возможность включения темы влияния ИИ на культуру и творческие профессии в более широкий ежегодный доклад Общественной палаты.
Но негативных моментов тоже достаточно
Главный из них — многие решения уже приняты быстрее, чем профессиональное сообщество успело их полноценно обсудить.
Именно поэтому в зале звучала достаточно жёсткая критика принятого регулирования.
Некоторые участники прямо предлагали пересматривать отдельные нормы.
Другие говорили о необходимости отмены положений, создающих возможность использовать защищённые произведения для обучения без согласия автора.
При этом единого готового решения пока нет.
И это нужно признать честно.
Есть конфликт интересов.
Технологическим компаниям нужны огромные массивы данных.
Авторам нужна защита.
Государству нужно развитие отечественного ИИ.
Обществу нужны новые технологии.
Но если пытаться решить всё одной короткой нормой закона, последствия могут оказаться гораздо сложнее самой нормы.
Как прозвучало на встрече:
«Простые решения — сложные последствия».
Что будет дальше? Две возможные линии развития
После этой встречи особенно ясно видятся два сценария.
Сценарий первый: «технология сначала, права потом»
ИИ продолжает развиваться практически без ограничений.
Произведения используются для обучения.
Авторы узнают об этом постфактум — если вообще узнают.
Синтетического контента становится всё больше.
Доходы творческих профессий снижаются.
Многие специалисты уходят с рынка.
Через некоторое время общество начинает понимать, что оригинального человеческого контента становится меньше.
И тогда приходится срочно исправлять последствия.
Это путь, на котором регулирование всегда будет догонять технологию.
Сценарий второй: человек и технология становятся партнёрами
ИИ продолжает развиваться.
Но появляется прозрачность.
Понятно, на каких данных обучаются модели.
Правообладатель может разрешить или запретить использование.
Работают механизмы лицензирования.
Есть компенсация.
Есть защита голоса, цифрового образа и других элементов человеческой идентичности.
Синтетический контент маркируется.
Человек может использовать ИИ как мощнейший инструмент.
Но не превращается при этом в бесплатное сырьё для технологических корпораций.
И именно за этот сценарий сегодня выступает всё больше профессиональных сообществ.
И главное — время ещё есть
Сегодня важно понимать ещё одну принципиальную вещь.
Принятый закон носит рамочный характер.
Это значит, что работа над конкретными механизмами регулирования ещё не закончена. Напротив, многие вопросы требуют дальнейшего обсуждения, уточнения и внесения корректировок.
Именно этим в ближайшее время должна заниматься рабочая группа, в которой продолжают участвовать представители различных профессиональных сообществ, включая Союз дикторов.
Для нас это особенно важно.
После того как был принят вариант регулирования, не учитывающий целый ряд наших предложений, действительно могло показаться, что возможности повлиять на ситуацию уже не осталось.
Но сейчас становится понятно: окно возможностей ещё открыто.
Предстоит большая работа над тем, чтобы в рамочном регулировании появились конкретные механизмы, которые действительно защищают человека:
— его голос;
— результаты его творческого труда;
— право решать, может ли его творчество использоваться для обучения ИИ;
— право на справедливое вознаграждение;
— возможность контролировать использование своей цифровой идентичности.
И есть ещё один важный фактор.
Закон вступит в силу только в марте 2027 года.
Это значит, что время для работы ещё есть.
Конечно, его не так много, как хотелось бы. Технологии развиваются значительно быстрее, чем законодательство. И именно поэтому нельзя снова позволить себе ждать, пока проблема окончательно выйдет из-под контроля.
Но сегодня мы можем сказать:
мы постараемся успеть.
В ближайшие месяцы рабочей группе и профессиональным сообществам предстоит серьёзная работа. И Союз дикторов намерен в ней участвовать.
Мы не победили. Но мы и не проиграли
Пожалуй, именно так можно сформулировать итог этой встречи для Союза дикторов.
Да, многое вызывает тревогу.
Голос всё ещё не получил той полноценной защиты, которую требует новая технологическая реальность.
Рынок уже меняется.
Многие дикторы сталкиваются со снижением доходов и сокращением количества работы.
Синтез голоса развивается быстрее, чем механизмы его регулирования.
Но есть и другое.
После нескольких лет борьбы мы видим, что тема, которую Союз дикторов начал поднимать одним из первых ещё в 2019 году, сегодня стала предметом большого общего разговора.
Мы не одни.
Писатели говорят о своих книгах.
Музыканты — о своей музыке.
Актёры — о своих образах.
Аниматоры — о культурном коде.
Представители других творческих профессий — о будущем своего труда.
А мы продолжаем говорить о голосе.
О том, что голос — это не просто набор звуков и не бесплатный материал для обучения нейросетей.
За ним стоит человек.
Его профессия.
Годы обучения.
Его личность.
Его репутация.
Его жизнь.
И после стольких лет работы, после внесения нашего варианта законопроекта в Государственную Думу, после принятия другого варианта регулирования, который не учёл всех наших предложений, действительно могло показаться, что всё потеряно.
Но, похоже, нет.
Тема не закрыта.
Работа продолжается.
Наши предложения по защите голоса остаются частью общего профессионального разговора.
Впереди — участие в рабочей группе, обсуждение конкретных механизмов и корректировок, борьба за то, чтобы рамочный закон не остался набором общих формулировок, а действительно начал защищать человека.
До марта 2027 года ещё есть время.
И Союз дикторов намерен сделать всё возможное, чтобы успеть.
Потому что искусственный интеллект действительно может стать великим инструментом.
Но только в том случае, если человек не забудет вовремя спросить:
а кто и на каких условиях дал этому инструменту свой голос?