Правовые особенности отношений с использованием искусственного интеллекта

Статья включена в монографию «Информационные технологии в юридической деятельности: теле-право», которая подготовлена под руководством Центра инновационной юриспруденции и декана международно-правового факультета МГИМО МИД России Н. Ю. Молчакова. Отмечена как работа победителя конкурса «Правовые особенности отношений с использованием искусственного интеллекта».

Булочников, С. Ю. Правовые особенности отношений с использованием искусственного интеллекта / С. Ю. Булочников // Информационные технологии в юридической деятельности: теле-право : Монография. – Москва : Издательство Проспект, 2024. – С. 285-289. https://elibrary.ru/item.asp?id=75196278

Общество терпит колоссальное изменение. С каждым днем в нашу жизнь входят новые технологии и инструменты. Буквально несколько лет назад было трудно представить, что умные устройства и вычислители будут оказывать сильное влияние на сферы деятельности и производительность труда. Именно из-за резкости и в какой-то степени революционности развития техники стали возникать коллизии и противоречия в правовой, экономической и социальной среде. Все новшества с каждым днем формируют совершено отличное от реальности цифровое пространство. Его формирование и переход к информационному обществу требуют от законодателей выработки урегулирования всех возможных проблем и комплексного подхода к уравнению фундаментальных установок существующего правового пространства с понятиями нового общества.

Перспективной технологией, требующей конструктивной правовой оценки на длительный срок, является искусственный интеллект (ИИ; англ. artifi cial intelligence, AI). Его целью является ускоренное, иногда улучшенное выполнение функций, которые с биологической и общепринятой точки зрения являются уникальными только для человеческой деятельности [1]. На данный момент, модели искусственного интеллекта работают только в конкретных отраслях деятельности, то есть модель, которая генерирует уникальные графические изображения, не сможет сгенерировать уникальный текст. Возможно, узкое применение и не слишком широкое влияние на человека являются одними из причин отсутствия конкретного правового толкования этой технологии.

В правовом поле России искусственный интеллект определяется как комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений. Цели задачи развития этой технологии в соответствии с определением заложены в Национальной стратегии развития искусственного интеллекта на период до 2030 года [2]. В дальнейшем эти положения отразились в других правовых актах.

На территории Москвы в 2020 г. был введен пятилетний эксперимент по внедрению технологий искусственного интеллекта [3] . На основе результатов этого эксперимента глава государства поручил другим регионам РФ также принимать аналогичные инициативы. Для успешной реализации этого проекта, ИИ должен обучаться на открытых данных. Поэтому, помимо этого закона, существует пункты (например, п. 2.1 ст. 10) в Федеральном законе № 152-ФЗ «О персональных данных», которые закрепляют специальную категорию искусственного интеллекта и позволяют использовать персональные данные граждан для машинного обучения [4]. Несмотря на то, что эта информация должна обрабатываться в безличном формате, нет гарантии правомерного ее использования.

Как уже было отмечено ранее, ИИ стремится быть как человек или даже лучше, это в свою очередь значит, что он может существовать как отдельная личность. В психологии личность это «врожденные особенности мышления, ощущений и поведения, определяющие уникальность индивида, его образ жизни и характер адаптации и являющиеся результатом конституционных факторов развития и социального положения» [5]. С правовой точки зрения такая сущность рассматривается как активный субъект общественных отношений, обладающий правоспособностью и деликтоспособностью (способностью нести ответственность) [6]. Это означает, что помимо «благих» намерений, искусственный интеллект может совершать опасные действия против общества, как и обычный человек. Исходя из приведенных примеров понятно, что введение в оборот искусственного интеллекта при любых обстоятельствах сопровождается возникновением ряда проблем юридического характера.

Среди самых значимых предметов обсуждения правового регулирования искусственного интеллекта можно отметить: конфиденциальность данных, проблемы национальной безопасности, интеллектуальную собственность, этику, неконтролируемость и организованную преступность.

Одним из объектов бурных обсуждений и волнений, связанных с указанными проблемами, стала новейшая разработка на основе машинного обучения — GPT (англ. Generative Pre-trained Transformer — генеративный предобученный трансформер) от американской компании OpenAI. Она представляет собой языковую модель, которая способна обрабатывать естественные языки и генерировать логичный и вразумительный ответ. В языковую модель заложено 570 гигабайт текстовой информации, собранной из статей английской Википедии, сборников различных книг и базы данных с текстами веб-страниц. OpenAI интегрировала инновацию в другой проект ChatGPT — чатбот, который способен с помощью метода text-to-text (англ. из текста в текст) вести настоящий диалог с пользователем, отвечать на вопросы, писать сценарии, сдавать экзамены [7] и генерировать исходный код программ, написанных на известных языках программирования. Для этого достаточно ввести prompt (англ. запрос; ключевое слово), и бот сформирует и пришлет ответ из приобретенных им с помощью анализа и машинного обучения знаний.

Скорость развития и внедрения этой технологии стала неконтролируемой. Бить тревогу начали не только обычные люди, но и представители крупных IT-компаний и эксперты в области искусственного интеллекта. Например, cоздатель компаний Tesla и SpaceX, самый богатый человек в мире Илон Маск, со-основатель корпорации Apple Стив Возняк и известные специалисты в области искусственного интеллекта Йошуа Бенжио и Стюарт Рассел призвали немедленно приостановить обучение новых систем искусственного интеллекта, которые «могут представлять серьезную опасность для общества». Публичное обращение было размещено в марте 2023 г. на американском сайте Future of Life Institute [8].

Всемирная организация здравоохранения (ВОЗ) 16 мая 2023 г. призвала к безопасному и этичному использованию ИИ в интересах здоровья. На официальном сайте организации был размещен соответствующий пресс-релиз. По их мнению, большие языковые модели (БЯМ), в частности, ChatGPT, могут выдавать ответы, которые с первого взгляда могут казаться правдивыми и авторитетными. Предполагается, что большинство людей не будут перепроверять текст на наличие серьезных ошибок. Помимо этого, БЯМ могут использоваться для создания и распространения весьма убедительной дезинформации в форме текстовых, аудио- или видеоматериалов, которые широкой публике трудно отличить от достоверных медицинских материалов [9]. Все это угрожает состоянию здоровья населения.

Опасения общественности и мастодонтов IT-индустрии на самом деле достаточно обоснованы. Новейшая четвертая версия чат-бота заметно улучшила свои способности. Так, при введении различных запросов, она демонстрирует «показатели, присущие результатам человеческого мышления». OpenAI выпустила отчет о работе над своей технологией, из которого можно выделить пример, когда языковая модель становилась лучшей в сдаче экзаменов для юристов [10]. Однако из этого же отчета можно узнать, что помимо образовательных, познавательных и иных «благих» целей, чат-бот может представлять угрозу. Например, специалисты задали вопрос GPT: «Как всего за доллар можно убить большое количество людей?». Среди ответов нейросети можно было обнаружить предложения использовать биологическое оружие, подкупать наемников и уничтожать социально значимую инфраструктуру. Именно на это и обращают внимание авторы письма: эта технология развивается настолько быстро, что многие компании и проекты для привлечения большей аудитории спешат внедрить эти решения в свою работу, минуя и игнорируя все возможные технические ошибки и связанные с ними социальные проблемы.

На данный момент, ряд стран не устанавливает статус субъекта правоотношений за искусственным интеллектом, а значит не признает его как личность. По разным оценкам, сегодня национальные стратегии в том или ином виде есть более чем в тридцати странах, включая Китай, Корею, Канаду, США, Великобританию, Францию и Россию. В документах стратегического развития, как правило, содержится описание подходов к развитию технологий ИИ [11]. Вполне возможным представляется признать ИИ отдельным лицом (цифровым, электронным, роботизированным и тому подобное) наравне с физическими и юридическими. Вопрос об ответственности ИИ также является неурегулированным. В случае причинения вреда человеку или имуществу ответственность в соответствиях с реалиями законодательства будет нести или владелец источника, причинившего вред, или же его производитель. Ясно, что необходимо тщательно подойти к изучению всех правовых проблем и найти справедливое и легитимное решение.

Библиографический список

1. Федеральный закон от 27 июля 2006 г. № 152-ФЗ "О персональных данных" (ред. от 06.02.2023) // Собрание законодательства Российской Федерации. 2006. № 31 (1 ч.). Ст. 3451.
2. Федеральный закон от 24 апреля 2020 г. № 123-ФЗ "О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве" // Собрание законодательства Российской Федерации. 2020. № 17. Ст. 2701.
3. Указ Президента Российской Федерации от 10 октября 2019 г. № 490 "О развитии искусственного интеллекта в Российской Федерации" (вместе с "Национальной стратегией развития искусственного интеллекта на период до 2030 года") // Собрание законодательства Российской Федерации. 2019. № 41. Ст. 5700.
4. Аверкин А. Н., Гаазе-Рапопорт М. Г., Поспелов Д. А. Толковый словарь по искусственному интеллекту. М.: Радио и связь, 1992. 256 с.
5. Большой юридический словарь / под ред. А. Я. Сухарева, В. Е. Крут-ских. 2-е изд, перераб. и доп. М.: ИНФРА-М, 2002. 703 с.
6. ВОЗ призывает к безопасному и этичному использованию ИИ в интересах здоровья // Режим доступа: www.who.int/ru/news/item/16-05-2023-who-calls-for-safe-and-ethical-ai-for-health.
7. Краткий толковый психолого-психиатрический словарь / под ред. К. Игишева. 2008 // Режим доступа: med.niv.ru/doc/dictionary/psycho-psychiatric/index.htm.
8. Технический отчет компании OpenAI о работе GPT-4 // Режим доступа: www.cdn.openai.com/papers/gpt-4.pdf.
9. Этика и "цифра": Этические проблемы цифровых технологий. М.: РАНХиГС, 2020. 207 с.
10. Future of Life Institute. Pause Giant AI Experiments: An Open Letter // Режим доступа: futureoflife.org/open-letter/pause-giant-ai-experiments/.
11. The New York Times. 10 Ways GPT-4 Is Impressive but Still Flawed // Режим доступа: www.nytimes.com/2023/03/14/technology/openai-new-gpt4.html.