Искусственный интеллект как отдельная личность: перспективы и возможные проблемы с правовой точки зрения

Аннотация. В статье анализируется соотношение личности как субъекта правовых отношений с новыми технологиями искусственного интеллекта (ИИ). Данная тема является актуальной и её важно исследовать, так как с каждым днём появляются инновации, которые могут представлять угрозу для общественной и национальной безопасности. Технологии ИИ создаются с целью заменить человека в различных отраслях производства в перспективе. Можно предположить, что помимо улучшенных мыслительных качеств человека, у искусственного интеллекта могут прослеживаться девиантные качества. Для своевременного устранения различных проблем в правовом и общественном поле, необходимо понять какой правовой статус или режим присвоить искусственному интеллекту и как он будет нести ответственность за свои деяния. В качестве примера в статье рассматриваются прогресс разработки больших языковых моделей (БЯМ), основанных на искусственном интеллекте, и попытки ограничить модели от дезинформации и распространения информации, угрожающей национальной безопасности. Объектом исследования являются общественные отношения, возникающие при введении систем искусственного интеллекта, предметом исследования — возможные подходы к правовому обеспечению использования и развития этих систем. В рамках этого исследования изучаются перспективы технологий ИИ с правой точки зрения, и как результат были сформулированы определения этих технологий с точки зрения права.

Ключевые слова: искусственный интеллект, ИИ, большая языковая модель, БЯМ, личность, цифровое право, чат-бот, цифровое лицо, GPT, ChatGPT.

Булочников, С. Ю. Искусственный интеллект как отдельная личность: перспективы и возможные проблемы с правовой точки зрения / С. Ю. Булочников // Тамбовские правовые чтения имени Ф.Н. Плевако : Материалы VII Международной научно-практической конференции, Тамбов, 19–20 мая 2023 года. – Тамбов: Издательский дом "Державинский", 2023. – С. 588-593. – EDN ODYHSM. https://elibrary.ru/item.asp?id=67343060

Введение

Общество терпит колоссальное изменение. С каждым днём в нашу жизнь входят новые технологии и инструменты. Буквально несколько лет назад было трудно представить, что умные устройства и вычислители будут оказывать сильное влияние на сферы деятельности и производительность труда. Именно из-за резкости и в какой-то степени революционности развития техники стали возникать коллизии и противоречия в правовой, экономической и социальной среде. Все новшества с каждым днём формируют совершено отличное от реальности цифровое пространство. Его формирование и переход к информационному обществу требуют от законодателей выработки урегулирования всех возможных проблем и комплексного подхода к уравнению фундаментальных установок существующего правового пространства с понятиями нового общества.

Перспективной технологией, требующей конструктивной правовой оценки на длительный срок, является искусственный интеллект (ИИ; англ. artificial intelligence, AI). Его целью является ускоренное, иногда улучшенное выполнение функций, которые с биологической и общепринятой точки зрения являются уникальными только для человеческой деятельности [4]. На данный момент, модели искусственного интеллекта работают только в конкретных отраслях деятельности, то есть модель, которая генерирует уникальные графические изображения, не сможет сгенерировать уникальный текст. Возможно, узкое применение и не слишком широкое влияние на человека являются одними из причин отсутствия конкретного правового толкования этой технологии.

Искусственный интеллект в правовом поле России

В правовом поле России искусственный интеллект определяется как комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений. Цели задачи развития этой технологии в соответствии с определением заложены в Национальной стратегии развития искусственного интеллекта на период до 2030 года [3]. В дальнейшем эти положения отразились в других правовых актах.

На территории Москвы в 2020 году был введён пятилетний эксперимент по внедрению технологий искусственного интеллекта [2]. На основе результатов этого эксперимента глава государства поручил другим регионам РФ также принимать аналогичные инициативы. Для успешной реализации этого проекта, ИИ должен обучаться на открытых данных. Поэтому, помимо этого закона, существует пункты (например, п. 2.1 ст. 10) в Федеральном законе №152-ФЗ «О персональных данных‎», которые закрепляют специальную категорию искусственного интеллекта и позволяют использовать персональные данные граждан для машинного обучения [1]. Несмотря на то, что эта информация должна обрабатываться в безличном формате, нет гарантии правомерного её использования.

Возможные проблемы искусственного интеллекта с правовой точки зрения

Как уже было отмечено ранее, ИИ стримится быть как человек или даже лучше, это в свою очередь значит, что он может существовать как отдельная личность. В психологии личность это «‎врожденные особенности мышления, ощущений и поведения, определяющие уникальность индивида, его образ жизни и характер адаптации и являющиеся результатом конституционных факторов развития и социального положения» [6]. С правовой точки зрения такая сущность рассматривается как активный субъект общественных отношений, обладающий правоспособностью и деликтоспособностью (способностью нести ответственность) [5]. Это означает, что помимо «благих‎» намерений, искусственный интеллект может совершать опасные действия против общества, как и обычный человек. Исходя из приведённых примеров понятно, что введение в оборот искусственного интеллекта при любых обстоятельствах сопровождается возникновением ряда проблем юридического характера.

Среди самых значимых предметов обсуждения правового регулирования искусственного интеллекта можно отметить: конфиденциальность данных, проблемы национальной безопасности, интеллектуальную собственность, этику, неконтролируемость и организованную преступность.

Большие языковые модели как угроза национальной безопасности

Одним из объектов бурных обсуждений и волнений, связанных с указанными проблемами, стала новейшая разработка на основе машинного обучения — GPT (англ. Generative Pre-trained Transformer — генеративный предобученный трансформер) от американской компании OpenAI. Она представляет собой языковую модель, которая способна обрабатывать естественные языки и генерировать логичный и вразумительный ответ. В языковую модель заложено 570 гигабайт текстовой информации, собранной из статей английской Википедии, сборников различных книг и базы данных с текстами веб-страниц. OpenAI интегрировала инновацию в другой проект ChatGPT — чат-бот, который способен с помощью метода text-to-text (англ. из текста в текст) вести настоящий диалог с пользователем, отвечать на вопросы, писать сценарии, сдавать экзамены [10] и генерировать исходный код программ, написанных на известных языках программирования. Для этого достаточно ввести prompt (англ. запрос; ключевое слово), и бот сформирует и пришлёт ответ из приобретённых им с помощью анализа и машинного обучения знаний.

Скорость развития и внедрения этой технологии стала неконтролируемой. Бить тревогу начали не только обычные люди, но и представители крупных IT-компаний и эксперты в области искусственного интеллекта. Например, cоздатель компаний Tesla и SpaceX, самый богатый человек в мире Илон Маск, сооснователь корпорации Apple Стив Возняк и известные специалисты в области искусственного интеллекта Йошуа Бенжио и Стюарт Рассел призвали немедленно приостановить обучение новых систем искусственного интеллекта, которые «‎могут представлять серьезную опасность для общества». Публичное обращение было размещено в марте 2023 года на американском сайте Future of Life Institute [11].

Всемирная организация здравоохранения (ВОЗ) 16 мая 2023 года призвала к безопасному и этичному использованию ИИ в интересах здоровья. На официальном сайте организации был размещён соответствующий пресс-релиз. По их мнению, большие языковые модели (БЯМ), в частности, ChatGPT, могут выдавать ответы, которые с первого взгляда могут казаться правдивыми и авторитетными. Предполагается, что большинство людей не будут перепроверять текст на наличие серьёзных ошибок. Помимо этого, БЯМ могут использоваться для создания и распространения весьма убедительной дезинформации в форме текстовых, аудио- или видеоматериалов, которые широкой публике трудно отличить от достоверных медицинских материалов[8]. Всё это угрожает состоянию здоровья населения.

Опасения общественности и мастодонтов IT-индустрии на самом деле достаточно обоснованы. Новейшая четвёртая версия чат-бота заметно улучшила свои способности. Так, при введении различных запросов, она демонстрирует «‎показатели, присущие результатам человеческого мышления». OpenAI выпустила отчёт о работе над своей технологией, из которого можно выделить пример, когда языковая модель становилась лучшей в сдаче экзаменов для юристов [9]. Однако из этого же отчёта можно узнать, что помимо образовательных, познавательных и иных «благих‎» целей, чат-бот может представлять угрозу. Например, специалисты задали вопрос GPT: «Как всего за доллар можно убить большое количество людей?‎». Среди ответов нейросети можно было обнаружить предложения использовать биологическое оружие, подкупать наёмников и уничтожать социально значимую инфраструктуру. Именно на это и обращают внимание авторы письма: эта технология развивается настолько быстро, что многие компании и проекты для привлечения большей аудитории спешат внедрить эти решения в свою работу, минуя и игнорируя все возможные технические ошибки и связанные с ними социальные проблемы.

Заключение

На данный момент, ряд стран не устанавливает статус субъекта правоотношений за искусственным интеллектом, а значит не признаёт его как личность. По разным оценкам, сегодня национальные стратегии в том или ином виде есть более чем в тридцати странах, включая Китай, Корею, Канаду, США, Великобританию, Францию и Россию. В документах стратегического развития, как правило, содержится описание подходов к развитию технологий ИИ [7]. Вполне возможным представляется признать ИИ отдельным лицом (цифровым, электронным, роботизированным и тому подобное) наравне с физическими и юридическими. Вопрос об ответственности ИИ также является неурегулированным. В случае причинения вреда человеку или имуществу ответственность в соответствиях с реалиями законодательства будет нести или владелец источника, причинившего вред, или же его производитель. Ясно, что необходимо тщательно подойти к изучению всех правовых проблем и найти справедливое и легитимное решение.

Библиографический список

1. Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных» (ред. от 06.02.2023) // Собрание законодательства Российской Федерации. 2006. № 31 (часть 1). Ст. 3451.

2. Федеральный закон от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве» // Собрание законодательства Российской Федерации. 2020. № 17. Ст. 2701.

3. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // Собрание законодательства Российской Федерации. 2019. № 41. Ст. 5700.

4. Аверкин А.Н., Гаазе-Рапопорт М.Г., Поспелов Д.А. Толковый словарь по искусственному интеллекту. Москва: Радио и связь, 1992. 256 с.

5. Большой юридический словарь. 2-е изд., перераб. и доп. / под ред. А.Я. Сухарева, В.Е. Крутских. Москва: ИНФРА-М, 2002. 703 с.

6. Краткий толковый психолого-психиатрический словарь / под ред. К. Игишева. 2008.

7. Этика и «цифра»: Этические проблемы цифровых технологий. Москва: РАНХиГС, 2020. 207 с.

8. ВОЗ призывает к безопасному и этичному использованию ИИ в интересах здоровья // Всемирная организация здравоохранения: Сайт — URL: who.int/ru/news/item/16-05-2023-who-calls-for-safe-and-ethical-ai-for-health (дата обращения: 17.05.2023).

9. Технический отчет компании OpenAI о работе GPT‑4 // Сайт — URL: cdn.openai.com/papers/gpt‑4.pdf (дата обращения: 17.05.2023).

10. 10 Ways GPT‑4 Is Impressive but Still Flawed // The New York Times: Сайт — URL: nytimes.com/2023/03/14/technology/openai-new-gpt4.html (дата обращения: 17.05.2023).

11. Pause Giant AI Experiments: An Open Letter // Future of Life Institute: Сайт — URL: futureoflife.org/open-letter/pause-giant-ai-experiments/ (дата обращения: 17.05.2023).