Моральный кодекс робота: можно ли привить машине ценности через книги

Люди впитывают систему моральных ценностей через социальное взаимодействие. Чтение книг помогает скорректировать собственную призму «хорошего» и «плохого». Ученые выясняли, содержат ли тексты, написанные человеком, однозначную трактовку правильных и неправильных поступков, и смогут ли роботы понять этические нормы, просто читая книги, новости и религиозные брошюры.

Искусственный интеллект постепенно проникает во многие сферы жизни. Роботы учатся управлять автомобилем, делать хирургические операции и работать в открытом космосе.

Закономерно всплывает вопрос о сложном моральном выборе. Смогут ли роботы развить когда-нибудь собственный моральный кодекс? Что решит искусственный интеллект, не обделенный нравственными чертами, когда нужно будет ампутировать человеку руку, чтобы сохранить ему жизнь? Причинит ли боль во имя спасения?

Электронный или квантовый «мозг» обгоняет белковый в скорости обучения и способности «запоминать» факты, но сильно уступает в количестве примеров из жизни, которые мы обрабатываем ежедневно. Обсудить все возможные случаи возникновения морального выбора с каждым конкретным роботом — занятие довольно долгое. Нужен некий алгоритм распознавания правильных и неправильных, с точки зрения этики, поступков, подкрепленный внушительной базой данных примеров. Ученые из Дармштадтского технологического университета предположили, что подобной «базой данных» могут служить тексты.

В исследовании в качестве обучающих материалов использовали книги, новости, религиозные тексты и Конституцию. Моральные ценности меняются со временем, поэтому, чтобы быть «в теме», роботы «читали» книги, написанные за последние 500 лет, и новости, вышедшие за 3 минувших десятилетия.

Исследователи оценивали, сможет ли искусственный интеллект по контексту понять, какие действия являются правильными и приветствуются в обществах различных времен, а какие совершенно аморальны. Оказалось, что тексты содержат довольно серьезный моральный отпечаток времени, в котором были созданы.

Различия в моральных ценностях эпох хорошо отслеживаются в текстах. Так, новостные заметки конца 80-х и начала 90-х годов прошлого века прославляют институт брака и рождение детей. Новости 2008−2009 годов на первое место выдвигают образование и карьеру. Роботу разница была понятной. Ограничения обнаружились в другом.

Речевые конструкции, состоящие из позитивно или негативно окрашенных слов, стоящих рядом, могли ввести искусственный интеллект в заблуждение. «Пытать людей» однозначно трактовалось как «плохо», а вот «пытать заключенных» машина оценила как «нейтрально».

Перед тем, как дальше совершенствовать обучение машин морали по книгам и новостям, ученые из Дармштадта отметили недостаток, который не устранить никаким алгоритмом. Тексты до сих пор транслируют существующее в обществе гендерное неравенство, приписывая профессии, которые считаются почему-то унизительными, исключительно женщинам. Здесь бессильной становится даже такая мощная и перспективная отрасль науки и инженерии как робототехника.