ИИ станет не только умным, но мудрым?
Казалось бы, зачем машине мудрость? Дело в том, что нынешние ИИ-системы отлично справляются с четко определенными задачами, но пасуют, когда проблема размыта, неоднозначна или требует учета множества точек зрения — то есть в ситуациях, с которыми люди сталкиваются ежедневно. Причина проста: у ИИ нет того набора стратегий, который помогает нам ориентироваться в неопределенности.
Международная группа ученых впервые предложила конкретные способы интегрировать мудрость в ИИ, чтобы сделать его более надежным, прозрачным и безопасным.
«Мудрость — это не просто знания или интеллект. Это набор ментальных навыков, необходимых для решения жизненных задач: принятия трудных решений, ориентации в непредсказуемых социальных ситуациях», — поясняет один из руководителей исследования, профессор психологии Университета Ватерлоо Сэм Джонсон.
Ключевая идея ученых — научить ИИ метакогниции, то есть способности «думать о собственном мышлении». На практике это означает, что система должна уметь распознавать границы своих знаний, адаптироваться к контексту, учитывать разные точки зрения и сохранять гибкость в оценке того, как может развиваться ситуация. Специалисты предлагают конкретные пути: от специальных методов обучения больших языковых моделей до новых архитектур и тестов для измерения «мудрости» ИИ.
Мудрость долгое время считалась сугубо человеческим понятием, однако без нее мы не можем доверять ИИ важные решения.
«Мудрость долгое время казалась нам слишком философским, слишком человеческим понятием, чтобы формализовать ее для машин, — говорит профессор психологии Университета Ватерлоо Игорь Гроссман. — Но если разложить ее на конкретные стратегии — интеллектуальную скромность, поиск альтернативных точек зрения, адаптацию к контексту, — можно создать реальную дорожную карту для ИИ, который в результате будет не просто вычисляет, а рассуждает мудро».
По мнению авторов, «мудрый» ИИ сможет лучше справляться с незнакомыми задачами, эффективнее сотрудничать с людьми, быть понятнее для пользователей и безопаснее за счет более точного согласования своих целей с человеческими. Вопрос актуален как никогда: возможности ИИ стремительно растут, а вот мудрость за ними не поспевает, и это порождает серьезные риски.
«Если бы самый умный человек в мире был малышом, мы все равно не доверили бы ему ядерные коды, — образно замечает Джонсон. — ИИ все больше напоминает ребенка-гения, которому по-прежнему нужна здоровая доза мудрости от людей, которые его создали».