ИИ – великий и ужасный
Почему руководители крупных компаний призывают приостановить разработку нейросетей?
Нейросеть набирает огромную популярность. В начале февраля 2023 года ChatGPT стал самым быстрорастущим сервисом в истории. На тот момент им воспользовались около 100 млн активных ежемесячных пользователей. И это всего лишь за два месяца работы платформы. В январе этого года число уникальных пользователей достигло 13 млн, это в 2 раза больше, чем в декабре. TikTok понадобилось 9 месяцев, чтобы достигнуть аналогичных цифр. Между тем среди руководителей крупных компаний серьёзно задумались о возможных рисках развития ИИ.
Открытое письмо о приостановке работы над ИИ
В конце марта некоммерческая организация Future of Life опубликовала открытое письмо, в котором глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, американский предприниматель Эндрю Янг и ещё около тысячи в сфере технологий призвали «немедленно приостановить» разработку искусственного интеллекта до тех пора, пока не будут созданы и проверены общие протоколы безопасности. Подписавшие утверждает, что новые мощные системы искусственного интеллекта следует разрабатывать только в случае уверенности, что их эффекты будут положительными, а риски – управляемыми.
Письмо призывает все лаборатории искусственного интеллекта приостановить разработку систем искусственного интеллекта более мощных, чем новая языковая модель GPT-4 от OpenAI хотя бы на полгода. Нейросеть GPT-4 умеет создавать тексты, изображения, музыка и даже видео. Её основное преимущество – способность к самообучению.
Сэм Альтман, исполнительный директор OpenAI, не подписал письмо. Однако компания OpenAI недавно заявила, что, прежде чем приступать к обучению будущих систем, следует согласиться ограничить скорость вычислений, используемых для создания новых моделей.
Рассуждения Билла Гейтса об ИИ
Не остался в стороне и основатель Microsoft Билл Гейтс. Он опубликовал в своем блоге эссе, которым провозгласил начало эпохи искусственного интеллекта и сравнил революционность распространение нейросетей с возникновением мобильных телефонов и интернета.
Гейтс предположил, что развитие ИИ положительно скажется на здравоохранении. Они помогут в разработке новых лекарств, анализе медицинских данных и избавят врачей от бумажной работы. Основатель Microsoft считает, что искусственный интеллект повлияет на обучение и повысит производительность, так как будет решать множество рутинный задач.
Но предприниматель не забывает и о рисках, ведь могут быть абсолютно разные цели и задачи использования искусственного интеллекта, в том числе и вредоносные. Билл Гейтс обратил внимание и на технические проблемы: ИИ-программы справляются со сложными задачами, но порой допускают ошибки в простых математических расчётах или могут порекомендовать остановиться в несуществующем отеле. Вероятность выхода нейросети из-под контроля по мнения Гейтса мала, так как ИИ не умеет ставить собственные задачи. Тем не менее он уверен: будущее за искусственный интеллектом:
«Сверхразумный ИИ – это наше будущее. По сравнению с компьютером наш мозг работает со скоростью улитки», – отметил Гейтс.
Есть ли повод ограничить ИИ?
Только ленивый не провёл эксперимент с нейросетью, которая рисует всё, что угодно, во всех стилях и вариациях. ИИ может с лёгкостью перенести героев «Гарри Поттера» в Россию 1990-х или показать, что стало бы с героями «Во все тяжкие», если бы сериал был аниме.
И ещё в начале 2023 года встречалось мнение, что нейросеть Midjourney далека до совершенства, особенно в рисовании человеческих рук. Но прошло пару месяцев, разработчики обновили её, и она стала знатоком анатомии. Изображение человека, созданное нейросетью, сложно отличить от обычно фотографии.
В начале марта Midjourney объявила о новшествах, а уже в конце этого месяца отключила бесплатную версию из-за слишком большого числа дипфейков. Теперь минимальная стоимость ежемесячной подписки составит $10.
Такое решение приняли после того, как в интернете завирусилось изображение Папы Римского Франциска в модной дутой куртке. Сначала пользователи социальных сетей шутили о новом образе понтифика, обменивались мемами, а когда узнали, что всё это шутка нейросети, серьёзно задумались о прогрессе искусственного интеллекта.
Другим резонансным событием стало создание той же нейросетью Midjourney десятка свидетельств несуществующих землетрясений, которые якобы произошли в 2001 году. Фотографии и подробности инцидента сгенерировали пользователей англоязычного форума Reddit, которым стало интересно, сможет ли ИИ создать достоверные фото фейкового события в стиле документальной хроники. Удалось ли ему это, судите сами.
Многие исследователи уже говорят о необходимости разработать особую этику для использования ИИ. Нейросети – полезный инструмент, но не стоит им полностью доверять. Они берут данные у людей, которые часто ошибаются.
К любой информации стоит относится критически, перепроверять полученные данные, анализировать их и смотреть на источники информации.