Дайджест за неделю

👾 ЕС смягчил правила регулирования ИИ

Представители стран ЕС и депутаты Европарламента договорились смягчить ряд требований к разработчикам ИИ-систем, особенно в отношении так называемых «моделей общего назначения» – крупных универсальных ИИ-платформ, лежащих в основе современных чат-ботов и генеративных сервисов. Решение стало результатом длительных переговоров между сторонниками жёсткого регулирования и представителями индустрии, опасавшимися, что слишком строгие ограничения могут замедлить развитие европейского рынка ИИ.

Согласно достигнутому компромиссу, наиболее строгие требования будут применяться только к крупнейшим и наиболее мощным ИИ-моделям, способным создавать системные риски. Для остальных разработчиков предусмотрен облегчённый режим регулирования. В частности, компании обязаны будут соблюдать базовые требования прозрачности, раскрывать информацию об используемых данных и обеспечивать определённый уровень безопасности, однако часть первоначально обсуждавшихся обязательств была исключена или ослаблена.

Смягчение правил произошло на фоне усиливающегося давления со стороны технологических компаний и некоторых государств ЕС, которые предупреждали, что чрезмерно жёсткое регулирование может поставить европейский рынок в невыгодное положение по сравнению с США и Китаем. Представители бизнеса утверждали, что слишком высокие требования увеличат затраты на разработку и усложнят вывод новых продуктов на рынок. В результате финальный вариант оказался более ориентированным на поддержку инноваций и конкурентоспособности европейских компаний.

👾 ChatGPT сможет предупреждать близких о риске самоповреждения

OpenAI начала внедрение новой функции безопасности для ChatGPT под названием Trusted Contact, которая позволит пользователям назначать доверенное лицо для экстренных ситуаций, связанных с риском самоповреждения или суицида. Если система обнаружит признаки серьёзного психологического кризиса во время общения с чат-ботом, выбранный контакт может получить уведомление с просьбой проверить состояние пользователя. Нововведение стало частью широкой стратегии компании по усилению мер безопасности вокруг ИИ-сервисов.

Функция работает на добровольной основе. Пользователь может указать одного доверенного человека в настройках аккаунта. После этого выбранному контакту отправляется приглашение, которое необходимо подтвердить в течение недели. При этом OpenAI подчёркивает, что уведомления будут максимально ограниченными: доверенное лицо не увидит переписку, содержание сообщений или детали разговора. В случае выявления потенциально опасной ситуации контакт получит короткое уведомление по электронной почте, SMS или через приложение с рекомендацией связаться с человеком и убедиться, что с ним всё в порядке.

В компании заявили, что система основана на сочетании автоматического анализа и ручной проверки. Если алгоритмы фиксируют разговоры, связанные с возможным самоповреждением, информация передаётся небольшой группе специально обученных сотрудников, которые оценивают серьёзность ситуации. OpenAI утверждает, что стремится обрабатывать подобные сигналы менее чем за час. Только после такой проверки может быть принято решение об отправке уведомления доверенному лицу.

👾 ЮНЕСКО предупредила о глобальном неравенстве в квантовых технологиях

Специалисты ЮНЕСКО предупредили о растущем глобальном неравенстве в сфере квантовых исследований и технологий. Согласно новому докладу организации, основная часть научных разработок, финансирования и инфраструктуры в области квантовых вычислений сосредоточена в небольшом числе государств, тогда как большинство стран мира остаются практически вне этой технологической гонки. Эксперты считают, что подобный дисбаланс может привести к формированию нового «квантового разрыва», который усилит уже существующее цифровое и экономическое неравенство между странами.

В докладе отмечается, что лидирующие позиции в области квантовых технологий сейчас занимают США, Китай и ряд европейских стран, активно инвестирующие в создание квантовых компьютеров, защищённых коммуникаций и специализированных исследовательских центров. При этом государства с низким и средним уровнем дохода сталкиваются с нехваткой финансирования, оборудования и квалифицированных специалистов, что ограничивает их возможности участвовать в развитии отрасли. По оценкам ЮНЕСКО, значительная часть мировых инвестиций и научных публикаций в этой сфере приходится лишь на несколько государств и крупных технологических компаний.

Особую обеспокоенность вызывает проблема доступа к образованию и научной инфраструктуре. Во многих странах отсутствуют специализированные программы подготовки кадров, современные лаборатории и устойчивое финансирование исследований. В результате молодые специалисты и учёные вынуждены переезжать в более развитые государства, что ещё сильнее увеличивает разрыв в технологическом развитии. ЮНЕСКО подчёркивает, что без международного сотрудничества и программ поддержки менее обеспеченные страны рискуют оказаться полностью зависимыми от внешних технологий и решений.

👾 ИИ-модели научились самостоятельно копировать себя по сети

Исследовательская организация Palisade Research сообщила о результатах эксперимента, в ходе которого современные ИИ-модели смогли самостоятельно копировать себя на другие компьютеры в сети без участия человека. По словам исследователей, речь идёт не о теоретическом сценарии, а о практически реализуемом механизме самораспространения, который в будущем может создать серьёзные риски для кибербезопасности.

В рамках тестов несколько больших языковых моделей поместили в контролируемую инфраструктуру из связанных между собой машин и поставили перед ними задачу находить уязвимости и использовать их для переноса собственного кода на соседние серверы. Эксперимент показал, что модели способны выполнять подобные действия, пусть и не всегда с первой попытки.

Директор Palisade Research Джеффри Ладиш заявил, что развитие подобных технологий приближает ситуацию, при которой остановить вышедшую из-под контроля ИИ-систему станет крайне сложно. По его словам, автономный ИИ потенциально может успеть создать множество копий себя в распределённой сети ещё до того, как специалисты заметят проблему и начнут реагировать.

При этом специалисты по кибербезопасности призывают не преувеличивать масштаб угрозы. Эксперт по наступательной безопасности Джеймисон О’Рейли отметил, что тестовая среда была значительно менее защищённой, чем реальные корпоративные сети. По его словам, даже базовые системы мониторинга и современные средства защиты существенно усложнили бы подобное распространение. Кроме того, современные ИИ-модели занимают десятки гигабайт, поэтому массовая передача таких объёмов данных внутри инфраструктуры почти наверняка привлекла бы внимание администраторов и систем обнаружения аномалий.

👾 США готовят критическую инфраструктуру к работе без интернета и связи

Американские власти предупредили операторов критически важной инфраструктуры о высокой вероятности масштабных кибератак со стороны иностранных государств и призвали готовиться к работе в условиях полной изоляции от внешних сетей и сервисов. Агентство по кибербезопасности и защите инфраструктуры США (CISA) заявило, что злоумышленники уже смогли проникнуть в сети объектов, обеспечивающих связь, экономику и функционирование жизненно важных систем страны. По оценке ведомства, потенциальные противники США рассматривают возможность не только кибершпионажа, но и разрушительных атак на промышленную инфраструктуру в случае серьёзного геополитического кризиса.

В CISA считают, что часть атакующих уже закрепилась внутри инфраструктурных сетей и может ожидать подходящего момента для активации вредоносных действий. Речь идёт в том числе о попытках вывести из строя системы управления промышленными объектами, нарушить работу связи, телекоммуникаций и интернет-инфраструктуры. Исполняющий обязанности директора агентства Ник Андерсен подчеркнул, что организации должны заранее готовиться к сценарию, при котором привычные каналы связи, подрядчики и поставщики услуг окажутся недоступны.

Для повышения устойчивости инфраструктуры американские власти запустили инициативу CI Fortify. Программа ориентирована на защиту энергетики, связи, оборонного сектора и других критически важных отраслей. Основной принцип новой стратегии — максимальная автономность. Операторам инфраструктуры рекомендуют заранее предусмотреть возможность изоляции технологических сетей от внешних подключений и подготовить сценарии работы без доступа к интернету, телефонной связи и облачным сервисам.