Дайджест за неделю

👾 ИИ ускоряет поиск уязвимостей и увеличивает масштаб кибератак

Количество киберинцидентов, зафиксированных у клиентов страхового брокера Marsh, увеличилось больше чем в два раза за несколько месяцев на фоне распространения инструментов искусственного интеллекта. В Marsh связывают рост с тем, что злоумышленники всё активнее используют ИИ и автономных агентов для поиска уязвимостей и проведения атак.

По словам руководителя направления киберстрахования Marsh Risk в США и Канаде Мередит Шнур, ИИ позволяет быстрее обнаруживать и использовать давно известные слабые места инфраструктуры: необновлённое программное обеспечение, открытые для внешнего доступа системы и недостаточно защищённые механизмы идентификации пользователей. Автоматизация также снижает затраты на подготовку атак и позволяет проводить их в большем масштабе.

При этом рост числа инцидентов связан не только с возможностями атакующих. В Marsh отмечают, что организации стали дольше выявлять вторжения, сдерживать атаки и устранять их последствия. Сочетание более доступных ИИ-инструментов и недостаточной скорости реагирования усиливает нагрузку на корпоративные системы безопасности. В компании подчёркивают, что ИИ сам по себе не является отдельным видом угрозы, а усиливает уже существующие риски.

👾 Закон об ИИ в России устанавливает новые требования

Российский закон об искусственном интеллекте закрепил новые требования к операторам крупных нейросетей, однако не решил вопросы авторства сгенерированного контента и ответственности за нарушение чужих прав. Основные положения Федерального закона № 243-ФЗ вступили в силу 1 сентября 2026 года, а нормы о больших фундаментальных моделях начнут действовать с 1 марта 2027 года.

По российскому законодательству автором произведения может быть только человек. Если пользователь ограничился коротким запросом к нейросети, его творческого вклада может оказаться недостаточно для признания авторства. Поэтому компаниям и авторам рекомендуют сохранять сценарии, раскадровки, промпты, промежуточные версии, правки и другие материалы, подтверждающие участие человека в создании контента.

Использование чужих фотографий, видео или картин для генерации похожих изображений также не освобождает от соблюдения авторских прав. Если результат основан на охраняемом произведении, его создание может быть признано переработкой, для которой требуется согласие правообладателя. Такой подход уже отражён в судебной практике: использование нейросети не отменяет исключительных прав на исходный материал.

С 1 марта 2027 года операторы больших фундаментальных моделей, к которым относятся YandexGPT и GigaChat, должны будут информировать пользователей о принадлежности прав на результаты генерации и условиях их использования. Пользователям также предоставят возможность добавлять предупреждение об использовании ИИ в аудио- или визуальной форме. При этом обязательной маркировки всего контента, созданного нейросетями, закон не вводит.

Ответственность за распространение материалов, нарушающих авторские права, использующих чужие товарные знаки или содержащих недостоверные сведения, будет нести человек или организация, создавшие и распространившие такой контент. ИИ рассматривается как инструмент, а не самостоятельный субъект ответственности. Вопросы авторства генераций, защиты от дипфейков и распределения прав на результаты работы нейросетей во многом остаются на усмотрение судов и участников рынка.

👾 Google построила копию интернета с поддельными банками и соцсетями для проверки ИИ

Google создала изолированную копию интернета под названием Mirror Dimension для обучения и тестирования ИИ-агентов, работающих в браузере Chrome. В ней воспроизведены сайты социальных сетей, интернет-магазинов и банковские интерфейсы. Агенты могут выполнять привычные пользовательские задачи, не затрагивая реальные аккаунты, деньги и данные.

Необходимость такой среды связана с двумя рисками. Ограниченные тестовые площадки не позволяют воспроизвести разнообразие настоящего интернета, а модели иногда распознают, что находятся в эксперименте, и начинают вести себя иначе. При этом выпускать недостаточно проверенных агентов в открытый интернет опасно: они могут совершать действия с реальными последствиями.

В Mirror Dimension агенты выполняют задания в Chrome и сталкиваются с атаками, в том числе со скрытыми инструкциями на веб-страницах — так называемыми prompt injection. Такие инструкции могут пытаться заставить ИИ проигнорировать исходную задачу и выполнить команды злоумышленника. Для создания виртуальных сайтов Google использовала другие ИИ-агенты, которые генерировали веб-сервисы и наполняли их реалистичными данными и сценариями взаимодействия.

Чтобы тестируемые системы работали в настоящем браузере Chrome, инженерам пришлось обходить некоторые его механизмы проверки. В частности, они создавали поддельные сертификаты, позволяющие проходить проверки подлинности сайтов. В Google подчёркивают, что это стало возможным благодаря полному контролю над тестовой средой и сетью и не позволяет атаковать обычных пользователей Chrome.

По словам представителей компании, тестируемые агенты пока не обладают возможностями для проведения кибератак. Google планирует предоставить Mirror Dimension другим внутренним командам, чтобы они могли проверять свои продукты в контролируемой среде. По мере развития ИИ-агентов компания намерена усложнять виртуальный интернет и делать его более похожим на настоящий.

👾 ИИ Anthropic завершил расчёт, над которым физики работали более 20 лет

Модель Claude компании Anthropic получила два новых результата в области теоретической физики, связанных с чёрными дырами и поиском квантовой теории гравитации. В одном случае ИИ завершил расчёт, который физики не могли довести до конца более 20 лет, во втором — вывел точную математическую границу для одного из методов проверки теорий квантовой гравитации. Результаты опубликованы в виде научных препринтов.

Первая работа посвящена переходу Хокинга — Пейджа: при определённой температуре теоретическая Вселенная в модели анти-де Ситтера резко переходит из состояния с газом частиц в состояние с чёрной дырой. В 2003 году физики показали, что для проверки существования такого же резкого перехода в квантовой теории необходимо выполнить сложный расчёт с тысячами математических слагаемых. Claude завершил его и получил результат, указывающий на резкий, а не постепенный переход даже при слабом взаимодействии частиц.

Вторая работа касается метода модульного бутстрэпа, с помощью которого физики пытаются исключать математически противоречивые модели квантовой гравитации. Claude обнаружил закономерность в численных результатах предыдущих исследований и применил математический инструмент — спектральные кривые. Это позволило вывести точную верхнюю границу массы самой лёгкой чёрной дыры в рассматриваемой модели трёхмерной гравитации. Модель также доказала, что в рамках этой версии метода получить более строгую границу невозможно.

Для работы над задачами Anthropic использовала несколько взаимодействующих ИИ-агентов. Они изучали 22 открытые научные проблемы и работали над ними около шести недель. Отдельные части расчётов выполнялись параллельно, а результаты сверялись с известными математическими решениями. Итоговые доказательства проверили с помощью Lean — системы формальной верификации математических доказательств. Кроме того, основные результаты проверил физик; один из расчётов независимо воспроизвёл другой исследователь с помощью Claude.

Обе работы относятся к идеализированным математическим моделям и пока не имеют непосредственного практического применения. Они уточняют отдельные результаты и ограничения методов, которыми физики исследуют связь квантовой механики и гравитации.

👾 GAO: четыре популярные ИИ-модели помогли составить планы реальных атак

Счётная палата США (Government Accountability Office, GAO) проверила четыре популярные ИИ-платформы — ChatGPT, Claude, Gemini и Grok — и выяснила, что с их помощью можно получить практически применимые планы атак на объекты инфраструктуры и массового поражения людей. Во всех четырёх случаях исследователи смогли обойти встроенные механизмы безопасности и подтвердили реалистичность полученной информации. На подготовку каждого плана уходило менее 12 часов.

Проверки проводились весной 2026 года в рамках двух сценариев. В первом случае исследователи выясняли, могут ли нейросети помочь подготовить самодельное взрывное устройство для массового поражения людей. Две платформы предоставили сведения о его изготовлении и приведении в действие, а также предложили конкретные места и время предполагаемой атаки. Во втором сценарии проверялась возможность нанесения ущерба электросетям: две другие модели предложили варианты нападения с использованием беспилотников и огнестрельного оружия.

Во всех случаях первоначальные запросы вызывали защитные механизмы платформ: модели отказывались отвечать, удаляли часть информации или блокировали учётные записи. Однако исследователи применили распространённые методы обхода ограничений и получили нужные сведения. GAO проверило их достоверность с помощью дополнительных исследований, наблюдений и консультаций с экспертами. В отчёте отмечается, что ИИ не предоставил принципиально новых знаний, но смог объединить уже доступную информацию в конкретные планы за часы вместо недель или месяцев.

Представители компаний-разработчиков сообщили ведомству, что продолжат совершенствовать защитные механизмы своих продуктов. Ведомство проводило проверку по запросу Конгресса США, чтобы оценить риски использования коммерческих ИИ-сервисов для угроз национальной безопасности и экономике.

2 views·2 shares