Дайджест за неделю

👾 Anthropic начала маркировать контент, созданный с помощью Claude

Anthropic начала внедрять систему машинно читаемой маркировки контента, созданного с помощью Claude. Компания заявила, что новые модели, выпущенные в Евросоюзе с 2 августа 2026 года, будут получать специальные маркеры, позволяющие определить факт обработки контента нейросетью.

Для маркировки текста Anthropic использует невидимый водяной знак, который встраивается непосредственно в сгенерированный материал. Пользователь не видит его, и, по заявлению компании, он не влияет на смысл, качество или читаемость текста. Поскольку метка является частью самого текста, она может сохраняться при копировании и вставке, а в некоторых случаях – даже после редактирования. Маркировка применяется на уровне модели, поэтому не зависит от того, через какой продукт Claude был получен результат.

Для файлов используется другой механизм – подписанные метаданные о происхождении контента. В поддерживаемых форматах, включая SVG, PNG и JPG, Claude добавляет информацию в соответствии с открытым стандартом C2PA, предназначенным для фиксации происхождения цифрового контента. Такая подпись позволяет определить, что файл обрабатывался Claude, а также проверить, подвергался ли он последующему изменению.

Anthropic признаёт, что такая технология не позволит со стопроцентной уверенностью установить происхождение материала. Обнаруженная метка показывает, что контент мог быть обработан Claude, но сама по себе не доказывает, что нейросеть была его первоначальным автором. Например, пользователь может написать текст самостоятельно, а затем попросить Claude его отредактировать, перевести или сократить. В этом случае итоговый материал также получит соответствующую маркировку.

👾 ИИ-агенты самостоятельно атаковали государственные системы Тайваня

Китайские хакеры впервые использовали автономную систему на базе ИИ-агентов для проведения кибератаки на государственную инфраструктуру Тайваня. По данным расследования израильской компании Dream Security, атака проходила практически без непосредственного участия человека: несколько ИИ-агентов одновременно занимались разведкой, поиском уязвимостей, подбором способов проникновения и изменением тактики после неудачных попыток.

По данным расследования, злоумышленники смогли получить доступ к 85 учётным записям и извлечь 1395 файлов, а также более 2564 записей о сотрудниках и связанных с ними лицах. В одном из случаев система получила доступ к базе данных с информацией о тысячах государственных служащих без прохождения аутентификации. После первых успешных проникновений атака расширилась на другие цели, включая агентство по ядерной безопасности Тайваня и как минимум семь энергетических компаний.

Ключевым отличием новой схемы от обычных автоматизированных средств взлома стала способность ИИ не только выполнять заранее заданные команды, но и самостоятельно менять план действий. Когда один из вариантов атаки переставал работать, агенты обращались к базам данных уязвимостей, GitHub и техническим публикациям, чтобы найти другой способ проникновения. Результаты каждого этапа возвращались в систему планирования и использовались для дальнейшего изменения тактики.

👾 США выдадут частным компаниям лицензии на взлом хакеров

Белый дом поручил создать программу, которая позволит американским компаниям проводить наступательные кибероперации против крупных киберпреступных группировок по заданию правительства.

Программа станет продолжением курса администрации США на более активное противодействие киберпреступности. Ещё в марте Белый дом распорядился создать в Национальном координационном центре специальную оперативную структуру для борьбы с транснациональными преступными организациями, в том числе с привлечением частных компаний.

Предполагается, что частные компании смогут подавать заявки на участие, а Министерство внутренней безопасности и Министерство юстиции будут выдавать им конкретные задания и определять допустимые цели. Каждая операция должна будет получить письменное одобрение представителей обоих ведомств.

Участникам программы придётся соответствовать строгим требованиям: иметь защищённую инфраструктуру, проверенный персонал и подтверждённый опыт в сфере кибербезопасности. Кроме того, компании должны будут предоставить залог в размере $1 млн на случай причинения ущерба во время операции.

Речь идёт не о свободной лицензии на взлом. Частные подрядчики смогут действовать только в рамках конкретного задания и обязаны будут остановиться, если операция затронет американские системы, не связанные с преступной деятельностью. Операции также не будут разрешаться, если существует риск гибели людей или вооружённого конфликта.

👾 Французский суд заблокировал запрет соцсетей для детей

Конституционный совет Франции признал неконституционным закон, запрещающий детям младше 15 лет пользоваться социальными сетями. Суд посчитал, что мера непропорционально ограничивает свободу выражения мнения и коммуникации, а предусмотренная система проверки возраста создаёт дополнительные риски для приватности.

Закон был принят французским парламентом в июле и должен был начать действовать в 2027 году. Он предполагал, что платформы будут обязаны проверять возраст пользователей и отключать аккаунты детей младше 15 лет. При этом фактически подтверждать свой возраст пришлось бы всем пользователям, включая взрослых.

Именно этот механизм стал одной из претензий суда. По мнению Конституционного совета, законодательство недостаточно чётко определяло юридические гарантии при проверке возраста и не обеспечивало достаточной защиты частной жизни. Инициативу активно поддерживал президент Франции Эммануэль Макрон. После решения суда он поручил премьер-министру Себастьену Лекорню подготовить новую версию закона, которая учитывала бы замечания Конституционного совета. Власти рассчитывают принять обновлённые правила до весны 2027 года.

👾 Навыки работы с ИИ обесцениваются

На российском рынке труда начала проявляться тенденция: дополнительная зарплата за владение технологиями искусственного интеллекта сокращается. К такому выводу пришли исследователи НИУ ВШЭ, проанализировавшие вакансии и требования работодателей.

Речь идёт не о снижении зарплат специалистов в абсолютном выражении, а о так называемой ИИ-премии – разнице в оплате между сотрудниками с сопоставимыми характеристиками, но разным набором навыков. Исследователи обнаружили, что в 2025 году преимущество специалистов, владеющих ИИ-инструментами, стало уменьшаться. Это может означать, что навыки работы с нейросетями постепенно перестают быть редкой компетенцией и распространяются среди всё большего числа работников.

Подобный процесс уже происходил с другими технологиями. Когда определённый навык становится массовым требованием работодателей, он перестаёт давать специалисту такое же конкурентное преимущество, как на раннем этапе распространения технологии.

При этом спрос на ИИ-компетенции продолжает расти. Работодатели всё чаще ищут сотрудников, которые умеют использовать нейросети для анализа данных, программирования, подготовки документов и автоматизации рабочих процессов. Поэтому снижение премии не означает, что искусственный интеллект перестал быть ценным навыком.

👾 Разработчики ИИ начали нанимать на работу философов

Крупнейшие разработчики ИИ начали активно привлекать философов для решения практической задачи: определить, как должны вести себя будущие ИИ-агенты.

По данным The Economist, философы уже участвуют в разработке правил поведения ИИ. Например, над «Конституцией Claude» от Anthropic работали философы Аманда Аскелл и Джо Карлсмит. OpenAI, в свою очередь, консультировалась с сотнями специалистов по моральной философии при формировании принципов поведения ChatGPT.

Современные ИИ постепенно превращаются из чат-ботов в агентов, способных самостоятельно принимать решения и выполнять действия. Пока нейросеть просто отвечает на вопрос, многие этические проблемы можно рассматривать как теоретические. Но когда агент получает доступ к электронной почте, файлам, программам, деньгам или корпоративным системам, ему приходится постоянно выбирать между несколькими вариантами действий.

Например, агенту нужно решить, можно ли раскрыть определённую информацию, насколько далеко следует выполнять поручение пользователя или что делать, если интересы разных людей противоречат друг другу. Это уже не столько технические, сколько ценностные вопросы.

Именно здесь философия неожиданно превращается в часть инженерного процесса. Философы помогают формулировать принципы, по которым ИИ должен принимать решения, а затем эти принципы превращаются в инструкции для моделей, системы обучения и механизмы безопасности.