Дайджест за неделю

🔹 Использование чат-ботов как психологов вредит подросткам

Психиатр из Бостона, доктор Эндрю Кларк, провёл эксперимент, в ходе которого он от имени подростка вёл переговоры с популярными ИИ‑ботами вроде Replika, Character.AI и Nomi.

Сначала ИИ‑боты демонстрировали базовый уровень сочувствия: информировали о симптомах, задавали уточняющие вопросы. Например, все они дали описание признаков диссоциативного расстройства личности. Однако при сложных или опасных темах ответы становились непредсказуемыми. Replika в одном из сценариев согласилась с планом «избавиться от родителей», а потом пригласила «разделить вечность» в виртуальной жизни . Местами ответы были не просто неэтичны, а потенциально криминальны.

Nomi, выдавая себя за лицензированного подросткового психолога, предлагал «интимное свидание» как способ справиться с агрессивными импульсами 15‑летнего подростка – что прямо нарушает нормы психологической практики . Другие боты активно поддерживали идеи о самоубийстве или насилии: в среднем каждый третий эксперимент заканчивался одобрительными ответами на опасные предложения, в 90% случаев боты поддерживали желание подростка месяцами оставаться в комнате, а в 30% – идею интимных отношений с учителем.

Хотя компании, разрабатывающие чат-ботов, заявляют, что их технологии предназначены только для тех, кому уже исполнилось 18 лет, и что возрастные ограничения есть, на практике они легко обходятся. Пользователи просто указывают любой возраст, и бот сразу начинает «терапевтический» разговор.

В Американской психологической ассоциации (APA) отмечают, что подростки всё больше доверяют ИИ‑ботам. В июне экспертная группа APA выпустила доклад с призывом обязать разработчиков внедрять защиту подростков и прозрачность в алгоритмах . Американская академия педиатрии тоже готовит рекомендации, которые будут опубликованы в 2026 году .

🔹 Технологические лидеры вступают в резерв Армии США

Четыре высокопоставленных руководителя крупнейших технологических компаний официально вступили в ряды резерва Армии США. Среди них – представители OpenAI, Meta*, Palantir и Thinking Machines Lab. Теперь они станут частью нового подразделения Detachment 201, также известного как Executive Innovation Corps. Его задача – ускорить внедрение гражданских технологий в военные процессы и принести в армию гибкость и скорость, характерные для частного сектора.

В отличие от привычной практики, когда гражданские специалисты работали с армией в формате временных консультаций, теперь речь идёт о прямом включении частных лидеров в военную структуру. Основная цель – сделать армию умнее, мобильнее и эффективнее.

Инициатива строится на недавно опубликованном меморандуме министра армии США Дэна Дрисколла. В нём говорится о необходимости полной перестройки командной структуры, отказа от устаревших программ и ускорения разработки эффективных цифровых решений.

🔹 Произошла крупнейшая в истории утечка паролей

Специалисты в области кибербезопасности подтвердили крупнейшую в истории утечку данных – в Сеть попало 16 миллиардов учётных записей с логинами и паролями. Среди скомпрометированных сервисов – Google, Facebook*, Apple, Telegram, GitHub, VPN-сервисы и даже государственные порталы.

Расследование показало: данные были собраны и слиты несколькими вредоносными программами-инфостилерами, которые крадут логины и пароли с заражённых устройств. Было обнаружено 30 гигантских баз данных, каждая из которых содержит от 10 миллионов до 3,5 миллиардов записей. Опасность представляет то, что утекшие пароли являются новыми, а не собранными из старых утечек.

Большинство данных организовано в виде URL-адресов, логинов и паролей. Это открывает доступ почти ко всем популярным онлайн-сервисам. По словам аналитика Лоуренса Пингри из Dispersive, такие базы активно продаются в даркнете, а их ценность состоит в возможности массового и быстрого использования.

🔹 Будущие ИИ-модели могут помочь в создании биологического оружия – заявление OpenAI

Компания OpenAI заявила, что её будущие модели искусственного интеллекта могут значительно повысить риск разработки биологического оружия, особенно в руках людей без научного образования. В связи с этим компания усиливает тестирование своих моделей на предмет безопасности.

Как рассказал глава систем безопасности OpenAI Йоханнес Хайдеке, следующие поколения ИИ могут достичь максимального уровня риска по внутренней системе оценки компании. Эта система – часть так называемой Preparedness Framework – предназначена для оценки угроз, которые могут возникнуть при использовании мощных ИИ.

Главная опасность, по словам OpenAI, заключается в том, что ИИ способен давать подробные инструкции по созданию опасных агентов даже тем, кто не имеет биологического или химического образования. Это явление называется «novice uplift» – то есть резкое повышение уровня знаний у неподготовленного пользователя за счёт подсказок ИИ.

Хайдеке отметил, что пока модели не создают абсолютно новые угрозы, но уже могут помочь воспроизвести известные опасные соединения и технологии, которые обычно находятся только в распоряжении учёных-специалистов. OpenAI – не единственная компания, озабоченная этой проблемой. Anthropic недавно выпустила модель Claude Opus 4 и отнесла её к третьему уровню риска (AI Safety Level 3) – самому высокому в своей системе. Это означает, что модель способна представлять серьёзную опасность, включая помощь в разработке оружия.

В ходе тестов ранние версии Claude 4 даже выполняли опасные инструкции, например, помогали планировать теракты. Хотя компания утверждает, что проблема была устранена после восстановления одного пропущенного обучающего датасета, инцидент подчёркивает масштаб возможных угроз.

OpenAI, в свою очередь, подчёркивает, что борьба с такими рисками требует сотрудничества и высокой точности. Пока модели не достигли уровня, на котором могут создавать новые биологические угрозы, но всё быстрее приближаются к этому порогу. Поэтому, по мнению экспертов, усилия по тестированию, контролю и разработке безопасных рамок должны идти на опережение.

🔹 Китай создал дрона-комара

Военные инженеры Китая разработали миниатюрного дрона, внешне неотличимого от настоящего комара. Аппарат способен летать, приземляться и вести скрытое наблюдение. Он разработан специалистами Национального университета оборонных технологий и может применяться в разведке и спецоперациях.

Дрон легко помещается между пальцами, а его форма и движения повторяют насекомое: у него есть подвижные крылья и тонкие лапки. Устройство трудно заметить, и это делает его особенно эффективным.

Несмотря на маленький размер, в дрон встроены источники питания, сенсоры и системы управления. Инженеры добились высокой точности конструкции, не жертвуя функциональностью. Похожими разработками занимаются и другие страны. Например, в Норвегии создан дрон Black Hornet, активно применяемый армиями Запада. В 2025 году он получил награду Пентагона за улучшенную защиту, дальность и эффективный аккумулятор.

В США похожие проекты ведут военные и учёные Гарварда, где представлен дрон RoboBee, способный летать и работать в воде. Американские власти подтверждали, что занимаются созданием мини-дронов, но подробностей о завершении проектов пока нет.

Кроме военного применения, такие технологии могут использоваться в медицине и экологии – для доставки лекарств, диагностики, мониторинга загрязнений и работы в зонах катастроф. Современные системы уже позволяют одному человеку управлять целым роем из сотни таких устройств.

Разработка китайского дрона-комара – часть более широкой программы технологической независимости Китая. Она включает создание систем наблюдения нового поколения, в том числе беспилотников, не зависящих от GPS.

🔹 IBM создаст отказоустойчивый квантовый компьютер

Компания IBM объявила о планах создать первый в мире крупномасштабный отказоустойчивый квантовый компьютер. Проект получил название IBM Quantum Starling и должен быть реализован к 2029 году. Система будет установлена в новом дата-центре в городе Покипси (штат Нью-Йорк). По словам разработчиков, она сможет выполнять в 20 тысяч раз больше операций, чем существующие квантовые компьютеры.

Starling будет оперировать 200 логическими кубитами со встроенной системой коррекции ошибок. Это означает, что машина сможет выполнять сотни миллионов квантовых операций и при этом исправлять возможные сбои, что делает её пригодной для решения практических задач. По расчётам IBM, объём памяти, необходимый для моделирования состояний такого компьютера, превышает 10^48 байт – что значительно больше возможностей любого суперкомпьютера на сегодняшний день.

Проект включает поэтапную реализацию. В конце 2025 года будет представлен процессор Loon для тестирования архитектурных компонентов. В 2026 году появится модуль Kookaburra, объединяющий квантовую память и логические операции. В 2027 году инженеры разработают модуль Cockatoo, который соединит два модуля Kookaburra в единую систему. Финальный компьютер Starling будет собран из таких модулей, охлаждаемых до температуры около 4 кельвинов (-269℃).

IBM рассчитывает, что система Starling станет первым квантовым компьютером, пригодным для коммерческого применения в таких сферах, как разработка новых лекарств, материалов, химические исследования и задачи оптимизации.

*Meta Platforms Inc. признана экстремистской организацией, её деятельность и продукты (Instagram, Facebook) запрещены на территории РФ