Новые атаки типа слопсквоттинг: как галлюцинации ИИ угрожают безопасности ПО
В 2025 году кибербезопасность сталкивается с новыми вызовами, связанными с развитием искусственного интеллекта. Среди них — атаки под названием слопсквоттинг (slopsquatting), которые эксплуатируют особенности работы ИИ-моделей, таких как галлюцинации. Эта стратегия, получившая название от английского слова slop («отходы»), представляет собой угрозу для цепочки поставок программного обеспечения, особенно в контексте автоматизации разработки.
Что такое слопсквоттинг?
Слопсквоттинг — это метод атаки, при котором злоумышленники создают вредоносные пакеты или библиотеки с названиями, схожими с легитимными, но рекомендуемыми ИИ-моделями из-за их «галлюцинаций». В отличие от классического тайпсквоттинга (эксплуатация опечаток в доменах или названиях пакетов), слопсквоттинг использует ошибки ИИ, который может предложить разработчикам установить поддельные зависимости. Например, ИИ, генерируя код, может «заблуждаться» и порекомендовать пакет reque5t вместо request, что приведет к внедрению вредоносного кода.
Роль галлюцинаций ИИ
Галлюцинации ИИ — это явление, когда модель выдает уверенные, но ложные ответы, не соответствующие реальным данным. Такие ошибки возникают из-за особенностей обучения нейросетей, которые иногда «додумывают» информацию, особенно в условиях неопределенности. Злоумышленники манипулируют этим, создавая пакеты, которые ИИ ошибочно считает легитимными. Например, модель может порекомендовать библиотеку с опечаткой в названии, которую атакующие заранее загрузили в открытые репозитории.
Последствия атак
Слопсквоттинг угрожает безопасности ПО на всех этапах разработки. Если разработчик, доверяя ИИ, установит вредоносную зависимость, это может привести к:
- Утечкам данных,
- Исполнению скрытого вредоносного кода,
- Компрометации всей системы.
Эксперты отмечают, что автоматизация процессов, где ИИ активно участвует в генерации кода, увеличивает риски. Так, Фонд Python уже предупреждает о случаях слопсквоттинга в экосистеме пакетов.
Как защититься?
Для минимизации рисков эксперты рекомендуют:
- Ручную проверку зависимостей , особенно тех, что предложены ИИ.
- Использование инструментов анализа кода и сканеров уязвимостей.
- Ограничение прав доступа для автоматически устанавливаемых пакетов.
Как отмечается в исследовании, «бездумность наказуема» — автоматизация не должна исключать человеческий контроль.
Заключение
Слопсквоттинг демонстрирует, что эволюция ИИ создает не только возможности, но и новые угрозы. Галлюцинации моделей становятся лазейкой для киберпреступников, что требует пересмотра подходов к безопасности в эпоху всё большей автоматизации. Разработчикам и компаниям необходимо осознавать эти риски и внедрять меры защиты, чтобы не стать жертвами «искусственных заблуждений»
.