OpenAI подарил миру фальшивки на стероидах: системы безопасности в шоке
Новейшая модель от OpenAI, GPT-4o, ворвалась в мир с обещанием революции — и, похоже, сдержала слово, но не совсем так, как хотелось бы добропорядочным гражданам. Теперь любой желающий может за секунды наклепать фальшивые авиабилеты, банковские переводы, дипломы университетов или даже рецепты на антибиотики(промолчим про более сильные вещества).
Забудьте про старые добрые подделки в Photoshop с кривыми шрифтами и косяками на пикселях — искусственный интеллект делает всё быстро, качественно и с пугающей убедительностью. Добро пожаловать в эру подделок 2.0, где системы безопасности уже потеют от страха.
Пользователи в соцсетях хвастаются своими "шедеврами": вот вам фото отменённого рейса для возврата денег, а вот диплом Гарварда, чтобы впечатлить тёщу. Всё это — дело пары кликов. Раньше для такого нужен был талантливый дизайнер с кучей времени и нервов, а теперь достаточно школьника с доступом к интернету. Эксперты в шоке: объём подделок, который может хлынуть из этой AI-машины, рискует утопить любые системы проверки. Особенно уязвимы те, кто привык доверять на слово — мелкие страховые компании, арендодатели или HR-отделы, проверяющие резюме "на глазок".
Да, подделывать документы умели и раньше — никто не отменял старый добрый сканер и немного фантазии. Но автоматизация от OpenAI превращает это в конвейер. Если раньше фальшивка была штучным товаром, то теперь это массовое производство. Представьте: тысячи липовых справок о доходах, сотни фальшивых чеков — и всё это за день. Даже если системы контроля будут ловить 90% подделок (а это, мягко говоря, оптимистичный прогноз), оставшиеся 10% просочатся сквозь сито. А с ростом количества фальшивок шансы на провал проверок растут как на дрожжах.
В США, например, только за 2022 год ФБР зафиксировало убытки от мошенничества с документами на 13 миллиардов долларов. С GPT-4o эта цифра может взлететь до небес.
OpenAI, конечно, не сидит сложа руки и пытается прикрыть тылы. В каждое сгенерированное изображение они вшивают метаданные C2PA — такой цифровой штамп "Сделано ИИ". Звучит красиво, но есть нюанс: чтобы его увидеть, нужен специальный инструмент проверки. А кто его будет использовать? Тётя Маша из бухгалтерии, которой принесли "чек" на возврат 500 рублей? Или менеджер по аренде, которому лень даже в лупу посмотреть?
К тому же, любой ушлый подросток с YouTube-туториалом за пять минут разберётся, как эти метаданные стереть. В 2023 году хакеры уже показали, как легко удаляются водяные знаки из изображений DALL-E: с GPT-4o история та же. Безопасность? Какая безопасность?
Эксперты только разводят руками. "Давайте честно: и без нейросетей подделки процветали, — говорит IT-специалист Алексей Ковалёв. — Вы думаете, ваш паспорт на рынке за 5 тысяч рублей проверяют по базе? Нет, его просто смотрят на свет и кивают". По данным Европола, в 2024 году в ЕС изъяли 1,2 миллиона фальшивых документов — и это без массового участия ИИ. Теперь добавьте в уравнение GPT-4o, и получится коктейль, от которого у властей уже начинается мигрень. В России, где половина проверок — это "да вроде похоже", ситуация ещё веселее.
Пока OpenAI хвалится своими "функциями безопасности", реальность такова: их детище — это мечта мошенника. Банки, авиакомпании, вузы и даже больницы рискуют утонуть в потоке фальшивок. А обычный человек, держащий в руках "официальный" документ, и вовсе беззащитен — никаких тебе методов проверки, кроме веры в человечество.
Ирония в том, что технология, призванная упрощать жизнь, может превратить её в хаос. Так что готовьтесь: скоро каждый второй "документ" будет от ИИ, и отличить правду от вымысла станет миссией невыполнимой. Спасибо, OpenAI, удружили!
Как тебе такое, Илон Маск?
#ai #ии #openai