По данным израильской компании Dream, хакеры использовали открытые ИИ-фреймворки Hermes и OpenClaw для взлома правительственной инфраструктуры.
Пока одни спорят, отнимут ли нейросети работу у художников, другие активно используют искусственный интеллект для куда более опасных дел. Свежий инцидент показывает: автономные ИИ уже дошли до взлома государственных систем, и это не сюжет технотриллера, а реальность, которую сложно игнорировать. Разбираемся, как это произошло и почему эксперты по кибербезопасности встревожены.
ИИ впервые почти автономно атаковал государственные системы Тайваня
Как полагают исследователи, китайские хакеры провели почти автономную кибератаку на правительственную инфраструктуру Тайваня. По данным израильской компании Dream, это первый публично известный случай, когда автономная ИИ-система успешно атаковала государственную цель в реальных условиях. В основе операции — открытые ИИ-фреймворки Hermes и OpenClaw, а добычей стали более 2500 кадровых записей.
Злоумышленники не просто запустили сценарий и забыли о нем. Систему настроили так, чтобы она могла самостоятельно адаптироваться по ходу операции, без постоянного вмешательства человека. ИИ сам проводил «циклы обучения»: искал в базах данных уязвимостей, репозиториях GitHub и публикациях по безопасности методы, подходящие для конкретной инфраструктуры цели, затем анализировал собственные ошибки и корректировал дальнейшие действия. Эксперты по AI (Artificial Intelligence) уже называют это новой главой в истории кибератак.
Цели расширились прямо во время атаки
Атака не ограничилась первоначальными объектами. ИИ расширил поиск на поставщиков ИТ-систем государственных организаций, добавил в список агентство по ядерной безопасности, государственную почтовую систему и более семи компаний энергетического сектора. Система искала неправильные настройки, открытые административные интерфейсы и уязвимости, пригодные для эксплуатации. Чтобы обойти встроенные ограничения, злоумышленники представляли всю выполняемую работу как санкционированное тестирование на проникновение.
Следы операции Dream обнаружила в онлайн-архиве объёмом 160 МБ — почти 1400 файлов раскрывали архитектуру многоагентной ИИ-системы, которая реально получила доступ к государственным системам. Внутри использовались байесовская приоритизация (выбор наиболее перспективных целей на основе обновляемой оценки вероятностей), циклы самокоррекции и адаптивные этапы поиска.
Полностью без человека все еще никак
Полностью автономной эту атаку назвать нельзя. Для нее требовались настройка системы под конкретную задачу, оптимизация взаимодействия ИИ-агентов и корректировка логики принятия решений. Ранее компания Anthropic сообщала о первой автономной кампании кибершпионажа, но тогда специалисты указывали на значительный объем человеческого участия. Искусственный интеллект в руках злоумышленников — уже не гипотетический сценарий, а рабочий инструмент. И это тревожный звонок для всех, кто связан с кибербезопасностью.
Кажется, мы перешагнули очередную черту: теперь за кибератаками могут стоять не люди, а самообучающиеся алгоритмы. Ответов на этот вызов пока мало, а вопросов — все больше. Остается лишь наблюдать, как быстро человечество научится защищаться от собственных машин.