В современном мире, где технологии развиваются с бешеной скоростью, а искусственный интеллект (ИИ) становится неотъемлемой частью нашей жизни, вопрос безопасности выходит на первый план. Но, как выясняется, винить во всех киберугрозах именно ИИ – это большая ошибка. По данным VentureBeat, настоящая проблема кроется в излишней сложности самих систем.
Безопасность – это не про сложность, а про простоту
История корпоративной безопасности часто напоминает гонку вооружений: появляется новая угроза – добавляется новый контроль. Итог? Пользователи начинают обходить систему, потому что она становится слишком неудобной. Автор статьи подчеркивает, что люди редко игнорируют безопасность, потому что им на нее плевать. Они делают это, потому что безопасный путь кажется им более трудным, чем небезопасный.
В эпоху ИИ этот урок становится еще более актуальным. ИИ расширяет поверхность атаки и повышает планку для злоумышленников, что делает упрощение безопасности критически важным. Системы безопасности, требующие усилий или создающие неудобства, неизбежно игнорируются. Люди находят обходные пути. Ответ прост: нужно сделать безопасный путь самым легким.
Когда безопасность работает, оставаясь незаметной
Безопасность работает лучше всего, когда она не мешает. Когда пользоваться безопасным путем проще, чем его избегать, люди начинают его использовать. Вспомните, как долго внедрялась двухфакторная аутентификация. Главной проблемой была не сама технология, а неудобство: остановка работы, поиск телефона, запуск VPN, ввод кодов – все это прерывало рабочий процесс.
Массовое принятие двухфакторной аутентификации произошло не благодаря политике или обучению, а благодаря простоте. Теперь, когда это так же легко, как отпечаток пальца или сканирование лица, люди используют ее без колебаний.
Тот же принцип привел к тому, что разработчики браузеров сделали безопасность более наглядной и интуитивно понятной. Вместо того чтобы заставлять пользователей вручную проверять URL-адреса, современные браузеры явно помечают небезопасные сайты (не HTTPS) как таковые, направляя пользователей к более безопасному поведению по умолчанию. Безопасность стала сильнее отчасти потому, что безопасный путь стал проще и очевиднее.
Где сложность проявляется в ИИ
Примером того, как это проявляется в системах ИИ, служат разрешения для агентов. Сотрудники накапливают множество разрешений со временем: доступ к одному проекту, затем к другому, роль, которая так и не была отозвана после смены команды. Человек понимает, какой доступ релевантен задаче, даже если система этого активно не контролирует.
Агенты лишены такого суждения. Агент, которому поручена задача, будет исследовать каждый доступный путь. Если он может получить доступ к 12 системам, а задача требует только две, он может изучить и остальные десять. Это просто тщательность, но результат – потенциальная поверхность атаки намного больше, чем требовалось для выполнения задачи.
Возникает соблазн держать человека в курсе, уведомляя о значительных действиях и запрашивая одобрение перед их выполнением. Но на практике агент может запросить у человека одобрение глубоко технического действия без достаточного контекста для оценки его уместности. В большинстве случаев люди одобрят его, просто чтобы не останавливать рабочий процесс. Это лишь добавляет трение и создает ложное чувство контроля.
Что действительно необходимо, так это модель разрешений, построенная вокруг намерения. Агент должен иметь только те учетные данные, которые ему нужны для конкретной задачи, и они должны истекать после ее завершения. Индустрия уже начинает двигаться к лучшим моделям. Стандарты, такие как OAuth, развиваются для поддержки агентного ИИ, позволяя агентам нести идентификаторы, ограниченные конкретной задачей, а не полным набором разрешений пользователя.
Сделать безопасность ИИ простой в использовании
Простота использования начинается с наглядности, поэтому первым приоритетом является знание того, что на самом деле происходит. Куда подключаются ваши агенты? Какие данные они затрагивают? Какие разрешения они используют?
Многие предприятия удивляются ответам, когда впервые начинают проверку. Большинство организаций имеют примерно 80% видимости и контроля. Проблема заключается в оставшихся 20%, потому что именно там обычно скрывается реальный риск. ИИ найдет эти пробелы гораздо быстрее, чем люди. Начните с мониторинга, даже если вы еще не готовы ничего принудительно применять. Используйте ИИ для анализа полученных данных и приоритизации наиболее рискованного поведения. Затем систематически устраняйте эти риски.
В области идентификации, где это возможно, переходите к идентификации рабочих нагрузок. Старая модель создания учетных записей служб, загрузки ключей и их распространения по всей инфраструктуре хрупка и сложна для аудита. Современные облачные среды предлагают лучший подход: идентификация рабочей нагрузки устанавливается при развертывании, а учетные данные никогда не распространяются в виде статических ключей. Бремя управления снижается, и поверхность атаки вместе с ним.
Специально для агентов сопротивляйтесь искушению предоставлять им широкие разрешения, предполагая, что одобрение человека предотвратит проблемы. Ограничивайте доступ агентов к поставленной задаче и убедитесь, что эти разрешения истекают после завершения работы. Для команд, управляющих множеством соединений агентов с инструментами, шлюзы MCP становятся практичным способом кодирования правил управления централизованно, а не для каждого инструмента отдельно. Держите человека в курсе значимых действий, а не каждого действия, особенно тех, где радиус поражения ошибки может быть существенным.
Темп рисков ускоряется
В эпоху ИИ разрыв между экспозицией и эксплуатацией быстро исчезает, сокращаясь с дней до часов, а в некоторых случаях и минут. Отчет CrowdStrike Global Threat Report за 2026 год документирует, что среднее время прорыва злоумышленника увеличилось на 65% год к году. Поскольку ИИ становится все более способным к автономному выявлению уязвимостей, команды безопасности, полагающиеся на ручные процессы реагирования, будут отставать.
Однако ответ не изменился. Безопасность, создающая трение, в конечном итоге будет обойдена. Безопасность, встроенная непосредственно в архитектуру, применяемая по умолчанию и незаметная на практике, – это та, которая действительно работает. ИИ повышает ставки, но принцип остается прежним: безопасность работает только тогда, когда безопасный путь также является самым легким.