Корпорации выбирают системы управления контекстом по правам доступа, а успех измеряют правильными ответами ИИ.
Есть старая шутка: если у вас нет паранойи, это ещё не значит, что за вами не следят. С корпоративными ИИ-агентами похожая история: если у вас нет управляемого контекстного слоя, это не значит, что агенты не выдумывают факты. Просто никто не замечает.
Свежий опрос среди 101 компании показал, как эта слепота бьёт по бизнесу. 68% предприятий за последние полгода ловили уверенные, но ложные ответы ИИ, а 37% — не единожды. Хуже того, чем тщательнее компании следят за контекстом, тем больше ошибок находят. Разбираемся, почему так происходит и куда движется рынок инструментов.
Контекстные сбои ИИ-агентов: растущая проблема
Три способа накормить агента контекстом: от RAG до полного игнора
Любому агенту нужно знать, что компания на самом деле имеет в виду под «выручкой», какой документ актуален, а какой давно превратился в цифровой мамонт. И тут начинается самое интересное. Основным источником контекста остаётся retrieval (RAG): его используют 31% предприятий. Если вы ещё не сталкивались с этим термином, не переживайте. Если коротко, разобраться, что такое RAG (Retrieval Augmented Generation), несложно: система сначала ищет релевантные фрагменты в базе документов, а затем передаёт их модели для генерации ответа.
Но дальше начинается настоящий хаос. 13% предприятий предпочитают long-context loading — то есть пихают документы прямиком в контекстное окно модели, попутно молясь, чтобы всё влезло и не перемешалось. А 5% опрошенных вообще не утруждаются: агент работает на чистом «общем знании» без какого-либо структурированного контекста.
Сложите первые два числа — и получится, что почти каждый пятый (18%) питает агентов либо «грубой силой», либо вообще ничем. Разумеется, это идеальный рецепт для уверенной лжи с улыбкой на цифровом лице.
Почему RAG спотыкается: Рим против Парижа
Даже флагманский подход с поиском не гарантирует правды. RAG подбирает текст по смыслу, а не по факту. Сриджит Раджамохан, лидер AI-исследований в Redis, объяснил это с убийственной простотой. Возьмите два предложения: «Rome is closer than Paris» и «Paris is closer than Rome». Слова в них абсолютно одинаковые, просто порядок разный. Эмбеддинги, лежащие в основе retrieval-систем, разницы не увидят, а значит, и ответ может оказаться зеркально противоположным тому, что имелось в виду.
Так что пока одни предприятия собирают статистику ошибок, другие с энтузиазмом скармливают своим агентам контекст через кофемолку, искренне веря, что модель как-нибудь сама разберётся. Спойлер: не разберётся. И в следующие полгода цифры в отчётах явно не станут скромнее.
Управляемый контекстный слой: как он меняет видимость ошибок
Слою 30 лет, а болит как в первый раз
Кайл Несбит, основатель стартапа Credible Data, описывает эту боль без иллюзий: «Это та же проблема, которая мучает людей уже 30 лет, — отсутствие управляемого анализа данных. Теперь с ИИ это та же история, но на порядки более хаотичная и болезненная». По сути, контекстный слой — это не модная AI-игрушка, а давно назревшая гигиена. Просто раньше за грязные данные отвечал аналитик с Excel, а теперь за них отвечает корпоративный ИИ сервис, который способен уверенно наврать тысяче сотрудников одновременно.
Разница в масштабе видна и по размеру компаний. Предприятия с численностью от 1000 сотрудников сообщают о повторяющихся сбоях в 55% случаев — почти вдвое чаще, чем средние компании (30%). И при этом реже имеют управляемый слой в продакшене: 24% против 37%. Звучит парадоксально? Только если забыть, что больше людей, больше инструментов и больше желающих спросить «а почему эта цифра не сходится?» автоматически означает больше найденных проблем.
Собственно, именно поэтому чистая запись об ошибках — это не повод для гордости, а как минимум повод насторожиться. Те самые 22% компаний, которые вообще не сообщили ни об одном инциденте с контекстом, — вовсе не образец безупречного governance. Скорее всего, это компании, где никто просто не проверяет, что именно выдают агенты. Нет проверок — нет ошибок. Но и нет никакой уверенности, что эти ошибки не сыплются прямо сейчас. Ну а если слой есть и сбои стали заметны — это не регресс. Это первый признак того, что система наконец начала работать как надо.
Выбор инструментов и стратегия: от точности к контролю
Когда дело доходит до выбора системы управления контекстом, у корпораций внезапно поменялись приоритеты. Впервые в этой серии опросов контроль доступа и разрешения догнали простоту интеграции данных: по 24% голосов каждый. А вот точность поиска осталась далеко позади — всего 15%. То есть покупку теперь совершают ради того, чтобы ограничивать доступ, а не ради того, чтобы точнее находить нужное.
Покупка за контроль, оценка за точность
Самое забавное начинается после внедрения. Компании оценивают новую систему не по тому, как она режет доступ, а по тому, насколько правильные ответы выдают их ИИ-агенты. Правильность ответов — главный критерий успеха для 38% предприятий, вдвое больше, чем безопасность и контроль доступа с их 19%. Покупают за одну вещь, а хвалят за другую — и это нормально?
Разрыв между намерением и продакшеном
При этом большинство только подбирается к реальному внедрению. 63% компаний уже строят или запускают управляемый контекстный слой, но лишь 32% довели его до боевого режима. Остальные застряли между пилотом и продакшеном. Именно туда сейчас утекают бюджеты — на инфраструктуру, которая ещё не заработала в полную силу.
Единый вендор не в моде
И даже когда слой заработает, корпорации не собираются отдавать его под крыло одного вендора. 79% респондентов планируют оставить хотя бы часть контекста за пределами чьего-либо единого стека, выбирая лучшие в своем классе инструменты или осознанный микс. Лишь 12% готовы консолидироваться на нативном контексте от одного поставщика.
Аналитик Constellation Research Майкл Ни описывает эту ставку без дипломатии: «Кто контролирует контекст выполнения, тот контролирует уровень принятия ИИ-решений для корпоративных данных». Судя по цифрам, компании этот тезис усвоили и контроль предпочитают оставить у себя.
В итоге получается почти детективная история: сначала вы не видите проблему, потому что не знаете, куда смотреть. Потом строите систему, которая подсвечивает каждую ошибку, — и кажется, что всё стало только хуже. Но именно этот неприятный этап и есть путь к тому, чтобы ИИ-агенты наконец перестали вести бизнес наугад.