Когда агенты ломают корпоративное ПО
Представьте корпоративную систему, созданную десятилетия назад. Каждый шаг в ней — это человек: нажимает кнопку, заполняет форму, ждёт ответа. Безопасность строится на предположении, что за каждым действием стоит человек с учётной записью, правами и, в конечном счёте, ответственностью. Лицензии считываются по сотрудникам, сессии ограничены по времени, а контроль доступа завязан на то, кто и когда вошёл в систему. Эта модель работала, пока единственным действующим лицом оставался человек. Но с появлением ИИ-агентов фундаментальное предположение ломается. Агент не человек, но он действует как человек. Он нажимает те же кнопки, отправляет те же запросы, создаёт те же записи. Только делает это автономно, в масштабах и с скоростью, которые для человека недостижимы. И вот здесь корпоративное ПО сталкивается с проблемой, для которой оно не проектировалось.
Масштаб, который не предусмотрен
Когда агент начинает взаимодействовать с системой, он превращает каждое отдельное действие в потенциально бесконечный поток. Человек может создать сотню записей за день — и это будет много. Агент может создать сотню записей за минуту, и это не предел. Система лицензирования, рассчитанная на количество сотрудников, suddenly видит активность, эквивалентную тысяче пользователей, хотя формально зашёл только один. Контролеры использования, триггеры безопасности, лимиты API — всё это было настроено на человеческий ритм работы. Агент же работает в другом ритме, и эти механизмы начинают срабатывать либо слишком часто, блокируя легитимную активность, либо не срабатывают вовсе, пропуская аномалию, которую раньше не мог себе позволить ни один человек.
Проблема глубже, чем просто перегрузка. Это вопрос экономической модели корпоративного ПО. Десятилетиями продавцы софта продавали лицензии по количеству пользователей. Это было понятно, измеримо и предсказуемо. Агент переворачивает эту модель. Один агент может заменить работу десяти сотрудников — но должен ли он стоить как десять лицензий? Или как одна? Или вообще как нечто иное? Корпоративные клиенты платят за пользователей, но агенты не пользователи в традиционном смысле. Они не сидят за мониторами, не смотрят на дашборды, не принимают решения. Они исполняют алгоритмы. И экономика, привязанная к человеку, ломается, когда основным действующим лицом становится алгоритм.
Контроль без человека
Безопасность корпоративных систем строится на цепочке ответственности: кто, когда, зачем. Каждый запрос логируется, каждое действие можно отследить до конкретного человека. Это работает, пока за действием стоит человек, который может объяснить свои мотивы. Агент же не объясняет. Он действует по инструкции, но инструкция может быть сложной, многоступенчатой, с внутренними решениями, которые не видны администратору системы. Когда агент создаёт тысячу записей, удаляет половину и модифицирует остальные, в логах видно, что это сделал один пользователь. Но почему именно так? Какова логика этих действий? И что делать, если агент начал вести себя не так, как ожидалось? Традиционные модели контроля доступа не отвечают на эти вопросы.
Корпоративное ПО привыкло доверять пользователю, прошедшему аутентификацию. Если пароль верный и права в порядке, система обычно не задаёт дополнительных вопросов. Агент с теми же правами получает ту же степень доверия — но его действия могут быть неизмеримо сложнее и масштабнее. Если человек случайно удаляет важную запись, это можно заметить и откатить. Если агент удаляет тысячу записей по ошибке в инструкции, ущерб может быть катастрофическим и необратимым. Системы откатов и резервного копирования тоже проектировались под человеческий масштаб ошибок, а не под массовые автоматические действия. И здесь возникает новый класс рисков, которые раньше не существовали.
Что из этого следует
Корпоративное ПО стоит на пороге пересмотра базовых предположений. Агенты — это не просто ещё один интерфейс, это другая парадигма взаимодействия с системой. Они требуют новых моделей лицензирования, новых подходов к безопасности, нового понимания того, что такое «пользователь» в эпоху автономных алгоритмов. Вендоры, которые будут продолжать продавать лицензии по людям, пока их клиенты массово внедряют агентов, столкнутся с фундаментальным конфликтом между моделью продаж и реальностью использования. Клиенты, в свою очередь, будут искать решения, где агенты — это граждане первого класса, а не эмуляция человека через костыли.
Эта проблема не решится простой настройкой лимитов или добавлением новых флагов в настройках прав доступа. Она требует переосмысления архитектуры корпоративных систем. Как отличить действия агента от действий человека? Как тарифовать автономную активность? Как контролировать алгоритм, который работает на грани человеческого понимания? Ответов пока нет, но вопросы уже стоят перед каждой компанией, которая начинает внедрять агентов в свою операционную инфраструктуру. И первое, что нужно признать — старые модели больше не работают просто потому, что они были созданы для мира, где единственным действующим лицом был человек.