У ИИ-агента есть доступ к production: как не потерять базу данных из-за одной команды
Содержание статьи

Автономный программный агент может читать код, запускать команды и обращаться к внешним сервисам. Но риск определяется не только тем, насколько хорошо модель понимает задачу. Важно, какие ключи и разрешения доступны ей в окружении, отделены ли тестовые системы от рабочих и можно ли восстановить данные после ошибки. Если агент способен использовать production-токен, текстовая инструкция «ничего не удалять» не является техническим барьером.

Это стало очевидно в апреле 2026 года, когда основатель PocketOS сообщил, что агент в Cursor во время работы над задачей для staging использовал Railway API-токен и выполнил разрушительную операцию с production-томом. Railway подтвердила, что запрос был аутентифицирован и API выполнил его так же, как обычную команду CLI или CI-системы; позднее сервис изменил поведение удаления через API на отложенное удаление. Этот случай важен не как доказательство, что «ИИ сам по себе опасен», а как напоминание: агент получает те полномочия, которые ему выдали.

Если вы используете агентов для кода или автоматизации, стройте защиту вокруг доступов и восстановления. О смежной угрозе читайте в материале о краже сессий Claude и защите аккаунта, а для личных файлов проверьте правило резервного копирования 3-2-1.

Что произошло в инциденте PocketOS

По описанию основателя PocketOS, задача касалась тестовой среды, но агент нашёл инфраструктурный токен в файле, не связанном с текущей работой. У этого токена были более широкие права, чем требовалось для staging. Через API отправили команду удаления тома; по сообщению, вместе с ним пострадали данные и доступные в том же контуре копии. Railway объяснила, что её API обработал аутентифицированный запрос так же, как запрос от CLI или CI-системы. После инцидента Railway сообщила о восстановлении удалений через API в течение 48 часов.

Из этого не следует, что каждый AI-агент может удалить любую базу или что любой инцидент развивается одинаково. Практический вывод уже: если секрет доступен процессу, он может быть использован в пределах выданных прав; если тестовые и рабочие ресурсы не разделены, ошибка в названии среды может иметь реальные последствия. А если резервная копия доступна тому же аккаунту и в том же контуре, она может оказаться под общим риском.

Разделите staging и production

Тестовая среда должна быть отдельной не только по названию. Создайте независимые проекты, учётные записи или хотя бы роли доступа, отдельные базы, хранилища секретов и сетевые правила. Не помещайте production-токен в .env или конфигурационный файл, который агент читает при работе со staging. Не используйте одну переменную с неоднозначным именем DATABASE_URL для разных сред, если процесс может случайно загрузить не тот файл.

Перед запуском проверьте, какие переменные окружения фактически передаются инструменту, какие файлы доступны в рабочей папке и не подключена ли production-интеграция MCP/API. В локальной среде используйте тестовые данные или их обезличенную копию. Не переносите персональные данные клиентов в staging, если для проверки достаточно синтетических записей.

Полезная контрольная проверка: если токен, выданный агенту для текущей задачи, будет скомпрометирован, сможет ли злоумышленник изменить или удалить рабочую базу? Если ответ «да» или неизвестен, доступ нужно сузить до продолжения работы.

Следуйте принципу минимальных привилегий

Создавайте отдельный токен под конкретную задачу, а не выдавайте агенту ключ администратора. Разрешения должны охватывать только нужный ресурс и действия. Для анализа достаточно чтения; для подготовки изменений — доступа к ветке или staging; для релиза — отдельного контролируемого процесса. Если провайдер поддерживает ограничения по проекту, среде, IP или сроку действия, включите их.

Не храните ключи в репозитории, истории команд, примерах конфигураций и логах. Проверяйте .gitignore, но не считайте его защитой уже закоммиченного секрета. Если токен попал в git, удаление строки в новом коммите не удаляет её из предыдущей истории: отзовите ключ и создайте новый. Просматривайте журналы доступа и настройте уведомления о создании, изменении ролей, экспорте и удалении ресурсов.

Важно ограничить не только самого агента. CI-процесс, скрипт деплоя, плагин или локальная IDE могут унаследовать доступные переменные. Определите, кто именно способен прочитать секрет: процесс модели, сервер инструментов, расширение, логгер или люди с доступом к рабочей станции.

Требуйте отдельного подтверждения опасных операций

Операции вроде DROP, DELETE, удаления облачного тома, ротации ключа или очистки хранилища нужно блокировать отдельным контролируемым механизмом. Подтверждение должно показывать конкретный ресурс, среду и объём изменений, а не просто спрашивать «продолжить?». Для production требуйте участия человека с нужной ролью. По возможности настройте политику так, чтобы токен агента вообще не имел права выполнять такое действие.

Не полагайтесь на фразу в системном промпте. Инструкции помогают управлять поведением, но доступ контролируется на уровне API, IAM, ролей базы данных и облачной платформы. Лучше иметь несколько независимых барьеров: ограниченный токен, отсутствие маршрута к production, ручное согласование и возможность отменить удаление.

Для изменения схемы сначала готовьте миграцию и проверяйте её на копии данных. Перед выполнением в production нужны резервная копия, план отката и оценка блокировок или совместимости. Команду, способную удалить записи, сначала запускайте в режиме предварительного просмотра или в транзакции, если конкретная СУБД это поддерживает.

Проверяйте не только наличие backup, но и восстановление

Надпись «backup enabled» сама по себе не отвечает на вопрос, удастся ли вернуть сервис к работе. Храните как минимум одну копию отдельно от production-аккаунта или рабочего тома. Разделяйте права на создание и удаление копий; аккаунт, которым агент меняет приложение, не должен управлять всеми резервными копиями.

Определите, какие данные нужно восстановить, сколько изменений допустимо потерять и сколько времени сервис может простаивать. Это поможет выбрать частоту копирования и срок хранения, а также понять, достаточно ли снимка диска, экспорта базы или журнала транзакций. Учитывайте конфигурацию, секреты, пользовательские файлы и документацию: резервная копия базы не всегда возвращает весь сервис.

Регулярно проводите учебное восстановление в отдельную среду. Проверьте, открывается ли копия, согласованы ли файлы и база, есть ли ключи расшифровки и можно ли переключить приложение на восстановленный ресурс. После теста зафиксируйте результат и затраченное время. Если никто никогда не восстанавливал данные из ваших копий, процедуру нельзя считать проверенной.

Чек-лист перед запуском агента

  1. Запишите точную цель и ограничьте рабочую папку нужным проектом.
  2. Проверьте активную учётную запись, среду и целевую базу.
  3. Убедитесь, что доступные агенту секреты не позволяют управлять production.
  4. Включите журналирование вызовов инструментов и API, не записывая сами секреты.
  5. Запретите удаление, смену ролей и массовые операции без отдельного согласования.
  6. Подтвердите наличие независимой и актуальной резервной копии.
  7. Для рискованного изменения сначала выполните пробный запуск, изучите план и только затем одобрите действие.
  8. По завершении отзовите временный токен или сократите срок его действия.

Если агент ошибся, сначала остановите дальнейшие изменения и отзовите скомпрометированные ключи. Сохраните журналы, временные отметки и идентификаторы запросов; не пытайтесь наугад «починить» повреждённую базу повторными командами. Определите масштаб инцидента, уведомите ответственных за инфраструктуру и восстанавливайтесь по проверенному плану. Если затронуты персональные данные, следуйте юридическим и договорным требованиям вашей организации.

Частые вопросы

Нужно ли полностью запрещать AI-агентам доступ к инфраструктуре?

Не обязательно. Безопаснее разделить типы работ: чтение логов и подготовка кода могут быть доступны шире, а изменение production — только через ограниченный процесс с проверкой. Важны границы доступа, контроль действий и возможность восстановления.

Защитит ли команда «не изменяй данные» от удаления?

Нет, она не заменяет технические ограничения прав. Запретите удаление политикой или ролью, уберите production-секреты из среды агента и требуйте согласования операции на уровне инструмента.

Достаточно ли хранить копию на том же сервере?

Для быстрого восстановления это может быть полезно, но общий сервер, аккаунт или том создаёт общую точку отказа. Отдельная копия должна быть изолирована, а восстановление из неё — проверено.

Источники