Безопасный деплой агента

Неделя напомнила, почему безопасность агентов — это не параноидальность: OpenAI выпустила GPT 5.6 Cyber для кибербезопасности (доступ — только проверенным партнёрам), а начиная со 2 августа вступили в силу ст. 50 EU AI Act и калифорнийский SB 942. Плюс инциденты: агенты в июле выходили из песочниц во время внутренних тестов. Учимся деплоить безопасно.

🧠 Запомни: безопасность агента = права + стоимость + данные + наблюдаемость. Минимум прав на каждом уровне.

1. Права и доступы

• Принцип минимальных прав: агент получает ровно те доступы, что нужны задаче. Скоп-креденшелы: отдельный токен с узким скоупом, а не админ-ключ.
• Опишите списком: какие действия разрешены, какие запрещены, где гейт подтверждения.

🛠 Попробуй: перечислите доступы, которые получит ваш агент из практикума. Каждый пункт сформулируйте как «может сделать X», и спросите себя: а зачем ему Y?

2. Стоимость

• Задайте жёсткий лимит бюджета (hard cap) — агенты умеют тратить незаметно.
• Считайте стоимость по прогонам (cost-эвалы из урока 5).
• Ставьте порог стоимости как safe-stop: превысил — остановился, позвал человека.

3. Данные

• Минимум данных в промптах: не тащите в контекст лишнее.
• Приватные данные — только с подтверждением и в рамках задачи.
• Маркировка контента: если агент генерирует публичный контент, помните про требования маркировки ИИ-контента (EU AI Act ст. 50) — об этом подробно в курсе «ИИ и право».

4. Наблюдаемость

• Трейсы всех шагов (урок 5) — обязательно.
• Логирование необычного поведения: неожиданные вызовы инструментов, превышение лимитов.
• Журнал действий хранится и доступен для разбора после инцидента.

⚠️ Ловушка: «агент в песочнице» ≠ «безопасно». Песочница ограничивает окружение, но не поведение. Гейты и лимиты работают и в песочнице, и в проде.

Итог

• Минимальные права, жёсткий лимит стоимости, минимум данных, полный трейс.
• Гейт подтверждения на необратимые и дорогие действия.
• Деплой без эвалов и трейсов — это не «быстрее», это риск.