AI / RAG security assessment
Оценка безопасности AI, RAG и агентов
Проверяем, как AI-система обращается с инструкциями, закрытыми данными, retrieval, инструментами и действиями в реалистичных сценариях злоупотребления.
Связываем тестирование prompt injection и модели с обычными контролями приложения: авторизацией, изоляцией данных, проверкой вывода, журналированием и подтверждением опасных действий.
01 / Покрытие
Что мы проверяем
Фиксируем границы и критичные сценарии до старта, чтобы работа отвечала вашим бизнес-рискам.
Инструкции и prompt injection
Прямые и косвенные инструкции, приоритет системных правил, внешнее содержимое и обход защитных слоёв.
RAG и доступ к данным
Авторизация retrieval, разделение тенантов, чувствительные фрагменты, индексация, цитирование и происхождение данных.
Инструменты и агентность
Полномочия инструментов, подтверждение действий, серверные проверки, цепочки вызовов и небезопасное доверие к выводу модели.
Приложение и операции
API, сессии, секреты, вывод в браузер или downstream-системы, лимиты, журналирование и реагирование.
02 / Методика
Проверка, которую можно защищать перед командой и аудиторами
Сочетаем ручное исследование, инструменты и контроль доказательств. Каждый вывод проходит проверку специалистом.
- 01
Строим модель угроз
Фиксируем активы, роли, источники знаний, инструменты, границы доверия и наиболее опасные действия.
- 02
Создаём безопасные сценарии
Формируем проверяемые misuse-кейсы и критерии успеха без разрушительных payload или массового извлечения данных.
- 03
Проверяем всю цепочку
Наблюдаем модель, retrieval, оркестрацию, API и серверные контроли; повторяем вариации там, где поведение недетерминировано.
- 04
Снижаем риск и ретестируем
Разделяем быстрые guardrail-меры и системные исправления, затем повторно проверяем согласованные сценарии.
03 / Результат
Материалы для решений и исправления
Отчёт объясняет риск руководству и даёт инженерам воспроизводимые шаги без лишнего шума.
PENTEST.RED / AI / 06
Модель угроз AI-системы
Активы, роли, источники инструкций, доверительные границы, инструменты и пути воздействия.
Реестр проверенных сценариев
Предусловия, безопасные шаги, наблюдаемый результат, уверенность и ограничения воспроизводимости.
План защитных мер
Изменения авторизации, retrieval, output handling, прав инструментов, подтверждений, логов и мониторинга.
Управленческое резюме и ретест
Приоритетные риски, решения для владельцев продукта и результат повторной проверки исправлений.
04 / Кому подходит
Когда такая проверка оправданна
Формат зависит от решения, которое вы хотите принять, и от доступного тестового контура.
RAG или AI-ассистент перед запуском
Проверить границы данных, retrieval, инструменты и действия модели до подключения реальных пользователей.
Корпоративный copilot с закрытыми данными
Оценить разделение тенантов, права на источники, утечки через ответы и доверие к внешнему контенту.
Агент с инструментами и автоматизацией
Проверить, какие действия модель способна инициировать, какие подтверждения обязательны и где нужна серверная авторизация.
05 / Границы
Что входит в контур — и что согласуется отдельно
До старта фиксируем разрешённые системы, роли, окружения и ограничения. Непроверенные области явно остаются в отчёте.
Обычно входит
- Согласованные модели, системные инструкции, RAG-источники, роли, коннекторы, инструменты и наблюдаемые интерфейсы.
- Prompt injection, разделение данных, авторизация retrieval, небезопасный вывод, чрезмерная агентность и злоупотребление ресурсами.
- Модель угроз, безопасные сценарии проверки, журнал наблюдений, рекомендации и целевой ретест.
Только по отдельному согласованию
- Гарантия отсутствия галлюцинаций или любых нежелательных ответов; оценка фиксирует проверенные сценарии и ограничения.
- Обучающие датасеты, веса модели, цепочка поставки поставщика и внутренние контроли SaaS, если к ним нет согласованного доступа.
- Автономные разрушительные действия, массовая выгрузка данных и нагрузочное тестирование без отдельного разрешения.
06 / Оценка проекта
Что влияет на объём и стоимость
Цена формируется после scoping-сессии. Эти факторы определяют трудоёмкость; фиксированных цифр без понимания контура мы не называем.
Архитектура AI-системы
Число моделей, RAG-индексов, источников, тенантов, агентов, инструментов и внешних коннекторов.
Полномочия системы
Доступ к данным, возможность записи, выполнение действий, денежные операции и необходимость human approval.
Роли и сценарии
Типы пользователей, чувствительность данных, языки, каналы и набор приоритетных misuse-кейсов.
Наблюдаемость и стабильность
Доступ к логам и трассировке, воспроизводимость ответов, лимиты поставщика и частота изменений промптов или моделей.
07 / Материалы
Подготовьтесь и проверьте формат результата
Используйте открытый планировщик, синтетический пример отчёта и связанные статьи до разговора с подрядчиком.
Пример отчёта о пентесте
Синтетический пример показывает управленческое резюме, безопасное описание находки, план исправления и критерии ретеста.
Открыть примерПланировщик контура
Соберите черновик задания в браузере: активы, доступы, цель и ожидаемые доказательства.
Подготовить контурRED JOURNALЧто содержит полезный отчет о пентесте
Хороший отчет помогает разным командам принять решение, воспроизвести проблему, исправить первопричину и убедиться, что риск действительно устранен.
Читать материалRED JOURNALНепрерывный пентест и разовый аудит: как они дополняют друг друга
Разбираем, что дает проверка в конкретный момент, зачем нужны регулярные проверки изменений и где по-прежнему незаменима ручная оценка.
Читать материалЭто обычный пентест приложения?
Частично. Мы проверяем web/API-контролы, но добавляем модель угроз и сценарии, специфичные для RAG, prompt injection, инструментов и недетерминированного поведения.
Можно гарантировать защиту от всех prompt injection?
Нет. Оценка подтверждает поведение в согласованных сценариях и помогает ограничить последствия. Надёжность строится на серверной авторизации, минимальных правах, подтверждении действий и наблюдаемости, а не на одном системном промпте.
Нужен ли доступ к промптам и логам?
Он повышает качество диагностики, но не всегда обязателен. До старта фиксируем доступные интерфейсы, трассировку, версии моделей и ограничения поставщика.
Как проводится ретест при недетерминированных ответах?
Заранее задаём критерий приемки, повторяем согласованный набор сценариев и проверяем не только текст ответа, но и фактический доступ к данным и действиям.
Следующий шаг
Получите план и оценку проекта
Расскажите о системе, сроках и цели проверки. Мы уточним контур и предложим подходящий формат без обязательств.