Безопасность AI-приложений
Классический пентест не находит того, чем ломают AI-продукты. Инъекция промпта третий год возглавляет рейтинг OWASP для LLM, а избыточные полномочия агента поднялись в нём на третье место: агент с доступом к почте и платежам — это не чат, а исполняемый код с правами пользователя.
Что входит
- Проверка на прямые и косвенные инъекции промптов, в том числе через документы и веб
- Аудит полномочий агента и доступов к инструментам по принципу минимальных прав
- Поиск утечек скрытого контекста, системных инструкций и чужих данных
- Регулярное состязательное тестирование и отчёт с приоритетами
Технологии
Платформы
Как мы работаем
- 01
Бриф и оценка
Разбираем задачу, текущую систему и ограничения. Называем сроки и бюджет и предлагаем формат работы.
- 02
Спецификация
Фиксируем требования и критерии готовности в спецификации — по ней работаем и принимаем результат.
- 03
Разработка итерациями
Показываем результат после каждой итерации, тестируем и правим до того, как задача уйдёт в релиз.
- 04
Запуск и поддержка
Выкатываем без простоя, следим за работой после запуска и остаёмся на поддержке, если она нужна.
Стоимость и сроки
Почасовые ставки: от 1 800 ₽ до 3 500 ₽ / час — в зависимости от квалификации специалиста.
Точную оценку сроков и бюджета даём после брифа: разбираем задачу, фиксируем объём и предлагаем формат — фиксированный тариф или почасовую работу.
Смотреть тарифыЧастые вопросы
Чем это отличается от обычного пентеста?
Классический пентест проверяет инфраструктуру и веб-приложение, но не то, что модель делает с недоверенным вводом. Мы проверяем прямые и косвенные инъекции промптов через документы, веб-страницы и письма, которые читает агент, утечки системных инструкций и контекста, а также то, что агент реально может сделать своими инструментами. Для полной картины такую проверку стоит совмещать с обычным аудитом безопасности.
Что нужно от нас и тестируете ли вы на продакшене?
Нужны тестовый стенд, максимально близкий к боевому, тестовые учётные записи и описание инструментов и данных, к которым у агента есть доступ. На продакшене тестируем только по согласованию и в оговорённых рамках. Реальные данные пользователей для проверки не нужны.
Что мы получим по итогам проверки?
Отчёт с найденными уязвимостями, приоритетами по риску, шагами воспроизведения и рекомендациями по исправлению. Исправления можем внести сами или вместе с вашей командой, после чего проводим повторную проверку. Модели и промпты меняются, поэтому состязательное тестирование лучше проводить регулярно — почасово или по фиксированному месячному тарифу.
Безопасность AI-приложений
Проверяем LLM-продукты на инъекции промптов, утечки контекста и избыточные полномочия агентов.