Описание вакансии
Задачи:
— Проводить аудиты безопасности ML/LLM-систем, включая инференс-сервисы, RAG-пайплайны, агентов с доступом к инструментам, MCP-серверы, ML-платформу и её артефакты (модели, датасеты, фичестор).
— Проводить атаки на системы на базе ИИ, включая прямой и косвенный prompt injection, джейлбрейки, эксфильтрацию системных промптов и данных, злоупотребление tool calling, выход агента за границы разрешённого, отравление данных и моделей, атаки на цепочку поставки (веса, pickle, кастомные операторы, сторонние модели).
— Развивать DAST под AI-эндпоинты: создавать харнесс и сканер для LLM-интерфейсов, автоматизированные наборы атак, регрессионное тестирование моделей и защитных механизмов, встраивать проверки в CI/CD.
— Проверять эффективность защитных механизмов (гарды входа и выхода, фильтры, лимиты, изоляция инструментов и данных) и формировать обоснованные требования к ним.
— Формировать стандарты безопасной разработки AI-сервисов: модели угроз, чек-листы ревью, требования к правам агентов, работе с секретами и изоляции окружений.
— Разрабатывать автоматизацию и инструментарий на Python или Go, интегрировать его с существующими системами (ASOC, Jira, CI/CD, SIEM).
— Участвовать около 20% времени в проектах команды по безопасности приложений.
— Работать в тесном контакте с командами ML-платформы, разработки и инфраструктурной безопасности.
Требования:
— Знание основных уязвимостей веб-приложений и API (OWASP Top 10) на уровне, достаточном для их обнаружения и объяснения.
— Понимание ML-процессов: обучение моделей, валидация, вывод в продакшен, состав ML-пайплайна (данные, обучение, хранение и сериализация весов, реестр моделей, инференс).
— Практическое понимание LLM: инференс, RAG, агентные архитектуры, tool calling, опыт работы с API моделей и промпт-инжиниринг.
— Знание специфических рисков AI-систем: prompt injection, отравление данных, атаки на цепочку поставки моделей.
— Базовое понимание операционных систем, сетей, контейнеров и Kubernetes.
— Самостоятельность и готовность работать в области без устоявшихся методологий и создавать их.
Будет плюсом:
— Опыт в ML-разработке или MLOps.
— Опыт с инференс-стеком (Triton, vLLM, TGI), MLflow или Kubeflow, реестрами моделей.
— Коммерческий опыт пентестов или аудитов безопасности приложений.
— Знакомство с MCP и фреймворками агентных систем (LangGraph, LangChain, CrewAI и аналоги).
— Опыт разработки гардов и фильтров для LLM-трафика.
— Публичные исследования, CVE, доклады, участие в AI red teaming или в программах bug bounty по LLM.
Условия:
— Возможность выбора формата работы: гибрид, удалёнка, офисы в Москве, Санкт-Петербурге, Иннополисе, Новосибирске и других городах России, а также в Казахстане и Беларуси.
— Участие в конференциях, митапах, техтоках, хакатонах и конкурсах.
— Оплата билетов, дороги и проживания для участия в мероприятиях.
— Завтраки в офисе и кофе-поинты для перекуса.
— ДМС со стоматологией и льготная медицинская страховка для близких, страхование от несчастных случаев, полис выезжающего за рубеж, онлайн-поддержка психолога.
— Курсы по запросу и поддержка в карьерном развитии.
— Бесплатные курсы программирования, математики и английского языка для детей сотрудников.
— Партнёрские скидочные программы, спортивные клубы, скидки на клубные карты фитнес-сетей, йога в офисе.
— Бесплатные курсы Route 256 по Go, QA, C#.
— Оплачиваемая стажировка Route Start для начинающих специалистов.
— Зарплатные проекты от Ozon Банка и других банков.
— Льготная жилищная программа для сотрудников.
— Реферальный бонус за рекомендацию друга.
Контакты работодателя доступны по кнопке «Откликнуться» после входа.
Автоотклики