Описание вакансии
Коротко о ролиКоманда безопасности ИИ ищет специалиста для whitebox-анализа LLM-приложений, AI-агентов, RAG и векторных БД. Нужно выявлять prompt injection и другие AI-угрозы, проверять защитные фильтры и контроль вызовов инструментов.
Задачи:
— Проводить анализ защищенности (преимущественно Whitebox) LLM-приложений, AI-агентов, RAG, векторных БД, Low-Code/No-Code-систем (Dify, n8n) и интеграций с внешними API / облачными моделями.
— Выявлять специфичные для AI векторы атак: prompt injection, indirect prompt injection, jailbreak, data poisoning, excessive agency, unsafe tool calls и over-privileged agents.
— Настраивать и валидировать защитные механизмы: фильтры PII / конфиденциальных данных, ограничения контекста, rate limiting, контроль вызова tools и ручные подтверждения для критичных операций.
— Укреплять внутренний AI/ML-тулинг совместно с платформенными командами.
— Строить систему правил, скиллов и хуков, чтобы встраивать политики ИБ непосредственно в среду разработки: skills, rules, hooks, MCP-серверы.
— Проверять безопасность локального запуска LLM и агентов в Kubernetes и Linux-песочницах: изоляция сессий, памяти, контейнеров, RBAC, NetworkPolicy, Secrets Management.
— Формировать требования к аудиту и трассировке AI-систем: trace ID, логирование prompt/response, фиксация вызовов моделей и действий агентов.
— Консультировать команды, помогать внедрять безопасный код и выстраивать понятные процессы.
Требования:
— Опыт в сфере ИБ от двух лет в одном или нескольких направлениях: AppSec, DevSecOps, Cloud/K8s Security, Product Security или ML Security.
— Уверенное владение одним из языков программирования: Python, Go, C#, TypeScript, Rust.
— Умение читать чужой код, искать уязвимости и писать PoC.
— Знание AI/LLM-стека: понимание устройства языковых моделей, RAG, векторных БД (Milvus, Qdrant, pgvector и др.), AI-агентов, agent memory, tool calling, а также стандарта взаимодействия MCP.
— Знание AI-угроз: понимание рисков OWASP for LLM, MITRE ATLAS (prompt injection, раскрытие system prompt, утечки данных, необдуманное выполнение кода агентами).
— Знание основ Linux и базовое понимание безопасности Kubernetes: RBAC, ServiceAccount, NetworkPolicy, Secrets, изоляция контейнеров.
— Знание классических веб-уязвимостей, механизмов аутентификации и авторизации OAuth2, OIDC, JWT, RBAC и безопасной разработки — Secure SDLC, Threat Modeling.
— Умение аргументированно объяснять риски, находить компромиссы с разработкой.
Условия:
— Гибридный формат работы в Екатеринбурге, офис на ул. Малопрудной, 5.
— Предоставляется техника, рабочее место, библиотека с профессиональной литературой, место для отдыха и кухонная зона с фруктами и снеками.
— Уровень дохода зависит от технических знаний и навыков, регулярный пересмотр зарплат с учетом профессионального роста.
— Финансовые бонусы.
— Сильное инженерное комьюнити, внутренние технические конференции, обмен опытом между командами.
— Возможность сменить продукт, команду или предметную область внутри компании.
— Поддержка развития в любом направлении, возможность делиться экспертизой, выступать на конференциях, участвовать в подкастах или видео, писать статьи.
— Организация внутреннего и внешнего обучения.