Workplace: Удаленно
Объединённая компания Wildberries и Russ — это международная технологическая компания, образованная в результате слияния двух лидеров рынка — IT-компании Wildberries и оператора наружной рекламы Russ.
Обязанности
Строить и автоматизировать пайплайны обучения в ClearML, от экспериментов DS до воспроизводимого артефакта в model registry;
Автоматизировать деплой моделей в Triton, включая конвертацию в ONNX и TensorRT, конфигурацию, выкатку без участия инженера, канареечные релизы и откаты;
Развивать Python-сервисы вокруг Triton, единый inference gateway, gRPC, батчинг и очереди;
Ускорять инференс через профилирование, dynamic batching, ensemble и BLS, TensorRT-оптимизации;
Держать SLA инференс-контура – метрики, алертинг, разбор инцидентов, дежурства в ротации;
Поддерживать JupyterHub, ClearML-агенты и шаблоны проектов для DS-команд;
Вместе с инфраструктурным инженером проектировать размещение моделей на GPU-кластере;
Общаться с DS-командами, понимать их потребности и переводить в технические решения;
Закладывать стандарты и шаблоны, чтобы раскатать контур на весь отдел Trust & Safety.
Требования
Уверенный Python, опыт асинхронных сервисов (FastAPI, asyncio), gRPC и работы с очередями (Kafka);
Опыт с Nvidia Triton Inference Server или другим model serving (TorchServe, vLLM, KServe) с готовностью глубоко освоить Triton;
Опыт работы с ClearML, Kubeflow, MLflow или аналогичной MLOps-платформой на уровне пайплайнов, трекинга экспериментов и model registry;
Инженерное понимание ML-стека – PyTorch, ONNX, конвертация и упаковка моделей, GPU-инференс;
Kubernetes на уровне разработчика сервисов, включая деплой, Helm-чарты, ресурсы, HPA и отладку подов;
Опыт с GitLab CI, инфраструктурой как код, мониторингом и логами;
Умение взаимодействовать с DS-командами и доводить решения до прода, а не до прототипа.
Условия
Обучение и развитие: языковые клубы, собственный корпоративный университет, программы развития управленческих навыков и многое другое;
Благополучие сотрудников: корпоративный пакет ДМС со стоматологией, корпоративный спорт, консультации психолога и дополнительные возможности аккредитованной IT-компании;
Множество сообществ: клуб спикеров, футбола, йоги, шахмат и т.д.;
Забота о семьях: создаем условия, в которых легко сочетать карьеру и заботу о близких – от гибкого подхода до масштабных проектов для детей сотрудников;
Скидки и партнерские программы: на обучение, страхование, покупки и многое другое;
Комфортная рабочая среда: бесплатное питание в офисе, современные офисы рядом с метро, корпоративная техника и портал для сотрудников.
Контакты работодателя доступны по кнопке «Откликнуться» после входа.