Руководитель ML/AI-платформы

Развивать LLM-платформу как внутренний продукт: шлюз к моделям с учётом квот и стоимости, self-hosted инференс, выбор и оценка моделей (evals, бенчмарки), защита чувствительных данных, базовая инфраструктура для агентских сценариев. Переводить продуктовые интеграции с внешних LLM на модели в собственном контуре и модели российских провайдеров. Отвечать за GPU-мощности: планирование ёмкости, размещение с резервированием, выбор между арендой и своим железом, расчёт окупаемости, бюджет CAPEX/OPEX. Поддерживать и эволюционно развивать ML-платформу: Kubernetes, model registry, serving, обновления под требования безопасности, наблюдаемость и надёжность. Выстроить обработку входящих запросов в платформу: единая точка приёма, прозрачная приоритизация, чёткие границы между платформой и прикладными решениями команд, документация для самообслуживания. Руководить командой: нанимать и развивать сильных инженеров, Работать на стыках: с ИБ по ПДн, 152-ФЗ, prompt injection; с SRE, инфраструктурой и Data Platform по данным, Kafka и вычислениям; Формировать и защищать стратегию развития ML/AI-платформы Опыт руководства ML- или LLM-платформой либо инфраструктурной командой. Практическое понимание LLM-инфраструктуры: serving (vLLM, TGI, Triton или аналоги), ограничения и утилизация GPU, производительность, стоимость токена, оценка качества моделей, компромисс между своими моделями и внешним API. Опыт MLOps: Kubernetes, model registry и tracking (MLflow или аналоги), CI/CD моделей, эксплуатация большого числа моделей. Умение управлять внутренним продуктом: переводить размытые запросы в задачи с критериями результата, говорить «нет» с альтернативой, держать фокус команды на 2–3 главных целях. Уверенная коммуникация с топ-менеджментом и заказчиками Опыт работы с требованиями безопасности и регуляторики: умение договориться об этапности, а не принять весь скоуп разом. Финансовая грамотность: бюджет, обоснование закупок железа и найма, прогноз потребления. Будет плюсом: Опыт миграции с зарубежных LLM API на self-host или российских провайдеров (Yandex Cloud, Cloud.ru и др.). Агентские платформы: MCP, запуск и эксплуатация автономных агентов, LLM-роутинг, кэширование (KV-cache). NLP и evals: детекция и маскирование ПДн, golden-датасеты, бенчмаркинг моделей. Опыт найма в узком рынке LLM/GPU-инженеров и построения ML-гильдии или центра экспертизы. Знакомство со стеком: Kafka, Spark, Feast, JupyterHub, Kubeflow Удаленную работу с возможностью приходить в офис в Москве, Санкт-Петербурге и Новосибирске. В офисе – кухни, оборудованные всем необходимым, а также снеки, фрукты, кофе и чай. Тихие комнаты, где можно сосредоточиться над задачей или просто отдохнуть в тишине; Большие возможности для роста и развития: в первые месяцы у каждого сотрудника есть ментор, после появляется личный план развития и возможность прокачивать soft/ hard skills на практике, обучении, конференциях; ДМС с первого рабочего дня (со стоматологией, госпитализацией, страховкой выезжающего за пределы нашей страны); 5 day off в год, помимо основного отпуска; Кафетерий льгот Aladdin и PrimeZone. У каждого сотрудника есть денежный депозит 25000 рублей — можешь оплатить им абонемент в фитнес, обучение, развлечения, консультации психолога и других специалистов, купить вещи или подарки для себя и своей семьи; Доплата за 10 дней больничного: Циан компенсирует 10 рабочих дней больничного в год после прохождения испытательного срока. Если ты проведёшь на официальном больничном две недели, ты не потеряешь в доходе, оклад за месяц будет выплачен полностью.