Руководитель ML/AI-платформы

Задачи: — Развивать LLM-платформу как внутренний продукт: шлюз к моделям с учётом квот и стоимости, self-hosted инференс, выбор и оценка моделей (evals, бенчмарки), защита чувствительных данных, базовая инфраструктура для агентских сценариев. — Переводить продуктовые интеграции с внешних LLM на модели в собственном контуре и модели российских провайдеров. — Отвечать за GPU-мощности: планирование ёмкости, размещение с резервированием, выбор между арендой и своим железом, расчёт окупаемости, бюджет CAPEX/OPEX. — Поддерживать и эволюционно развивать ML-платформу: Kubernetes, model registry, serving, обновления под требования безопасности, наблюдаемость и надёжность. Требования: — Опыт руководства ML- или LLM-платформой либо инфраструктурной командой. — Практическое понимание LLM-инфраструктуры: serving (vLLM, TGI, Triton или аналоги), ограничения и утилизация GPU, производительность, стоимость токена, оценка качества моделей, компромисс между своими моделями и внешним API. — Опыт MLOps: Kubernetes, model registry и tracking (MLflow или аналоги), CI/CD моделей, эксплуатация большого числа моделей. — Умение управлять внутренним продуктом: переводить размытые запросы в задачи с критериями результата, говорить «нет» с альтернативой, держать фокус команды на 2–3 главных целях. — Опыт работы с требованиями безопасности и регуляторики: умение договориться об этапности, а не принять весь скоуп разом. Условия: — Удаленная работа с возможностью приходить в офис в Москве, Санкт-Петербурге и Новосибирске