Lead ML Engineer (LLM Inference & Architecture)

Задачи: — Ускорять и масштабировать LLM в продакшене: оптимизация инференса очень больших моделей (до 1T+ параметров), SGLang, KV/prefix caching, speculative decoding, квантизация. — Разворачивать распределенный инференс: MoE, tensor/expert/pipeline parallelism на multi-node / multi-GPU кластерах (32x H200 + AWS). — Заниматься Post-Training: обучать и дообучать модели компаньонов (SFT, DPO/RLHF), улучшать агентные каркасы и алгоритмы чата. — Осуществлять техлидство (без бюрократии и PM): ревью экспериментов команды NLP/CV (7 инженеров), выбор направлений и оценка гипотез. Требования: — Глубокий опыт оптимизации LLM в продакшене (SGLang, vLLM или TensorRT-LLM). — Опыт распределенного инференса/обучения гигантских моделей (MoE, multi-node clusters). — Понимание профилирования GPU, работы attention-кернелов и KV-cache. — Практика дообучения моделей (RLHF, DPO или аналоги). — Сильный бэкграунд на PyTorch / Transformers. — Английский или русский язык на профессиональном уровне. Плюсом будет: — Опыт разработки CUDA / Triton кернелов. — Бэкграунд в CV (опыт ускорения инференса гигантских GenAI моделей). — Опыт работы в AI-стартапах (Character.ai, Replika, OpenAI и др.) или BigTech (Яндекс, Сбер, T-Bank, Nebius, Meta, Mistral). — Профильное математическое / CS образование (МГУ, МФТИ, ВШЭ, Бауманка или топовые зарубежные вузы). Условия: — Полный Remote и максимум свободы без корпоративного gatekeeping. — Скорость: идеи становятся live-экспериментами за дни, а не quarters. — 28 дней отпуска + 7 wellness-дней в год без больничных листов. — $1,000 на обустройство хоум-офиса раз в 3 года. — Софинансирование обучения, конференций (50%) и медицинских расходов (до $1,000/год). — Доступ к опциональной A-team программе (опционы / % от выручки) после 1 года работы.