- Оптимизация и масштабирование LLM-инференса (SGLang, vLLM, TensorRT-LLM). - Работа с моделями до 1T+ параметров и распределённой GPU-инфраструктурой.
Задачи:
— Оптимизация и масштабирование LLM-инференса (SGLang, vLLM, TensorRT-LLM).
— Работа с моделями до 1T+ параметров и распределённой GPU-инфраструктурой.
— Обучение и дообучение LLM, развитие AI-агентов.
— Техническое руководство ML-инженерами и определение технической стратегии.
Требования:
— Production-опыт оптимизации LLM-инференса.
— Знание распределённых вычислений, MoE, KV-cache, квантования и GPU-профилирования.
— Опыт обучения LLM и постобучения (RLHF/DPO).
— PyTorch, Transformers, Python.
— Техническое лидерство и готовность писать код самостоятельно.
— Продвинутый английский или русский.
— Будет плюсом: CUDA/Triton, мультимодальные модели, open-source вклад, научные публикации.
Условия:
— Полностью удалённая работа, полная занятость.
— Возможность получить долю в компании и вырасти до Head of ML.
— 28 дней отпуска + 7 wellness-дней.
— Медицинская поддержка до $1 000 в год или страховка.
— Компенсация рабочего места, обучения и конференций.
Контакты работодателя доступны по кнопке «Откликнуться» после входа.
81/100
Хорошая вакансия
Оценка от Job Hunters AI
Lead ML Engineer; зарплата не указана; понятные задачи; гибкий формат; понятный рост; хороший соцпакет.
Из чего сложилась оценка. Нажмите, чтобы узнать подробнее
Зарплата не указана
В объявлении отсутствуют любые сведения о размере оплаты труда.