GPU Performance Engineer

Задачи: — Повышение эффективности утилизации GPU: формирование гипотез, исследование способов повышения эффективности, участие в реализации и внедрении решений. — Формирование рекомендаций и лучших практик по повышению производительности GPU-инфраструктуры. — Оптимизация и профилирование: поиск узких мест в производительности и их устранение с помощью профилировщиков, оптимизация доступа к памяти, ядрам, времени ожидания и пропускной способности. — Развитие инструментов диагностики: создание и улучшение инструментов для выявления и устранения инфраструктурных проблем, влияющих на эффективность утилизации, стабильность и скорость GPU-вычислений для обучения и инференса. — Исследование и внедрение современных решений: изучение новейших подходов к организации инфраструктуры для обучения и инференса, оценка их эффективности и внедрение в проекты. — Анализ архитектуры, тестирование, интеграция: взаимодействие с разработчиками, ML-инженерами и системными архитекторами, участие в оценке аппаратных решений, предложение улучшений для будущих поколений GPU, разработка планов тестирования, формирование бенчмарков, анализ регрессий производительности. Требования: — Знание Python и опыт системного программирования, разработка библиотек или фреймворков. — Опыт работы с PyTorch и распределённым обучением через torch.distributed. — Применение подходов параллелизации (data parallelism, tensor parallelism, pipeline parallelism, expert parallelism) для распределённого инференса или обучения. — Интерес к LLM и MLOps, понимание задач и вызовов эксплуатации больших моделей в продакшене. — Опыт работы с GPU (NVIDIA) и CUDA: понимание архитектуры GPU, разработка или оптимизация алгоритмов под CUDA, использование Nsight, nvprof или аналогов. — Умение оптимизировать производительность GPU-приложений и повышать эффективность утилизации GPU. — Способность анализировать профили и метрики производительности. — Навыки чтения и оптимизации сложного кода. — Эффективная командная работа и готовность делиться знаниями. Будет плюсом: — Уверенное владение C/C++ или аналогичными низкоуровневыми языками. — Опыт работы с библиотеками RL-обучения для LLM: veRL, slime, NeMo-RL, SkyRL и другими. — Опыт работы с библиотеками инференса: vLLM, SGLang, TRTLLM. — Опыт оптимизации под реальные продакшен-нагрузки, работа с low-latency- или real-time-системами.