Responsibilities:
- Deploy LLMs and related models in a closed environment;
- ensure stable, efficient inference.
- Build RAG and AI-agent infrastructure with AI and Data Engineers.
- Establish CI/CD, model versioning, monitoring, access controls, and auditing.
Requirements:
- Higher education in IT and 3+ years’ experience operating production ML/LLM services.
- Linux, Docker, Kubernetes, and Helm experience.
- Deploy LLMs with vLLM, SGLang, or Triton;
- understand inference systems.
- Experience with NVIDIA GPUs, drivers, and CUDA.
- Python, Bash, CI/CD, Prometheus, and Grafana.
Зарплаты и спрос: MLOps-инженер
Сейчас в каталоге 81 вакансия по этому направлению, удалённо можно работать в 27%.
Навыки этой вакансии, которые чаще всего просят по направлению: Python (33%), Docker (31%), Kubernetes (30%), CI/CD (21%), Grafana (20%). В скобках доля вакансий направления.