ML/AI Lead

MDiet — early-stage HealthTech стартап, разрабатывающий AI-powered платформу, которая помогает снижать количество повторных госпитализаций пациентов. Продукт ориентирован на рынок здравоохранения США. Возможна релокация в США при успешном росте компании, обсуждается индивидуально. Tech Stack: • LangGraph + LangChain / Agentic AI • vLLM + Hugging Face • PyTorch + PEFT / LoRA / QLoRA • Vector databases: pgvector, Qdrant, Weaviate, Chroma, Pinecone • Advanced RAG, Prompt Engineering, Embeddings • FastAPI + PostgreSQL • Docker + Kubernetes + async processing: Arq / Celery / Redis Streams • Apache Airflow для data pipelines • AWS Cloud: EC2, S3, SageMaker, Lambda, RDS, Bedrock • Structured output: Outlines / Guidance / Instructor • Evaluation & observability: Langfuse, RAGAS / DeepEval, Prometheus + Grafana • MLOps practices Задачи: • Проектирование и разработка multi-step LLM agents и pipelines для обработки медицинских данных • Разработка production RAG-систем с высоким уровнем grounding и качеством citation • Деплой и оптимизация self-hosted LLM inference через vLLM с фокусом на cost и throughput optimization • Fine-tuning open-source моделей на domain-specific medical data с измеримым улучшением результата • Построение data pipelines и versioning для документов, embeddings и training data • Создание evaluation frameworks, guardrails и систем контроля hallucinations • Реализация reliable structured output и data extraction • Тесное взаимодействие с physicians и Platform Architect Требования: • Сильный hands-on опыт с production LLM systems: RAG, agents, inference • Опыт fine-tuning open-source LLMs: LoRA / QLoRA / PEFT, с измеримыми результатами • Опыт построения data pipelines и versioning для LLM / RAG workloads • Сильные навыки в evaluation, hallucination reduction и structured output • Production Python + FastAPI + async processing • Опыт с self-hosted inference: vLLM или аналогичные решения • Опыт GPU optimization • Английский язык на уровне C1: strong written and spoken communication skills • Bachelor’s degree или выше в Computer Science, Artificial Intelligence, Machine Learning, Data Science или смежной технической области • 5+ лет опыта в ML/AI • 1.5–2+ года опыта в production LLM projects • Опыт с MLOps Будет плюсом: • Опыт в medical / clinical NLP или regulated domains • Cost modeling и optimization of LLM workloads • MLOps и production fine-tuning pipelines • Apache Airflow, Prometheus / Grafana или AI Solution Architecture • Publications in relevant fields Условия: • Работа в early-stage HealthTech startup с продуктом для US healthcare market • Возможность участвовать в создании AI-powered платформы с реальным влиянием на healthcare-процессы • Офисный формат в Астане первые 7–9 месяцев, далее возможен hybrid/remote • Зарплата $4 000 – $5 000 USD gross + equity • Возможность релокации в США при успешном росте компании, обсуждается индивидуально