ML developer + GO

Требования к специалисту: — Уверенный опыт работы с LLM/SLM (Few-shot learning, prompt engineering) и BERT (классификация сценариев и интентов). — Практический опыт finetuning LLM (PEFT, LoRA/QLoRA) под узкие прикладные задачи. — Уверенный дебаг LLM: умение быстро понять, почему модель ответила не так, и исправить это промптом, гиперпараметром или файнтюном. — Опыт дообучения и оптимизации TTS-моделей. — Опыт работы и интеграции современных ASR-систем (в частности, GigaAMv2). — Опыт работы как с графовыми/сценарийными диалоговыми движками, так и с LLM-агентами. — Высокая скорость диагностики проблем в инференсе, локализации багов и принятия инженерных решений. — Уверенное владение Python (PyTorch, huggingface, фреймворки инференса) и Go. — Опыт работы с оптимизацией инференса под low-latency (vLLM, TensorRT-LLM, Triton Inference Server, ONNX Runtime). — Практика работы со потоковым аудио в реальном времени (streaming ASR/TTS, gRPC-контракты). — GoLang: базовое понимание дизайна сервисов (SOLID, DRY, KISS); типизация (строки, числа, слайсы и мапы); примитивы синхронизации и конкуренция (горутины, каналы); указатели и работа с ними; observability. — Будет плюсом: опыт работы с gRPC; умение настроить инфраструктуру (k8s/inventory); знания работы TCP. Задачи: — Поэтапный перевод системы с графа сценариев и скиллов на управляемый LLM-based диалог. — Дебаг голосового пайплайна (поиск причин high latency, галлюцинаций LLM, проблем с передачей аудио, графовых ошибок и т.п.). — Оперативное принятие архитектурных решений и их самостоятельная реализация в коде. — Работа с диалоговым стеком и NLP: поддержка и быстрая отладка few-shot классификации сценариев на базе Qwen и классификаторов на BERT. — Учёт краевых случаев, исправление ошибочных срабатываний интентов. — При необходимости — finetuning локальных LLM (извлечение сущностей, удерживание инструкций). — Работа с речевым стеком: интеграция и поддержка ASR на базе GigaAMv2 (отладка качества распознавания, работы VAD и передачи текста дальше по пайплайну). — Дообучение и настройка инференса собственных и опенсорсных TTS и систем клонирования голоса для достижения нужного качества звучания и скорости работы.