Задачи:
— Проектирование и реализация бэкенд-микросервисов и API, интегрируемых с фундаментальными моделями для обработки документов и чертежей.
— Построение масштабируемых стратегий маршрутизации запросов, кэширования и очереди для вывода, способных выдерживать резкие всплески нагрузки.
— Реализация CI/CD и механизмов наблюдения за состоянием конвейеров вывода (логирование, метрики, оповещения).
— Развёртывание и эксплуатация сервисов в Kubernetes (ответственность за развёртывание, выкатку и проверку здоровья; администрирование кластера обеспечивается платформой/SRE).
— Интеграция сервисов с услугами AWS и обеспечение правильной идентификации доступа (IAM) и наименьшей привилегии для межсервисного взаимодействия.
— Сотрудничество с учёными по данным и инженерами машинного обучения (они отвечают за обучение моделей; вы за интеграцию в производство).
— Формирование производственных практик эксплуатации вывода, включая поддержку инцидентов на уровне службы.
Требования:
— Минимум 5 лет опыта создания промышленных бэкенд-систем и API на Python.
— Опыт проектирования и эксплуатации распределённых микросервисов (масштабируемость, маршрутизация, кэширование, режимы отказов).
— Практический опыт работы с AWS и интеграции внешних API моделей (преимущественно через Bedrock).
— Опыт промышленной эксплуатации сервисов в Kubernetes (ответственность за развёртывание и эксплуатацию приложений; инфраструктура кластера поддерживается платформой).
— Опыт работы с CI/CD, знание GitHub Actions.
— Твердые практические знания по IAM и основным принципам безопасности в облаке.
— Понимание логирования и наблюдаемости, умение проектировать конвейеры для анализа.
— Опыт работы с Terraform или иными инструментами инфраструктуры как кода (IaC).
— Способность ясно и убедительно передавать решения по проектированию систем и предыдущие проекты.
Будет плюсом:
— Опыт интеграции GenAI и LLMs (Bedrock, маршрутизация API, выбор моделей).
— Опыт работы с конвейерами обработки изображений и документов (OCR, предобработка изображений, распознавание технических чертежей).
— Опыт с паттернами оркестровки выводов (асинхронные работники, батчинг, оркестровка GPU) или знакомство с нагрузками на GPU.
— Знание инструментов жизненного цикла ML (MLflow, регистры моделей, трекинг экспериментов).
— Опыт работы с сервисами реального времени и пакетной обработки выводов, хранилищами признаков или производственной средой SageMaker.
Условия:
— Удалённая работа.
— Полная занятость, проектная работа до конца года с возможным продлением.
— Работа в англоговорящей команде, часовой пояс Германии.
Контакты работодателя доступны по кнопке «Откликнуться» после входа.