Задачи:
— Проектировать и развивать runtime для работы с LLM и AI-агентами, участвовать в проектировании собственного orchestration / harness layer вокруг LLM;
— Управлять контекстом модели и историей диалогов;
— Разрабатывать agent loop и управлять жизненным циклом агентных сценариев;
— Проектировать инструменты для агентов и интеграции с корпоративными системами;
— Обеспечивать контроль доступа, согласованность состояния и обработку ошибок удалённых операций;
— Развивать RAG и интеграцию корпоративных данных в LLM-приложения;
— Работать со structured output, развивать потоковые диалоги (streaming), обеспечивать хранение истории диалогов и сохранение состояния;
— Развивать наблюдаемость AI-вызовов, диагностировать и улучшать поведение LLM и агентов.
— Развивать архитектуру модульного backend-приложения, REST API и бизнес-логику, включая валидацию, обработку ошибок и документацию;
— Проектировать модели данных и миграции, оптимизировать запросы и кеширование;
— Развивать аутентификацию, авторизацию и ролевую модель; контролировать доступ к внешним данным и управлять подключениями;
— Программно управлять контейнерными средами: от создания и ожидания готовности до обработки сбоев и освобождения ресурсов;
— Писать тесты, диагностировать production-проблемы, развивать наблюдаемость, согласовывать API с frontend-разработчиками.
Требования:
— Опыт backend-разработки от четырёх лет;
— Практический опыт создания LLM-приложений;
— Опыт работы с Java и backend;
— Опыт промпт инжиниринга или простого подключения ChatGPT / OpenAI API недостаточен.
Контакты работодателя доступны по кнопке «Откликнуться» после входа.