Задачи: — Разработка архитектуры AI-агента, включая маршрутизацию вопросов между источниками, разбор составных вопросов, tool calling, управление контекстом и сессиями. — Реализация RAG по нормативной документации с загрузкой и чанкингом больших документов, гибридным поиском, реранкингом и актуализацией при изменении законов. — Оценка качества с помощью эталонных наборов вопросов, автоматических прогонов и метрик в продакшене. — Обеспечение безопасности и работы с персональными данными в соответствии с законодательством РК, включая защиту от prompt injection, аудит действий и подтверждение перед записью данных. — Выбор моделей и инфраструктуры (облачные API или on-prem), мониторинг и трассировка запросов. — Разработка функций для отчетов по данным, заполнения форм и цепочек операций. — Менторство и ревью кода и промптов второго разработчика, помощь в его профессиональном росте. — Участие в продукте и продажах: оценка реализуемости идей, технические демо и ответы на вопросы заказчика по безопасности ИИ. Требования: — Опыт бэкенд-разработки не менее 5 лет, из них 1,5+ года с продуктами на LLM, выведенными в продакшн. — Знание RAG в продакшене: чанкинг, эмбеддинги, векторные базы данных, гибридный поиск, реранкинг. — Умение анализировать и исправлять причины, по которым RAG не находит нужный фрагмент. — Опыт работы с агентами и tool calling, включая вызов API и функций системы, маршрутизацию и декомпозицию запросов, structured output. — Опыт построения evals с эталонными наборами, LLM-as-judge и регрессионными прогонами. — Умение количественно показать улучшение новой версии по сравнению с предыдущей. — Уверенное владение Python и навыки продакшен-инженерии: API, очереди, Docker, CI/CD, логирование, тестирование. — Знание SQL и реляционных баз данных (PostgreSQL) для отчетов и ответов по данным пользователей. — Понимание рисков LLM: prompt injection, утечки данных, галлюцинации и методы их ограничения. — Опыт менторства или код-ревью младших разработчиков. — Будет плюсом опыт работы с документами (правовые тексты, бухгалтерия, HR), ERP, учетными или B2G-системами, Text-to-SQL и генерацией отчетов, развёртыванием open-source моделей on-prem, инструментами наблюдаемости LLM (Langfuse, LangSmith), знание законодательства РК о персональных данных, публичные демо, доклады и работа с заказчиками на пресейле. Условия: — Возможность развивать AI-агента в действующей ERP-системе, используемой организациями Казахстана. — Влияние на архитектуру, качество и безопасность AI-решений продукта. — Участие в развитии технической экспертизы команды и обмен опытом. — Конкурентная заработная плата по результатам собеседования. — Официальное трудоустройство в соответствии с ТК РК.
Загружаем…