ML/AI Engineer

Описание вакансии

компания "дб ао сбербанк"

департамент развития ai bereke bank создаёт внутреннюю платформу нового поколения: на ней любой сотрудник банка сможет собрать персонального ai-агента из согласованных моделей, корпоративных знаний и инструментов.

мы ищем ml/ai engineer-инженера, который станет инженерным ядром нашей выделенной продуктовой команды.

стек технологий

• core: python (асинхронный стек, fastapi)

• ai / llm: langgraph, langchain, llamaindex, gigachain, mcp (model context protocol)

• data & search: qdrant (или аналоги), hybrid search, graphrag, sql, очереди и брокеры сообщений

• ops & observability: docker, ci/cd, langfuse, современные трейсинг- и мониторинг-системы

чем предстоит заниматься:

• разрабатывать среду исполнения агентов: ядро платформы на python (сессии, долгосрочная и контекстная память, планирование, изоляция пользователей, реестр инструментов).

• создавать каталог коннекторов и навыков: интеграция confluence, jira, gitlab, корпоративной почты, dwh и crm как переиспользуемых инструментов со строгими контрактами, лимитами и политиками доступа.

• строить слой работы со знаниями (rag): пайплайны обработки корпоративных документов, эмбеддинги, гибридный поиск, ранжирование и валидация релевантности ответов.

• выстраивать контур оценки качества (llm evaluation): бенчмарки, offline-оценка, llm-as-a-judge, автотесты и регрессионные прогоны при смене промптов или моделей.

• обеспечивать enterprise-безопасность: совместное проектирование с командами иб и iam (технические аккаунты с минимальными правами, обезличивание/маскирование данных перед отправкой в модели, human-in-the-loop подтверждения, аудит).

• управлять наблюдаемостью и unit-экономикой: трейсинг цепочек вызовов, версионирование, мониторинг расхода токенов и оптимизация стоимости сценариев (целевой ориентир — до 100 ₸ за выполнение).

• развивать автономность агентов: последовательный переход от read-only ассистентов к сценариям с подтверждением и далее к автономным low-risk операциям.

что для нас важно:

• python от 4–5 лет: глубокое понимание асинхронного программирования (asyncio, fastapi) и опыт промышленной разработки масштабируемых backend-систем.

• опыт в agentic ai: практическое понимание декомпозиции задач, вызова инструментов (tool/function calling), протоколов взаимодействия (mcp или аналоги).

• уверенная работа с llm-фреймворками: langgraph / langchain / llamaindex на уровне исходного кода и отладки в production.

• промышленный rag: векторные бд (qdrant или аналоги), чанкинг, эмбеддинги, семантический и гибридный поиск.

• инженерная культура: docker, ci/cd, архитектурное проектирование api (контракты, идемпотентность, устойчивость к сбоям), sql и очереди сообщений.

• llm observability & eval: опыт работы с langfuse или аналогами, настройка приёмочных датасетов и метрик качества.

будет преимуществом:

• опыт создания платформенных решений / sdk и каталогов api для внутренних разработчиков.

• знакомство с оркестраторами долгих распределённых процессов (temporal и др.).

• опыт с graphrag и мультиагентными архитектурами.

• понимание специфики двуязычных (русско-казахских) языковых моделей и оценки их качества.

• опыт внедрения ai-ассистентов (copilot / cursor / claude code) в собственный пайплайн разработки.

что мы предлагаем:

• формат работы: комфортный гибрид (офис в алматы + удалённые дни), гибкое начало рабочего дня.

• влияние на продукт: вы создаете платформу с нуля без легаси, напрямую влияя на архитектуру и стек.

• социальный пакет: дмс, корпоративные скидки и программы развития от банка.